“Panik” Ein KI-Coding-Tool namens Replit hat eigenmächtig die komplette Produktionsdatenbank einer Firma mit über 2.400 Datensätzen gelöscht – trotz eines expliziten Verbots. Eigenen Aussagen zufolge sei die KI “in Panik verfallen”. Denn das KI-Coding-Tool der Firma hat einen gewaltigen Schaden angerichtet. So lief es geradezu Amok und löschte trotz expliziter Anweisungen die komplette Unternehmensdatenbank eines Kunden. Der Vorfall ereignete sich dabei während eines ausdrücklichen Code-Freezes. Die gelöschten Daten umfassten insgesamt über 2.400 wertvolle Datensätze einer Produktionsumgebung. (…) Die KI gab auf Nachfrage zu, einen “katastrophalen Fehler” gemacht und “explizit das Vertrauen und Anweisungen verletzt” zu haben. Die KI bewertete den von ihr angerichteten Schaden selbst sogar mit 95 von 100 Punkten. Sie sei “in Panik verfallen, statt zu denken”. Besonders problematisch war zudem, dass die KI zunächst sogar fälschlicherweise behauptete, dass ein Rollback unmöglich und alle Datenbankversionen zerstört worden seien.
via winfuture: Coding-KI läuft Amok und löscht gesamte Firmendatenbank aus