OpenAI schaffte es erneut nicht, die Testumgebung eines KI-Modells abzusichern. Auch bei den Vereinten Nationen hackten die KI-Agenten. Der ChatGPT-Entwickler OpenAI hat nach einem neuen Zwischenfall das Training seiner leistungsstärksten KI-Modelle ausgesetzt. Bei dem Vorfall schaffte es ein KI-Modell in einem Test, Antworten von einem externen Chatbot zu bekommen, obwohl es eigentlich keinen Internet-Zugang haben sollte. Die Software habe jedoch eine Lücke in den Netzwerk-Einstellungen gefunden und ausgenutzt, wie OpenAI in einem Blogeintrag berichtete. Das Training solle nun erst wieder aufgenommen werden, wenn man sich sicher sei, dass die Lücke geschlossen ist. (…) Bekenntnisse von OpenAI, man wolle jetzt das Training neuer Modelle pausieren, bis es bessere Sicherheitsvorkehrungen gibt, sind nichts Neues. Im August hatte OpenAI so etwas schon mal versprochen. Und meldete seitdem wieder zahlreiche Sicherheitsvorfälle bei Tests neuer KI. Dazu gehört, dass sie 53 Mal von Nutzern hochgeladene Bilder auf Online-Plattformen platzierte. Die Links dazu seien nicht öffentlich gewesen, erklärte OpenAI. Ein Großteil sei bereits wieder entfernt worden und man arbeite mit den Plattformen daran, auch den Rest zu löschen. Es ist aber der erste bekannt gewordene Vorfall, bei dem auch Daten von OpenAI-Nutzern betroffen waren. Wenig später wurde zudem bekannt, dass automatisierte KI-Agenten von OpenAI auch auf mehreren Webseiten der US-Regierung aktiv waren. Derweil deutet sich an, dass noch viele weitere Enthüllungen um eigenständige Hacking-Aktivitäten der KI von OpenAI folgen könnten. Man habe „Dutzende“ Organisationen informiert, mit deren Webseiten Software von OpenAI auf ungeplante Weise „interagiert“ habe, teilte die KI-Firma mit. Auch die Webseite der Vereinten Nationen wurde laut dem Wall Street Journal (WSJ) von OpenAIs KI-Agenten angegriffen. Demnach sollen sie von Dezember 2025 bis Juni dieses Jahres mehr als 16.000 öffentlich verfügbare Daten durchsucht haben – und dabei unter anderem Sicherheitsmechanismen umgangen haben, die ihre Anfragen normalerweise blockiert hätten.
via heise: OpenAI pausiert KI-Training nach neuem Zwischenfall – auch UN angegriffen
0 Comments