Im Frühjahr soll in Washington ein Geheimdienstbericht einen Militäreinsatz in Gang gesetzt haben. Dem Sender CNN zufolge waren die Informationen „vollständig falsch“. Sie stammten von Künstlicher Intelligenz. Es ist ein Szenario, das angesichts der angespannten geopolitischen Lage alle befürchten: Falsche Informationen von Künstlicher Intelligenz (KI) lösen einen militärischen Einsatz aus, der unkontrollierbar eskaliert. Erst Anfang der Woche mahnten deshalb Experten aus den KI-Vorreiterstaaten USA und China bei einem Sicherheitsforum in Peking dringend einen Dialog beider Regierungen an. Wie wichtig dieser wäre, zeigt ein Vorfall, der sich einem Bericht des US-Senders CNN zufolge in diesem Frühjahr inmitten des Krieges der USA und Israels gegen den Iran abspielte – und „fast einen Krieg ausgelöst“ haben soll, wie eine von mehreren Quellen demnach sagte. Wie wichtig dieser wäre, zeigt ein Vorfall, der sich einem Bericht des US-Senders CNN zufolge in diesem Frühjahr inmitten des Krieges der USA und Israels gegen den Iran abspielte – und „fast einen Krieg ausgelöst“ haben soll, wie eine von mehreren Quellen demnach sagte. Was genau war passiert? Dem US-Militär lag CNN zufolge ein Geheimdienstbericht vor: Ein chinesisches Schiff transportierte demnach im Nahen Osten Komponenten für Atomwaffen. In Washington fiel eine beinahe folgenschwere Entscheidung: Der Frachter sollte durch US-Truppen geentert werden, bestätigten demnach vier Quellen dem Sender. Der Einsatz war bereits angelaufen: Maschinen der Armee seien schon in der Luft gewesen. Wie es weiter heißt, prüften Beamte erst vor der geplanten Operation den Geheimdienstbericht genauer. Dieser war demnach von einem Analysten des Spezialoperationskommandos verfasst – und, wie sich herausstellte, mithilfe von KI erstellt worden. CNN ist eines von drei Medienhäusern, deren Vertreter am Freitag von US-Präsident Trump aus dem Weißen Haus verbannt wurden. Demnach war das Material, das das Schiff transportierte, von einem Chatbot unzutreffend identifiziert worden. Welche Ladung das Schiff in Wirklichkeit hatte, blieb demnach unklar. Der Bericht war „vollständig falsch“, zitiert der Sender eine seiner Quellen. (…) In dem CNN-Bericht heißt es weiter, nach Ansicht einiger älterer Geheimdienstbeamter – selbst für diejenigen, die den Einsatz von KI innerhalb des Militärs grundsätzlich unterstützen – habe KI den Druck auf Analysten erhöht, Informationen schneller zu erstellen und zu verbreiten, wodurch sich die Tür für Fehler öffne. Besonders junge Analysten, sagten demnach mehrere Quellen, seien mit diesen Werkzeugen aufgewachsen und vertrauten ihnen eher unkritisch. „KI ermöglicht es einem, schneller zu einer schlechten Idee zu gelangen“, sagte eine der Quellen.
via tagesspiegel: „Hätte fast einen Krieg ausgelöst“: US‑Truppen bereiteten offenbar Angriff auf Schiff aus China vor – nach KI-Fehler
siehe auch: Exclusive: US military had close call after using AI for false intelligence report, sources say. The intelligence report, circulated across the US military this spring in the midst of the war with Iran, immediately set off alarm bells: A Chinese ship in the Middle East was transporting components of a nuclear weapons program. The US military swung into action with plans to intercept the vessel, according to four sources familiar with the episode. According to two of the sources, armed members of the US military were preparing to board the ship. Military planes were in the air, one of those sources and another source familiar with the incident said. It was only just before the planned operation that officials dug deeper into the report put together by a special operations command analyst and found it had been generated with the help of artificial intelligence (AI) — and that a chatbot the analyst had used inaccurately identified the material the ship was carrying. CNN was not able to learn what the misidentified cargo was. The report, according to one of the sources, was “entirely false.” But it also “almost started a war,” the source said. Any US operation against a Chinese vessel could have risked spiraling into an armed conflict between the two nations.