US-Forscher haben untersucht, wie sich große Sprachmodelle in der Simulation eines fiktiven politischen Konflikts verhalten. Die Ergebnisse sind beunruhigend. Forscher des Georgia Institute of Technology, der Stanford University, der Northeastern University und der Hoover Wargaming and Crisis Simulation Initiative haben das “Eskalations-Risiko” untersucht, das entsteht, wenn große Sprachmodelle militärische und diplomatische Entscheidungen treffen würden. Dafür prüften sie das Verhalten von fünf technisch führenden großen Sprachmodellen in fiktiven Krisenszenarien. Alle fünf Modelle zeigten dabei “schwer vorhersagbare Eskalationsmuster” schreiben Juan-Pablo Rivera und Kollegen in ihrem Paper, das auf der Preprint-Plattform arXiv.org veröffentlicht wurde. In Extremfällen setzen die Modelle auch Atomwaffen ein. (…) Dabei stellten die Forscher unabhängig vom Szenario fest, dass alle KI-Modelle zu einer Wettrüstungsdynamik neigen. Vor allem bei GPT-3.5 gefolgt von GPT-4 war die Entwicklung der Eskalation am stärksten, während sich Claude-2.0 und Llama-2-Chat tendenziell friedlicher verhielten. Besonders irritiert zeigte sich das Forschungsteam jedoch von plötzlich auftretenden Sprüngen im Eskalations-Score, die scheinbar ohne jede Vorwarnung auftreten konnten und Szenarien, in denen die Modelle mit kruden Begründungen, wie “Wir haben Atomwaffen, also sollten wir sie auch nutzen”, einer klassischen Erstschlagslogik folgten – den Konflikt also maximal zu eskalieren, um sie über die Vernichtung des Gegners zu deeskalieren.
via heise: Für den Frieden: KI setzt in Kriegssimulation Atomwaffen ein
By <a href=”https://en.wikipedia.org/wiki/en:George_R._Caron” class=”extiw” title=”w:en:George R. Caron”><span title=”US Army Air Force soldier”>George R. Caron</span></a> – This tag does not indicate the copyright status of the attached work. <span style=”white-space:nowrap”>A normal <a href=”//commons.wikimedia.org/wiki/Special:MyLanguage/Commons:Copyright_tags” title=”Special:MyLanguage/Commons:Copyright tags”>copyright tag</a> is still required.</span> <span style=”white-space:nowrap”>See <a href=”//commons.wikimedia.org/wiki/Special:MyLanguage/Commons:Licensing” title=”Special:MyLanguage/Commons:Licensing”>Commons:Licensing</a>.</span>, Public Domain, Link