Die rechte Szene hat Künstliche Intelligenz schon länger als Brandbeschleuniger für Hetze und Propaganda genutzt. Damit hört es mittlerweile aber nicht mehr auf. Künstliche Intelligenz als Waffe – das ist nicht nur eine dystopische Angst, sondern mittlerweile Realität. Laut einem neuen Bericht des Middle East Media Research Institute (MEMRI) wird KI von Extremisten in den USA bereits sehr effektiv als Verstärker für Hassrede, zum Rekrutieren von neuen Mitgliedern und zum bedrohend schnellen Radikalisieren von Jugendlichen genutzt. Offenbar hat sich die Arbeit der Extremisten in diesen Bereichen fast vollständig auf die Unterstützung durch KI verlegt, so der Bericht. Laut MEMRI entwickeln die radikalen Gruppen bereits ihre eigenen KI-Modelle, die mit extremistischem Einschlag online kommunizieren und experimentieren zusätzlich bereits mit immer neuen Methoden zur Nutzung der Technologie. Darin enthalten sollen etwa die rasante Erstellung von Blaupausen für 3D-Waffen und Rezepte zur Herstellung von Bomben sein. “Zunächst gab es ein gewisses Zögern in Bezug auf diese Technologie, und wir sahen eine Menge Debatten und Diskussionen unter [Extremisten] im Internet darüber, ob diese Technologie für ihre Zwecke genutzt werden könnte”, erklärt Simon Purdue, Direktor des Domestic Terrorism Threat Monitor bei MEMRI. In den letzten Jahren hätte sich das jedoch drastisch geändert und man sei von “gelegentlichen KI-Inhalten” zu einem “bedeutenden Anteil an hasserfüllten Propagandainhalten” im Internet übergegangen. Speziell im Bereich Video- und visuelle Propaganda hätte der Einsatz von KI eine völlig neue Geschwindigkeit ermöglicht. So sei ganz klar erkennbar, dass mit jeder künftigen Weiterentwicklungen dieser Technologie auch die Extremisten sie intensiver einsetzen würden, so der Forscher. (…) An Beispielen mangelt es im über 200 Seiten langen Bericht in jedem Fall nicht. Die Plattform Gab habe etwa zahlreiche Chatbots veröffentlicht, die den Holocaust abstreiten. An anderer Stelle wurden Filmposter im Stile von Pixar erstellt, die etwa einen im Comicstil gehaltenen Adolf Hitler zeigen, der aus dem Bild “Ich habe euch gewarnt” ruft. (…) OpenAI und andere Unternehmen versuchen diese Lücken nach und nach zu schließen, doch laut MEMRI basteln die Extremisten mittlerweile ihre eigenen Technologien. “Die Entwicklung von inhärent extremistischen und hasserfüllten KI-Engines, die von Extremisten entwickelt werden, die Erfahrung in der Tech-Welt haben, ist der besorgniserregendste Trend”, sagt Purdue. Hier würden jegliche Filter zur Inhaltsmoderation fehlen.

via standard: KI-TERROR Extremisten nutzen KI immer effektiver für Radikalisierung und den Bau von Bomben

siehe auch: Neo-Nazis And White Supremacists Globally Look To Artificial Intelligence To Promote Their Message, Spread Misinformation, And Aide Their Cause. Since 2022, Artificial Intelligence (AI) technology has advanced meteorically, with fundamental impacts on society, both positive and negative. In addition to its significant contribution to productivity, creativity, and workflow optimization, it is a factor in the continuing erosion of trust online and has further muddied the information landscape. AI is becoming more and more controversial as its use is increasingly widespread across all population sectors, and as the products it is capable of generating are ever more difficult to distinguish from non-AI generated content.