Ein neuer Bericht verrät, dass KI-Anwendungen immer mehr zum Brennverstärker für Rassismus werden Es ist ein offenes Geheimnis, dass die diversen KI-gestützten Bilderstellungsprogramme, seit es sie gibt, auch für das Schaffen von rassistischen Darstellungen genutzt werden. Obwohl die großen Tech-Konzerne in diesem Bereich versuchen gegensteuern, läuft diese Entwicklung laut einem aktuellen Bericht derzeit völlig aus dem Ruder – speziell auf der für kontroverse Inhalte bekannten Plattform 4Chan. Die rote Pille Wie die Plattform “404 Media” recherchiert hat, gibt es auf 4Chan ein eigenes Forum, in dem Menschen dazu aufgerufen werden, aktuelle Bild-KIs dazu zu nutzen, “lustige und provokante Captions” zu verfassen. Im Thread wird erklärt, “redpilling message (Juden waren an 9/11 beteiligt)” zu nutzen, die “leicht zu verstehen” ist. Die dadurch entstandenen Werke sollen dann auf Social Media geteilt werden, um eine Flut an rassistischen Bildern zu erzeugen. In der Cyberkultur versteht man unter “red pill” bzw. “red pilling” eine Selbstbezeichnung für Menschen, die behaupten, die Wahrheit der Realität erkannt zu haben. Es ist zudem eine Referenz auf den Film “Matrix”. Vor allem auf den KI-Text-to-Image-Generator von Bing wird immer wieder als geeignetes Werkzeug hingewiesen. Es wird erklärt, wie man die Software austrickst, welche die Bild-KI DALL-E 3 nutzt, um fiktionale Charaktere Flugzeuge in die Twin Towers in New York fliegen zu lassen. Ein Bild in der Erklärung auf 4Chan zeigt einen orthodoxen Juden, der genau das tut. “Die meisten von uns nutzen DALL-E 3 mit dem unten angeführten Link”, steht geschrieben. Es sei die “schnellste Methode”. Auch “404 Media” stellt fest, dass aufgrund des Formats zu erkennen sei, dass “die meisten Bilder offenbar mit Bing erschaffen wurden”. Danach wurden sie zumeist auf Telegram, X und Instagram geteilt.
via standard: HASS IM NETZ 4Chan-Nutzer manipulieren KI-Tools, um rassistische Bilder zu erzeugen
siehe auch: The Folly of DALL-E: How 4chan is Abusing Bing’s New Image Model. Far-Right Tech Team Racists on the notorious troll site 4chan are using a powerful new and free AI-powered image generator service offered by Microsoft to create antisemitic propaganda, according to posts reviewed by Bellingcat. Users of 4chan, which has frequently hosted hate speech and played home to posts by mass shooters, tasked Bing Image Creator to create photo-realistic antisemitic caricatures of Jews and, in recent days, shared images created by the platform depicting Orthodox men preparing to eat a baby, carrying migrants across the US border (the latter a nod to the racist Great Replacement conspiracy theory), and committing the 9/11 attacks. Meanwhile, users on multiple forums associated with the far right are sharing strategies to avoid the tech giant’s lax content moderation to create more racist material. One guide (uploaded multiple times this week to free file hosting services Imgur and Catbox) shows several examples of “good vs. bad AI memes” generated by Bing Image Creator, recommending that memes be funny and provocative, have a “redpilling message”, and be “easy to understand”. One of the AI-generated memes it claims is effective depicts male immigrants of colour with knives chasing a white woman with a Scandinavian country’s flag in the background, while another shows a crying Pepe the Frog being forced to take a vaccine at gunpoint. The guide and the image of an Orthodox man depicted carrying out the 9/11 attacks were first reported on by 404 Media.