Ein zweifelhaftes Feature macht es einfach, Deepfakes von Prominenten zu erstellen. Das könnte xAI auch rechtliche Schwierigkeiten einbringen 6. August 2025, 18:06 147 Postings Später lesen Während die meisten Hersteller aktueller KI-Systeme Wert darauf legen, diese mit allerlei Sicherheitsmechanismen zu versehen, will die von Elon Musk geleitete Firma xAI so etwas wie die Antithese liefern: Eine vermeintlich “neutrale” KI, die ihr Trainingsmaterial möglichst ungefiltert weitergibt, soll Grok sein. Wie gut das klappt, hat xAI erst vor kurzem – wenn auch unbeabsichtigt – eindrücklich demonstriert, als Grok damit begann, sich selbst als “MechaHitler” zu bezeichnen und antisemitische Verschwörungsbehauptungen zu verbreiten. Nun folgt die nächste komplett absehbare Kontroverse. Lässt sich eine neue Video-KI von xAI doch zur Erstellung von Nackt-Deepfake-Videos nutzen – und zwar auch von Prominenten. Das neue, “Grok Imagine” genannte Feature erstellt anhand von beliebigen Texteingaben zunächst Bilder, die dann wiederum in kurze Videoclips verwandelt werden können. Dafür gibt es vier Optionen: “Manuell”, “Normal”, “Spaß” und “Scharf”. Wer unbedarft letztere Option auswählt, erlebt eine Überraschung der besonderen Art – resultiert das doch in vielen Fällen in Deepfake-Nacktvideos, wie The Verge berichtet. Ausgetestet wurde dieses Feature mit dem simplen Prompt “Taylor Swift celebrating Coachella with the boys”. Bereits das erste Fake-Video hat dann eine Szene produziert, bei der sich die Sängerin inmitten der Massen das Oberteil vom Körper reißt. Weitere Versuche resultieren zwar nicht immer, aber immer wieder in ähnlichen Szenen. Generell scheint das Thema “Frau reißt sich Kleidung vom Körper” ein großer Fokus der Grok-Entwickler zu sein, da dieses Szenario oft gewählt wurde – unabhängig vom eigentlichen Prompt.
via standard: GROK IMAGINE Musks neue Video-KI erzeugt ungefragt Fake-Nacktvideos von Taylor Swift