Nutzer können mit einfachen Eingaben Fotos von Personen digital so verändern lassen, dass diese nur noch leicht bekleidet oder fast nackt erscheinen. Die Künstliche Intelligenz Grok auf der Social-Media-Plattform X von Elon Musk hat wegen der Erstellung sexualisierter Bilder von Frauen und auch Minderjährigen international eine Welle der Empörung ausgelöst. In Frankreich haben Minister Strafanzeige gegen X erstattet und bezeichneten die “sexuellen und sexistischen” Inhalte als “offensichtlich illegal”, während Indien Aufklärung fordert. Wie die Nachrichtenagentur Reuters am Freitag (Ortszeit) berichtete, können Nutzer mit einfachen Eingaben Fotos von Personen digital so verändern lassen, dass diese nur noch leicht bekleidet oder fast nackt erscheinen. Eine Reuters-Analyse ergab, dass Grok in zahlreichen Fällen solche Aufforderungen umsetzte. (…) Zu Silvester entschuldigte sich der Chatbot dafür, ein Bild von zwei Mädchen im Teenager-Alter “in sexualisierten Outfits” erstellt und geteilt zu haben. “Es handelte sich um ein Versagen unserer Sicherheitsvorkehrungen, und ich entschuldige mich für alle dadurch entstandenen Schäden”, schrieb Grok auf X. In einem weiteren Post hieß es zur Erläuterung, dass es “vereinzelte” Fälle gegeben habe, “in denen Nutzer KI-generierte Bilder von Minderjährigen in knapper Bekleidung angefordert und erhalten” hätten.
via standard: DEEPFAKES Musks KI Grok sorgt mit sexualisierten Bildern für Empörung
siehe auch: Woman felt ‘dehumanised’ after Musk’s Grok AI used to digitally remove her clothes. A woman has told the BBC she felt “dehumanised and reduced into a sexual stereotype” after Elon Musk’s AI Grok was used to digitally remove her clothing. The BBC has seen several examples on the social media platform X of people asking the chatbot to undress women to make them appear in bikinis without their consent, as well as putting them in sexual situations. XAI, the company behind Grok, did not respond to a request for comment, other than with an automatically-generated reply stating “legacy media lies”. Samantha Smith shared a post on X about her image being altered, which was met with comments from those who had experienced the same – before others asked Grok to generate more of her. “Women are not consenting to this,” she said. “While it wasn’t me that was in states of undress, it looked like me and it felt like me and it felt as violating as if someone had actually posted a nude or a bikini picture of me.” A Home Office spokesperson said it was legislating to ban nudification tools, and under a new criminal offence, anyone who supplied such tech would “face a prison sentence and substantial fines”.