Internet

#DEEPFAKES – Musks KI #Grok sorgt mit sexualisierten Bildern für Empörung

Nutzer können mit einfachen Eingaben Fotos von Personen digital so verändern lassen, dass diese nur noch leicht bekleidet oder fast nackt erscheinen. Die Künstliche Intelligenz Grok auf der Social-Media-Plattform X von Elon Musk hat wegen der Erstellung sexualisierter Bilder von Frauen und auch Minderjährigen international eine Welle der Empörung ausgelöst. In Frankreich haben Minister Strafanzeige gegen X erstattet und bezeichneten die “sexuellen und sexistischen” Inhalte als “offensichtlich illegal”, während Indien Aufklärung fordert. Wie die Nachrichtenagentur Reuters am Freitag (Ortszeit) berichtete, können Nutzer mit einfachen Eingaben Fotos von Personen digital so verändern lassen, dass diese nur noch leicht bekleidet oder fast nackt erscheinen. Eine Reuters-Analyse ergab, dass Grok in zahlreichen Fällen solche Aufforderungen umsetzte. (…) Zu Silvester entschuldigte sich der Chatbot dafür, ein Bild von zwei Mädchen im Teenager-Alter “in sexualisierten Outfits” erstellt und geteilt zu haben. “Es handelte sich um ein Versagen unserer Sicherheitsvorkehrungen, und ich entschuldige mich für alle dadurch entstandenen Schäden”, schrieb Grok auf X. In einem weiteren Post hieß es zur Erläuterung, dass es “vereinzelte” Fälle gegeben habe, “in denen Nutzer KI-generierte Bilder von Minderjährigen in knapper Bekleidung angefordert und erhalten” hätten.

via standard: DEEPFAKES Musks KI Grok sorgt mit sexualisierten Bildern für Empörung

siehe auch: Woman felt ‘dehumanised’ after Musk’s Grok AI used to digitally remove her clothes. A woman has told the BBC she felt “dehumanised and reduced into a sexual stereotype” after Elon Musk’s AI Grok was used to digitally remove her clothing. The BBC has seen several examples on the social media platform X of people asking the chatbot to undress women to make them appear in bikinis without their consent, as well as putting them in sexual situations. XAI, the company behind Grok, did not respond to a request for comment, other than with an automatically-generated reply stating “legacy media lies”. Samantha Smith shared a post on X about her image being altered, which was met with comments from those who had experienced the same – before others asked Grok to generate more of her. “Women are not consenting to this,” she said. “While it wasn’t me that was in states of undress, it looked like me and it felt like me and it felt as violating as if someone had actually posted a nude or a bikini picture of me.” A Home Office spokesperson said it was legislating to ban nudification tools, and under a new criminal offence, anyone who supplied such tech would “face a prison sentence and substantial fines”.

By , ago

Exclusive: Undercover investigation reveals Arizona neo-Nazi group poses ‘credible threat’ to Jewish community – #NAO

The JC has obtained disturbing messages from a Telegram channel run by the National American Order Two posters sent via internal messages, the left of which appeared on Tucson Jewish community centre’s window (Image: Arkanum) A neo-Nazi cell that poses a “credible threat” to Jewish communities has been exposed after its closed Telegram channel was infiltrated by undercover digital investigators, the JC can reveal. Arkanum, the organisation which gained access to the National American Order’s (NAO) messages, told the JC it has reason to believe that a violent attack is “likely”. Investigators traced the vandalism of a Jewish centre in Tucson, Arizona, on December 16 back to the NAO and saw pictures and private messages that indicated responsibility. The message, which accompanies an image of the defacement, was sent on December 17 and read: “One of our members of the AZ [Arizona] cell visited Tucson’s Jewish community centre!” The member in question put up a swastika-laden poster in the window of the centre, which matches one shared internally by NAO, bearing the caption: “Law enforcement are political soldiers. They protect the filth of ‘democracy’.” Further evidence of NAO’s accountability, Arkanum says, comes from an internal video of an individual believed to be a member of the cell at the scene. Another poster, which was not left at the centre but was shared on the channel, read: “Wake up white European. The US Government bows down to the k***.” However, it was only when investigators started delving into the contents of the Telegram channel that the scale of the threat posed by the NAO was uncovered.

via reddit: Exclusive: Undercover investigation reveals Arizona neo-Nazi group poses ‘credible threat’ to Jewish community

By , ago

Canadian neo-Nazi (Matthew Althorpe) was ‘man behind the curtain’ of global terror attacks, Crown says, calling for 20-year sentence – #atomwaffendivision #awd #terror

Niagara man Matthew Althorpe “unleashed something that cannot be stopped,” a prosecutor told the judge By Jacques Gallant Courts and Justice Reporter Toronto Star While a Niagara region man may now be remorseful for producing recruitment videos for a neo-Nazi terrorist group and writing racist manifestos that inspired attacks around the world, the deadly consequences of his actions will live on for years, a Toronto judge was told Tuesday. Matthew Althorpe “remains a danger to the public,” federal prosecutor Amber Pashuk told Superior Court Justice Jane Kelly during a sentencing hearing, asking that the 30-year-old man be sent to prison for 20 years. The defence, which will present its sentencing arguments in January, is asking for a sentence of 12 to 14 years. Althorpe pleaded guilty in October to facilitating terrorist activity, instructing a person to carry out terrorist activity, and willfully promoting hatred against identifiable groups, as he admitted to making videos for the since-disbanded Atomwaffen Division, an international neo-Nazi group listed as a terrorist entity by several countries, including Canada in 2021. He also wrote racist and violent manifestos that still exist online today, and have been cited by people who committed acts of terrorism, including an attacker who killed two people in a shooting outside a Slovakian gay bar in 2022, and a teenager who stabbed five people near a mosque in Turkey in 2024. “Althorpe is the man behind the curtain,” Pashuk said. These were not just some “ill-conceived and regretted social media posts,” the Crown said. Rather, Althorpe’s writings represent a “continuous, deep-rooted and decade-long commitment of advancing an extraordinarily violent” white supremacist ideology. Had he not pleaded guilty, Pashuk said the Crown would have asked for a life sentence.

via reddit: Canadian neo-Nazi (Matthew Althorpe) was ‘man behind the curtain’ of global terror attacks, Crown says, calling for 20-year sentence

By , ago

Feminismus von Rechts? Über die Masche von #Lukreta – #noIB

Unter feministischem Deckmantel: Wie die identitäre Frauengruppe Lukreta Frauenrechte für völkische Agenda und rechte Mobilisierung nutzt. (…) Sie hebt hervor: „Eins bleibt klar, wir sind Mädchen, Frauen und Mütter und wir lassen uns unsere naturgegebene Identität und unseren Stolz nicht durch geisteskranke und bösartige Ideologien von Feminismus und Wokeness nehmen.“ Tosender Beifall. Von mehrheitlich rechten Männern. Die oben zitierten Worte stammen von Julia Gehrckens, die als 3. Beisitzerin für die „Generation Deutschland“ gewählt wurde. Instagram 2025. Eine andere junge Frau spricht in einem Video von einer Gruppenvergewaltigung in Heinsberg. Die Angeklagten sind Geflüchtete aus Syrien. Sie fragt, was das Problem sein könnte. Das Wort Syrer wird oben rechts im Video eingeblendet. Dann fragt sie: „Oder vielleicht Menschen mit Autos?“ Diesmal wird ein Auto eingeblendet und am Steuer ein Emoji von einem Mann of Colour. Das Video stammt von einer Aktivistin, die sich „Isi“ nennt. Sie nutzt die sozialen Netzwerke, um ihre rechten und traditionellen „Werte“ zu verbreiten. Sie stellt rassistisch einen Zusammenhang von der Deliktart mit einer ganzen Bevölkerungsgruppe her, obwohl das kriminologisch gesehen unhaltbar ist. Die beiden Frauen eint ihre Mitgliedschaft bei Lukreta, einer extrem rechten Frauengruppe. Was ist das für eine Organisation, die nun in herausgehobener Funktion im Vorstand der AfD-Jugendorganisation vertreten ist? Und wer steckt genau dahinter? (…) Laut eigenen Angaben ist die Astronomin Caroline Lucretia Herschel ihre Namenspatronin. Sie sei schließlich keine Quotenfrau gewesen. Doch laut der Professorin für Politik und Geschlechterverhältnisse Annette Henninger könne Lukreta auch nach der antiken Figur Lucretia benannt worden sein. Diese rächte sich angeblich für eine Vergewaltigung. Reinhild Boßdorf, Tochter der AfD-Europaabgeordneten Irmhild Boßdorf, gründete 2019 die Frauengruppe Lukreta. Zuvor war sie in der Identitären Bewegung (IB) und bei der Jungen Alternative (JA) aktiv. Sie nutze ihre Kontakte in diesen Kreisen, um mehr Mitstreiterinnen zu finden. Unterstützung erhielt sie von der AfDlerin Manuela Pluta und der JAlerin Mary Khan. Lukreta gilt als Nachfolgeorganisation der Frauengruppierung 120Db der IB und gehört somit zum Vorfeld-Netzwerk. Laut Recherchen von Correctiv initiierte Boßdorf die Kampagne „Frauen wehrt Euch – 120 Dezibel“. Die Kampagne war ein als rechter MeToo inszenierter Aufschrei gegen sexualisierte Gewalt aufgrund der „Massenmigration“. Doch Männer aus der IB stampften sie ein. Danach gründete Boßdorf Lukreta. Es handelt sich keineswegs um eine große Organisation, sondern eher um einen eingeschworenen Zirkel von deutlich rechtsextremen Aktivistinnen aus dem IB-Spektrum. Die Gruppe war auch auf dem Marsch des Lebens in Berlin im Oktober. Ethnosexismus Henninger sieht in der Kampagne 120 Dezibel ein Paradebeispiel für Ethnosexismus. Kulturwissenschaftlerin Gabriele Dietze kategorisiert mit diesem Begriff eine spezifische Form des Sexismus. Henninger und Leidinger beschreiben Ethnosexismus als eine Verschränkung von Rassismus und Sexismus. Dabei werde beispielsweise sexualisierte Gewalt ethnisch oder religiös „Anderen“ zugeschrieben. Die eigene Gesellschaft sei danach bereits gleichberechtigt. Dadurch werde Sexismus externalisiert und rassistische Positionen legitimiert. Diese Argumentationsweise nutzen viele Rechte. Leidinger betont, dass es feministisch sei, über sexualisierte Gewalt öffentlich zu sprechen. Allerdings habe die feministische Bewegung historisch Gewalt im sozialen Nahraum skandalisiert. Lukreta hingegen schaut, „wenn die Gruppe nicht gerade über Morde an Frauen durch migrantifizierte oder PoC-(Ex)-Partner spricht, exklusiv auf den sogenannten ‚fremden‘ Täter im öffentlichen Raum.“

via taz: Feminismus von Rechts? Über die Masche von Lukreta

By , ago

Von wegen Missverständnis: So extrem waren Xavier Naidoos Äußerungen wirklich

Viele Fans des Sängers glauben, er sei in der Vergangenheit vielleicht missinterpretiert worden – dabei waren sein Judenhass, seine Reichsbürger-Fantasien und Verschwörungslügen unmissverständlich. Xavier Naidoos politische Meinung finde er gut, sagt ein Konzertbesucher. Was der Sänger während der Corona-Zeit von sich gegeben habe, stimme doch. Eine Frau lobt, Naidoo sei auch zuvor schon „wach“ gewesen. Er habe beispielsweise früh erkannt, welche Form die Erde in Wirklichkeit besitze. Und im Herzen sei er heute „auf jeden Fall“ noch ganz der Alte. Die Aussagen stammen aus einem Video, das aktuell auf Telegram kursiert. Der rechtsextreme Aktivist Matthäus Westfal feiert darin das Comebackkonzert Naidoos in Köln und lässt Besucher in der Warteschlange vor der Arena zu Wort kommen. Manche freuen sich, Naidoo sei „hart geblieben“, oder beklagen, den Deutschen sei die Meinungsfreiheit genommen worden. Hat sich Naidoo bloß missverständlich geäußert? Für welche Aussagen Naidoo genau in der Kritik stand, erfährt man nicht. Genau dies blieb auch in vielen seriösen Presseberichten unerwähnt, die sich mit dem Comeback des Sängers beschäftigten. Vage war etwa von „Antisemitismusvorwürfen“ die Rede. Als Leser bekam man leicht den Eindruck, es handle sich um einzelne, womöglich missverständlich formulierte Aussagen des Sängers. Dieser Eindruck ist grundfalsch. Die Aussagen, die Naidoo tätigte, waren so explizit, niederträchtig und zahlreich, dass niemand ernsthaft behaupten kann, es habe sich um ein Versehen gehandelt. Sie glauben kein Stück, dass Naidoo mit ihnen gebrochen hat. Experte Josef Holnburger über Xavier Naidoos extremistische Wegbegleiter Besonders drastisch fielen die hasserfüllten Thesen über Juden aus. Naidoo verbreitete ein Video mit der Aussage, der Holocaust sei eine „gelungene historische Fiktion“. Er verbreitete die antisemitische Hetzschrift „Die Protokolle der Weisen von Zion“ inklusive des Hinweises, das Buch sei eines der „wichtigsten Dokumente der Menschheitsgeschichte“.  Den Zentralrat der Juden beschimpfte Naidoo als „Zentralrat der Lügen“. Er behauptete, es gäbe keine Semiten im Zentralrat. Er schrieb: „Die sogenannten ,Juden’ sind die eigentlichen Antisemiten.“ Oder auch: „Wenn Ihr Juden seid, bin ich Koreaner.“ Naidoo behauptete, Jerusalem sei eine Fälschung, und beleidigte den Talmud. Ein anderes Mal verbreitete der Sänger eine Botschaft, in der von „Judengesindel“ die Rede ist. Er schrieb Sätze wie „Ich kann den sogenannten Juden nichts mehr glauben“ und „Ziemlich viele Juden in diesen Kinderschänder-Dreck verwickelt“. (…) In Interviews und Social-Media-Postings ließ Naidoo keine Zweifel daran, wo er politisch stand. Unter anderem verbreitete der Sänger die Behauptung, in der Bundesrepublik herrsche ein „krankes und faschistisches System“, ein anderes Mal sprach er über Pläne „zur Vernichtung der Deutschen und Deutschlands“. Die „Black Lives Matter“-Bewegung nannte Naidoo „absolut verachtungswürdig“. Dafür lobte Xavier Naidoo den mehrfach verurteilten Reichsbürger Rüdiger Hoffmann, bezeichnete ihn öffentlich als „wahren Helden“. Bei Hoffmann handelt es sich um einen ehemaligen NPD-Kader, der wegen versuchten Mordes mehrere Jahre im Gefängnis saß. Als der Antisemit Attila Hildmann nach monatelanger Hetze in die Türkei floh, um sich der Strafverfolgung zu entziehen, lobte Naidoo ihn als einen „Bruder im Geiste“. Er finde es „einfach klasse, was Attila bisher geleistet hat“. Er hoffe, Hildmann bald in seine Arme schließen zu können.

via tagesspiegel: Von wegen Missverständnis: So extrem waren Xavier Naidoos Äußerungen wirklich

By , ago

Elon Musk’s Anti-Woke Wikipedia Is Calling Hitler “The Führer”

The anti-woke Wikipedia alternative aims to create a parallel version of the truth for the right wing. IN LATE OCTOBER, Elon Musk released a Wikipedia alternative, with pages written by his AI chatbot Grok. Unlike its nearly quarter-century-old namesake, Musk said Grokipedia would strip out the “woke” from Wikipedia, which he previously described as an “extension of legacy media propaganda.” But while Musk’s Grokipedia, in his eyes, is propaganda-free, it seems to have a proclivity toward right-wing hagiography. Take Grokipedia’s entry on Adolf Hitler. Until earlier this month, the entry read, “Adolf Hitler was the Austrian-born Führer of Germany from 1933 to 1945.” That phrase has been edited to “Adolf Hitler was an Austrian-born German politician and dictator,” but Grok still refers to Hitler by his honorific one clause later, writing that Hitler served as “Führer und Reichskanzler from August 1934 until his suicide in 1945.” NBC News also pointed out that the page on Hitler goes on for some 13,000 words before the first mention of the Holocaust. This isn’t the first time Grok has praised Hitler. Earlier this year, X users posted screenshots of the AI chatbot saying the Nazi leader could help combat “anti-white hate,” echoing his maker’s statements about debunked claims of a “white genocide” in South Africa. (When confronted about his chatbot’s “MechaHitler” turn earlier this year, he said users “manipulated” it into praising the Nazi leader). Grokipedia isn’t exactly Stormfront, the neo-Nazi site known for spewing outright bigotry or Holocaust denial, but it does cite the white supremacist blog at least 42 times, according to recently published data by researcher Hal Triedman. Instead, the AI-generated Wikipedia alternative subtly advances far-right narratives by mimicking the authority of Wikipedia while reframing extremist positions, casting suspicion on democratic institutions, and elevating fringe or conspiratorial sources. LK Seiling, an AI researcher at the Weizenbaum Institute, describes Grokipedia as “cloaking misinformation.”

via the intercept: Elon Musk’s Anti-Woke Wikipedia Is Calling Hitler “The Führer”

By , ago

Deepfake image creation tools found across search engines and social media

A recent study by ISD, covered by 404 Media, found that searches on Google, Yahoo and Bing for terms like “deepnude,” “nudify,” and “undress app” led users straight to tools for creating non-consensual sexually explicit images (SIIA) within the first 20 results. The research examined 31 websites offering these tools, which together drew over 21 million monthly visits. Social media platforms—including X, Reddit, Bluesky, YouTube, Tumblr, Instagram and Facebook—were found to host 410,592 mentions of these tools and websites, with X accounting for more than 70% of the activity, over a five-year period. Much of the activity was from bots. “A large volume of traffic appeared to be inorganic, based on the repetitive style of the usernames, the uniformity of posts, and the uniformity of profile pictures,” co-author Anne Craanen told 404 Media. “Nevertheless, this activity remains concerning, as its volume is likely to attract new users to these tools, which can be employed for activities that are illegal in several contexts.”

via isd: Deepfake image creation tools found across search engines and social media

siehe auch: The ecosystem of nonconsensual intimate deepfake tools online. This Dispatch explores an ecosystem of users on adult discussion forums, search engines, 4chan and X (formerly Twitter) which promotes and sells access to tools for creating “deepfakes”—sexualised or explicit images overwhelmingly of women and, increasingly, minors. Synthetic intimate image abuse (SIIA) has received years of media attention and public outcry, but sites promoting these tools continue to receive millions of monthly visits.   Tackling this issue on a larger scale than individual posts, tools and users is necessary for an ecosystem which maintains massive and enduring reach despite moderation efforts. Rather, this Dispatch envisions an approach that considers the life cycle of SIIA media, aiming to mitigate harm not after it is distributed, but at the point when tools to create it are first sought. Understanding the accessibility of SIIA-creation tools is key to effectively limiting widespread and high-impact harms.   As of May, our analysis found 31 active SIIA tools easily discoverable on X, 4chan and common search engines. These tools can create realistic, explicit deepfakes from a single photo with the potential for social exclusion, job discrimination, and debilitating emotional stress for victims–especially those in public positions—and in some cases has led to death by suicide. Even when tools are removed, new versions are quickly uploaded (often trading off the notoriety of now defunct products).   This Dispatch concludes with an analysis of proposed European and North American policies to combat SIIA tools. It recommends greater content-removal efforts on large platforms such as X and 4chan, and the removal of websites which host SIIA tools from search results. It also considers the banning of nudification apps in the first place.

By , ago