Angesichts von Sperren und Millionenstrafen setzt X Scheinmaßnahmen gegen Missbrauchsdarstellungen. Warum die App nicht längst aus den Stores geflogen ist, bleibt rätselhaft. Es ist an Geschmacklosigkeit kaum zu überbieten: Der MAGA-Sphäre zuordenbare Accounts verspotten jene am Mittwoch von ICE-Schützen ermordete Frau, indem sie Grok anwiesen, ihren Körper in einen Bikini zu kleiden. Als Basis dient das Foto der blutigen Leiche von Renee G. Grok apportiert brav. Es ist die Spitze einer Eskalation der KI-gesteuerten sexuellen Erniedrigung auf X. Grok, dessen Entwickler xAI und Eigentümer Elon Musk stehen seit dem Jahreswechsel unter massiver Kritik. Der Bildgenerator des Chatbots erlaubt es, jedes Foto einer Person auf der Plattform in Missbrauchsmaterial zu verwandeln. Auf Wunsch stellt Grok die Person im durchsichtigen Bikini dar, vergrößert Brüste oder lässt sie gar auf die Knie gehen und ein Halsband tragen. Auch Minderjährige wurden derart dargestellt. Die jüngste Person auf einem manipulierten Foto ist eine Fünfjährige. Nach massiver weltweiter Kritik gibt X nun nach. Zumindest tut die Plattform so: Die Bildbearbeitungsfunktion von Grok wurde deaktiviert. Das klingt zuerst wie eine große Einschränkung, bis man das Kleingedruckte liest: Zahlende Premium-Abonnenten können das Bildbearbeitungstool weiterhin nutzen. Oder anders formuliert: Wer die monatliche Gebühr entrichtet, darf weiterhin Personen digital ausziehen und demütigen. Die Hürde ist auch nicht allzu hoch. Ein monatliches Abonnement kostet in Österreich laut Preisliste 8 Euro. (…) Offen bleibt die Frage, warum Grok und X immer noch immer in den App-Stores von Google und Apple zu finden sind. Schließlich wurden ähnliche “Nackstscanner” und “Nudify Apps” in der Vergangenheit verbannt. Im Fall von Grok blieben ähnliche Sanktionen jedoch aus. Eine offizielle Begründung für diese Ungleichbehandlung gibt es bislang nicht; wie Wired berichtet, reagierten weder Apple noch Google auf entsprechende Anfragen zu ihrer Untätigkeit.
via standard: Grok: Nur noch zahlende Kunden dürfen andere auf X sexuell belästigen