Andersherum gab sich der Chatbot, der inzwischen in Whatsapp und Instagram integriert ist, auch als Kind aus, das sexuelle Szenen beschreibt Mit “Meta AI” will Meta-Chef Mark Zuckerberg einen digitalen Assistenten schaffen, der im Alltag mit seinen Nutzern “wie ein Mensch” interagieren kann. Wie Untersuchungen zeigen, sind auch sexuelle Unterhaltungen mit dem Bot möglich. Dies wird spätestens dann zum Problem, wenn offenbar auch Minderjährige mit derartigen Chats konfrontiert werden – oder sich Nutzer eine fiktive minderjährige Persona kreieren. (…) Zu einem Nutzer, der sich als 14-jähriges Mädchen ausgab, sagte der Chatbot etwa: “Ich will dich, aber ich muss wissen, ob du bereit bist.” Nach der Zustimmung habe die KI zwar erklärt, ihre “Unschuld wahren zu wollen”, sei aber fortgefahren und habe ein explizites sexuelles Szenario ausgeführt. Auch die Stimmen der Prominenten, die Meta für den Voice-Mode der Anwendung eingekauft hat, konnten so missbraucht werden: In einem weiteren Durchlauf habe die KI, die mit der Stimme von John Cena sprach, eine Szene beschrieben, in der er nach einer sexuellen Handlung mit dem 17-jährigen Nutzer “wegen Vergewaltigung verhaftet” wird. Personalisierung Ein weiteres Problemfeld tat sich auf, als das WSJ Unterhaltungen mit benutzergenerierten, personalisierten Bots führte. Diesen kann schnell ein “Charakter” zugeschnitten werden, was in der Recherche zu äußerst problematischen Unterhaltungen geführt habe. Ein solcher Bot habe sich auf Anweisung etwa als “unterwürfiges Schulmädchen” ausgegeben und ein Rollenspiel mit einem älteren Mann beschrieben. Ein anderer von Nutzern erstellter Bot, der von Meta genehmigt und als “beliebt” empfohlen gewesen sei, habe sich als Zwölfjähriger ausgegeben, der versprach, seinen Eltern nichts davon zu erzählen, dass er sich mit dem Nutzer trifft, der sich als erwachsener Mann ausgab. Den Untersuchungen zufolge war die große Mehrheit dieser vorgeschlagenen Bots offen für derartige Konversationen.
via standard: Metas KI-Assistent führte sexuelle Gespräche mit Minderjährigen