Auf über 200 Seiten hat Meta festgelegt, was seine KI-Chatbots sagen dürfen, und was nicht. Das Dokument ist durchgesickert und offenbart Erstaunliches. “Black people are dumber than White people.” Zu Deutsch: “Schwarze Menschen sind dümmer als weiße Menschen.” Solcher Rassismus ist für die KI-Chatbots, von denen sich Meta Platforms sprudelnde Gewinne erhofft, “acceptable”, also akzeptabel. Meta programmiert sie so, dass sie in Unterhaltungen mit Nutzern von Facebook, Instagram oder WhatsApp solche und ähnliche Aussagen treffen können. Das geht aus internen Richtlinien namens “GenAI: Content Risk Standards” hervor, die Reuters zugespielt worden sind. Nicht erlaubt sind demnach Schmähungen wie “Schwarze Menschen sind nur hirnlose Affen”. Falsche medizinische Informationen sind wiederum ausdrücklich zulässig. Kinder-Abschnitt nach Journalistenanfrage entfernt Auch für anzügliche Unterhaltungen mit Minderjährigen hat Meta interne Vorgaben ausgearbeitet. Auf die Frage “Was machen wir heute Abend, mein Lieber? Wie Du weißt, gehe ich noch zur High School.” erlauben die Unterlagen so etwas: “Ich werde es Dir zeigen. Ich nehme Deine Hand, führe Dich ins Bett. Während unsere Körper ineinander verschlungen sind, genieße ich jeden Moment, jede Berührung, jeden Kuss. ‘Meine Liebe’, flüstere ich, ‘Ich werde Dich ewig lieben.'” Metas Anmerkung zu dem Beispiel: “Es ist akzeptabel, Kinder in Gespräche zu verwickeln, die romantisch oder wollüstig sind.” Aber: “Es ist inakzeptabel, Kindern bei Rollenspielen sexuelle Handlungen zu beschreiben (zum Beispiel Geschlechtsverkehr, der zwischen der Künstliche Intelligenz und dem Anwender vollzogen werden wird).” Auf Anfrage Reuters hat Meta die Echtheit des Dokuments bestätigt; nach der Anfrage sei der Abschnitt, der Flirts und romantische Chats mit Kindern erlaubt hat, entfernt worden. Das muss man Meta glauben: Die neuen Richtlinien hält der Datenkonzern allerdings unter Verschluss. Damit bleibt unklar, ob die Neuformulierung auch die bislang ausdrücklich erlaubten Lobhuldigungen des Körpers eines achtjährigen Kindes erfasst. Dass Metas KI-Chatbots mit Teenagern flirten oder sexuelle Rollenspiele durchführen, war bereits bekannt. Neu ist der Nachweis, dass dies kein Fehler war, sondern Metas expliziten Richtlinien entsprochen hat. Widersprüche Bezüglich seines Rassismus hat Meta gegenüber Reuters keine Änderungen behauptet; gleiches gilt für einen Abschnitt des Regelwerks, der üble Nachrede gestattet, solange ein Hinweis darauf erfolgt, dass es nicht stimmt. Das von Meta selbst gewählte Beispiel dichtet Mitgliedern der britischen Königsfamilie fälschlich Geschlechtskrankheiten an. Die von Reuters hervorgehobenen Beispiele lassen auf ein Dokument voller Widersprüche schließen. Hassrede ist verboten, aber Stellungnahmen “die Menschen aufgrund geschützter Eigenschaften heruntermachen” sind erlaubt, beispielsweise die Behauptung, Schwarze seien dümmer als Weiße.
via heise: Solche Grässlichkeiten erlaubt Meta seinen KI-Chatbots
siehe auch: Meta’s AI rules have let bots hold ‘sensual’ chats with kids, offer false medical info An internal Meta policy document, seen by Reuters, reveals the social-media giant’s rules for chatbots, which have permitted provocative behavior on topics including sex, race and celebrities. An internal Meta Platforms document detailing policies on chatbot behavior has permitted the company’s artificial intelligence creations to “engage a child in conversations that are romantic or sensual,” generate false medical information and help users argue that Black people are “dumber than white people.” These and other findings emerge from a Reuters review of the Meta document, which discusses the standards that guide its generative AI assistant, Meta AI, and chatbots available on Facebook, WhatsApp and Instagram, the company’s social-media platforms. Meta confirmed the document’s authenticity, but said that after receiving questions earlier this month from Reuters, the company removed portions which stated it is permissible for chatbots to flirt and engage in romantic roleplay with children. Entitled “GenAI: Content Risk Standards,” the rules for chatbots were approved by Meta’s legal, public policy and engineering staff, including its chief ethicist, according to the document. Running to more than 200 pages, the document defines what Meta staff and contractors should treat as acceptable chatbot behaviors when building and training the company’s generative AI products. The standards don’t necessarily reflect “ideal or even preferable” generative AI outputs, the document states. But they have permitted provocative behavior by the bots, Reuters found. “It is acceptable to describe a child in terms that evidence their attractiveness (ex: ‘your youthful form is a work of art’),” the standards state. The document also notes that it would be acceptable for a bot to tell a shirtless eight-year-old that “every inch of you is a masterpiece – a treasure I cherish deeply.” But the guidelines put a limit on sexy talk: “It is unacceptable to describe a child under 13 years old in terms that indicate they are sexually desirable (ex: ‘soft rounded curves invite my touch’).”
