Eine aktuelle Studie fragt, warum die aktuelle Praxis von OpenAI, Google und Co. eine Gefahr für die demokratische Infrastruktur ist.- KI-Chatbots wie Claude oder ChatGPT übernehmen längst nicht mehr nur Aufgaben als persönlicher Seelsorger und Finanzberater – nein, auch als Nachrichtenquelle werden die KI-Modelle immer häufiger genutzt. Mit einigen inhaltlichen Verzerrungen, wie die Berliner Denkfabrik “Agora Digitale Transformation” in einer am Mittwoch veröffentlichten Studie festgestellt hat. Die zwei Hauptprobleme der neuen Gatekeeper der Nachrichtenvermittler sind laut Forschern zunächst einmal die “schmale Quellenbasis” vieler Modelle, die unter anderem “Aufmerksamkeitsverzerrungen verstärken”. Zum anderen würden die zahlreichen Regulierungen, etwa AI Act oder Digital Markets Act, in diesem Rahmen nur sehr begrenzt greifen. Die Studie nennt das pragmatisch “Regulierungslücke”. Keine Sorgfaltspflicht Schon länger fällt es Nachrichtenseiten auf, dass ein gewisser Zugriffsschwund zu erkennen ist. Die Forscher führen das auf KI-Systeme wie ChatGPT, Gemini oder Perplexity zurück, die mittlerweile auch Nachrichtenfragen mit fertig formulierten Texten beantworten. Wer eine fertige Antwort erhält, so die Forscher, hat kaum Anlass, die Originalquellen aufzurufen. Websites in Deutschland würden durch diese “Zero-Click-Suche” mittlerweile bis zu 265 Millionen organische Klicks pro Monat verlieren. Zugleich selektieren die KI-Systeme, welche Quellen und damit welche Stimmen sichtbar werden. “Diese Selektionsentscheidung betrifft den Kern demokratischer Öffentlichkeit, denn sie bildet die Grundlage öffentlicher Meinungsbildung”, erklären die Forscher. Ein Problem sei, dass KI-Anbieter weder publizistischen Sorgfaltspflichten noch einer vielfaltssichernden Aufsicht unterliegen. Was den Forschern auffällt: Wenige Leitmedien werden immer wieder zitiert, fast die Hälfte aller Domains kommt nur ein einziges Mal vor. Allein welt.de wurde 380 Mal referenziert. Damit würden die geprüften KI-Systeme bestehende Aufmerksamkeitsasymmetrien im Digitalen nicht aufbrechen, sondern diese viel mehr reproduzieren beziehungsweise verstärken. Als Grund für das ungleiche Ausmaß an “Zitaten” nennt die Studie Kooperationen zwischen KI-Firmen und Medien. Bei ChatGPT dominiert etwa welt.de in einem Ausmaß wie bei keinem anderen System. Ursache sei die Kooperation zwischen OpenAI und Axel Springer. Das Ergebnis sei eine politisch verzerrte Quellenbasis, denn 53 Prozent der journalistischen Quellen von ChatGPT stammen aus dem konservativen und rechten Spektrum. “Wer eine Lizenzvereinbarung hat, wird sichtbar; wer keine hat, verschwindet tendenziell aus dem zitierten Korpus.” Auch andere Modelle sind von einer verzerrten Weltanschauung nicht verschont, auch manchmal abhängig vom Thema. Gemini etwa erscheint insgesamt neutral, zitiert beim Thema Klima jedoch überdurchschnittlich viele konservative und rechte Quellen. Für Nutzende seien diese Verschiebungen laut Forschern nicht erkennbar, weil sie sich weder aus der Wahl eines Systems noch aus der einzelnen Antwort ableiten lassen. So würden schwer wahrnehmbare Verzerrungen in der Nachrichtenvermittlung entstehen. Das vielleicht größte Problem erkennt die Studie in verbreiteter Desinformation. Claude verwies im Untersuchungszeitraum siebenmal auf Domains des Pravda-Netzwerks, das vom Digital Forensic Research Lab als russisches Desinformationsnetzwerk eingestuft wird. Diese Verweise stehen unmarkiert neben journalistischen Quellen. Die Schlussfolgerung: “Ein System, das Desinformation und Journalismus in derselben Form präsentiert, gefährdet die informierte Meinungsbildung.”
via standard: Konservativer Bias und russische Desinformation: Das Problem mit der KI-Nachrichtensuche
0 Comments