Sie verbreiten Lügen über die Bundesregierung und unterstützen die AfD und Russland: Tausende KI-generierte Propagandavideos fluten seit Monaten die Plattform Youtube und erreichen Millionen. Eine Spurensuche des RND führt nach Österreich, Vietnam und zu einem deutschen Fortnite-Youtuber. (…) „Jetzt droht der Putsch!“, heißt es in einem Youtube-Video, das im September 2025 hochgeladen und mehr als 350.000-mal angesehen wurde. Und damit nicht genug: Fast zeitgleich tauchten ähnliche Videos auch auf weiteren Kanälen auf. Zumindest ein Teil der Zuschauer hält sie für echt und freut sich. „Endlich macht mal jemand etwas gegen diesen Irrsinn“, kommentiert @freddykush1719. „Gut gemacht Bundeswehr“, schreibt eine weitere Nutzerin, die sich Heidi nennt und ihren Kommentar mit 17 Ausrufezeichen garniert. Dabei stimmt nichts an der Geschichte. Ein „hochrangiger General“, der angeblich mit Merz abrechnet, ist frei erfunden. Der Text des Videos wird von einer KI-Stimme vorgetragen und wurde wohl auch mithilfe Künstlicher Intelligenz verfasst. Der fast zehnminütige Clip ist nur eines von Tausenden KI-generierten Desinformationsvideos, mit denen Youtube seit Monaten geflutet wird. Jeder vierte Deutsche schaut dort täglich Videos. Mehr als die Hälfte nutzt die Plattform mindestens gelegentlich, um sich über das aktuelle Zeitgeschehen zu informieren. Doch sie wird immer mehr zu einer Halde für das, was Fachleute als „AI Slop“ bezeichnen: KI-Schrott. Videos, die mit künstlicher Intelligenz erstellt werden, möglichst sensationalistisch, möglichst auf Reichweite getrimmt. Viele dieser Videos sind belanglose Unterhaltung. Doch einige verbreiten Propaganda, manipulieren die öffentliche Meinung und greifen die Demokratie an. Um solche Videos geht es hier. (…) Obwohl viele der Clips derart plump sind, sind einige der Kanäle äußerst erfolgreich. Das zeigt eine RND-Analyse von fast 5200 Videos, die bis Anfang August 2025 auf 32 Youtube-Kanälen veröffentlicht wurden. Allein diese Videos wurden zusammen mehr als 75 Millionen Mal aufgerufen, mehr als 170 der Beiträge erzielten jeweils über 100.000 Aufrufe. Diese Kanäle stellen nur einen kleinen Ausschnitt dar – die Zahl entsprechender Kanäle geht in die Hunderte. Insgesamt dürften Desinformationsvideos dieser Art auf Youtube bislang mehrere hundert Millionen Aufrufe generiert haben. Zusätzlich werden viele der Clips nach RND-Recherchen auch von einem Account-Netzwerk auf der Videoplattform Tiktok weiterverbreitet. Außerdem finden sie ihren Weg in rechte Facebook-Gruppen und Telegram-Kanälen. (…) Neben dem RND hat auch der Think-Tank Reset.Tech, der sich für eine bessere Regulierung sozialer Medien einsetzt, in den vergangenen Monaten zu KI-generierter Desinformation auf Youtube geforscht. Die Mitarbeiterinnen und Mitarbeiter der Organisation sind dabei auf rund 400 ähnliche Kanäle gestoßen, die Videos in insgesamt acht Sprachen veröffentlichen. In den Beschreibungen einzelner Videos fanden sie russische ChatGPT-Prompts – ein Hinweis auf die Muttersprache der Urheber und deren schlampiges Vorgehen. Sie fanden außerdem Accounts, bei denen Kasachstan als Herkunftsland angegeben war. Die RND-Recherchen deckten zudem Hinweise auf Verbindungen einzelner Accounts in die Türkei auf. Andere Spuren führen zu vietnamesischen Content-Farmen – Unternehmen, die Geld mit KI-generierten Clickbait-Artikeln und politischer Propaganda verdienen. YouTube-Monetarisierung treibt KI-Propaganda systematisch an Ob hinter all diesen Kanälen ein zusammenhängendes, zentral gesteuertes Netzwerk steckt, lässt sich ohne Einblick in die internen Systeme der Videoplattform Youtube kaum sagen. Zumindest einige der Kanäle arbeiten jedoch erkennbar zusammen, bei anderen könnte es sich auch um „Trittbrettfahrer“ handeln – also um skrupellose Youtuber, denen es nicht um Politik, sondern um Reichweite geht, die sich einfach in Geld übersetzen lässt. Junge Internetunternehmer bewerben genau das als Geschäftsmodell: „Youtube-Automation“. Sie geben als Ziel aus, einen Kanal mit weitgehend KI-generierten Videoinhalten möglichst schnell wachsen zu lassen, um in das Youtube-Partnerprogramm aufgenommen zu werden. Je nach Thema und Zielgruppe zahlt Youtube den Kanalbetreibern für Werbeeinblendungen in ihren Videos meist einstellige bis niedrig zweistellige Eurobeträge pro 1000 Aufrufe.
via rnd: Lügen in Großbuchstaben: Wie Youtube mit KI-generierter Propaganda geflutet wird