"Das habe ich doch neulich bei "Daily Time Update" gelesen", sagte hoffentlich niemand jemals. Webseiten wie diese sind Teil einer nicht enden wollenden KI-Content-Flut.
Das Medienanalyse-Unternehmen NewsGuard hat ein globales Netzwerk von 966 Nachrichten-Websites aufgedeckt, die größtenteils von KI erstellte Inhalte in 16 verschiedenen Sprachen veröffentlichen.
Diese "Unreliable AI-Generated News Sites" (UAINS) operieren mit wenig oder gar keiner menschlichen Aufsicht und publizieren Artikel, die überwiegend oder vollständig von Bots verfasst werden. Sie tragen generische, mehr oder weniger seriös klingende Namen wie "iBusiness Day", "Ireland Top News" oder "Daily Time Update", um wie etablierte Nachrichtenangebote zu erscheinen.
Um als UAINS klassifiziert zu werden, muss laut NewsGuard ein wesentlicher Teil der Inhalte von KI produziert sein, ohne ausreichende menschliche Aufsicht. Zudem darf die KI-Nutzung nicht transparent gemacht werden, sodass die Website für den durchschnittlichen Leser wie ein von Menschen erstelltes Nachrichtenangebot wirkt.
Die KI-generierten Artikel behandeln verschiedenste Themen wie Politik, Technologie, Entertainment und Reisen. Dabei verbreiten sie immer wieder auch Falschbehauptungen, etwa über Politiker:innen, fälschlicherweise als neu präsentierte Ereignisse oder angebliche Promi-Todesfälle. Finanziert werden die Seiten oft durch programmatische Werbung, sodass auch bekannte Marken unbeabsichtigt zur Monetarisierung dieser "Botcontent-Farmen" beitragen.
KI hat blühende Fake-News-Fantasie
Neben den im UAINS-Tracker erfassten Websites fand NewsGuard schon zuvor eine chinesische Regierungs-Seite, die mit KI-Texten die Falschbehauptung stützte, die USA würden in Kasachstan ein Biowaffen-Labor betreiben, das Kamele infiziere, um Menschen in China zu gefährden. Zudem identifizierte das Unternehmen 167 News-Seiten mit Russland-Verbindungen, die sich als lokale Medien tarnen, aber KI-generierte Desinformation über den Ukraine-Krieg verbreiten.
Die Erkenntnisse der Forscher:innen scheinen besonders pikant, weil Umfragen gezeigt haben, dass Menschen nur schwer zwischen menschlichen und KI-generierten Fake News unterscheiden können. Als Aggregator und wichtigster Trafficlieferant steht außerdem Google in der Pflicht, wenig qualitative Inhalte wie solche herauszufiltern. Allerdings verdient der US-Konzern am Contentspam mit.
Das Unternehmen bietet seine Datenbank von UAINS-Domains sowie Informationen zu KI-gestützter Desinformation Forscher:innen, Plattformen, Werbekunden und Behörden an.
