Eine KI-gesteuerte Nachrichtenseite fällt auf einen Streich von Reddit herein. Das zeigt die Tücken des Publizierens ohne menschliche Kontrolle. Dennoch könnte das Prinzip mittel- bis langfristig funktionieren.
Social-Media-Signale ziehen manche Algorithmen an wie Honig die Bienen. Genau diesen Effekt machte sich die World of Warcraft-Community "wow" auf Reddit zunutze: Mit einer inszenierten Fake News, die dann von den Usern in der Community gezielt hochgepusht wurde, wollten sie es auf die KI-gesteuerte Gaming-News-Seite "The Portal" schaffen, ein automatisiertes Content-Marketing-Portal der Gaming-Community-App "ZLeague".
Der Reddit-Account "kaefer_kriegerin" erfand dazu den Charakter "Glorbo", der angeblich neu in die WoW-Welt eingeführt wird, und versah den fiktiven Charakter mit etwas Kontext zu seiner Herkunft und Entwicklungsgeschichte. Einige Spieler aus der Community sprangen auf den Zug auf, spielten begeistert und ergänzten Glorbos Geschichte mit weiteren absurden Details.
Als Falle gedacht, aber das Prinzip scheint zu funktionieren
Tatsächlich griff die Website die Nachricht auf und generierte aus den Inhalten einen umfangreichen Artikel. Auch Informationen aus den Nutzerkommentaren wurden in den Inhalt integriert. Dieses Muster der Berichterstattung tauchte in vielen Artikeln der Website auf, meist mit dem Titel "Spieler diskutieren über...".
Die Seite änderte den Titel des WoW-Artikels zu "Glorbo" zunächst in "Satire" und löschte ihn später wieder. Eine frühere Version des Artikels ist hier zu finden.
Ironischerweise griff die KI sogar einen beliebten Reddit-Thread zum Thema KI-generierte Artikel auf, in dem sich Spielerinnen und Spieler negativ äußerten. In der durchaus objektiven KI-Zusammenfassung des Threads heißt es dann unter anderem:
Viele Spieler äußerten sich frustriert über die geringe Qualität der von der KI generierten Artikel. User Seiver123 fand es einfach verrückt, dass Menschen in der Lage sind, solche Inhalte zu produzieren. Flemtality kritisierte die mangelnde Sorgfalt bei der Erstellung der Artikel und bezweifelte die Wirksamkeit der Sperrung der Seite, da sie vermuteten, dass die Autoren leicht neue Domains erhalten und weiterhin KI-generierte Inhalte spammen könnten.
Der Verdacht liegt nahe, dass es sich bei allen Personen, die auf der Seite als Autoren genannt werden, um Bots handelt. Chuck Brady, Ashley Beam, Samantha Carr und Co. veröffentlichen täglich Nachrichtenartikel im zweistelligen Bereich. Das ist für menschliche Redakteure unmöglich.
Google News verbreitet KI-generierte Inhalte
Auch wenn die Seite jetzt von der Gaming-Szene verspottet wird: Das Modell scheint prinzipiell zu funktionieren, wenn man es auf die Generierung von Reichweite beschränkt. Der Google-Algorithmus greift die Artikel auf und spielt sie etwa in Google News, der Suche und vermutlich weiteren Kanälen aus.
Die Analyseplattform SimilarWeb zeigt Traffic jenseits der Millionengrenze an, der sich seit Mai mehr als verdoppelt hat. Auch wenn SimilarWeb ungenau ist, kann man davon ausgehen, dass hier mit rein automatisch generierten Inhalten relevante Reichweite generiert wird und diese Art des Publizierens nur durch einen gezielten Streich von Reddit enttarnt wurde.
Google hat bereits erklärt, dass es nicht bewertet, ob Inhalte von Menschen oder Maschinen generiert werden und spielt in der Search Generative Experience auch selbst KI-generierte Inhalte aus, die auf menschlichen Inhalten basieren. Google profitiert auch finanziell vom KI-Spam, wenn Webseiten, die per KI Traffic generieren, Googles Display-Anzeigen ausspielen.
Für Verlage könnte das oben skizzierte Beispiel daher eher eine Ermutigung sein, tiefer in das KI-Publishing einzusteigen, zumal die Qualität der maschinengenerierten Texte von "The Portal" bereits jetzt verbessert werden könnte und die KI-Schreibwerkzeuge noch besser werden dürften.
Eine ergänzende menschliche Kontrolle könnte die Qualität weiter verbessern und gleichzeitig wahrscheinlich erhebliche Zeit- und damit Kosteneinsparungen ermöglichen, insbesondere bei Nachrichten, die zwar relevant im Sinne von publikumswirksam, aber journalistisch wenig anspruchsvoll sind. Unter anderem wettet der Medienkonzern Springer auf diesen Wandel.
