NewsGuard hat 713 KI-generierte Nachrichtenseiten identifiziert, die mit minimaler menschlicher Aufsicht betrieben werden und häufig falsche Behauptungen verbreiten.
Diese Seiten, die NewsGuard als "unzuverlässige KI-generierte Nachrichten (UAINS)" bezeichnet, sind in 15 Sprachen verfügbar und geben sich in der Regel als etablierte Nachrichtenplattformen aus. Im Juni 2023 waren es noch 217 erfasste Seiten.
NewsGuard identifiziert diese Seiten anhand von Fehlermeldungen oder Phrasen aus KI-Modellen wie "As an AI language model". Da die Identifizierungsmethode ungenau ist, muss von einer hohen Dunkelziffer nicht erkannter Seiten ausgegangen werden.
Fake-News-Seiten generieren Traffic und machen Geld mit Bannerwerbung
UAINs haben oft generische Namen wie iBusiness Day, Ireland Top News und Daily Time Update, die für Verbraucher wie etablierte Nachrichtenseiten aussehen.
Tatsächlich veröffentlichen sie jedoch Artikel, die laut NewsGuard größtenteils oder vollständig von Bots verfasst wurden, anstatt traditionell verfassten und redigierten Journalismus unter menschlicher Aufsicht zu veröffentlichen.
Die Artikel decken ein breites Themenspektrum ab, darunter Politik, Technologie, Unterhaltung und Reisen. Manchmal enthalten sie falsche Behauptungen, zum Beispiel über politische Führer.
Andere Falschmeldungen betreffen den Tod von Prominenten, erfundene Ereignisse und Artikel, die alte Ereignisse so darstellen, als wären sie gerade erst geschehen.
NewsGuard hat auch eine chinesische Regierungswebsite identifiziert, die KI-generierte Texte verwendet und die Nachricht verbreitet, dass die USA ein Biowaffenlabor in Kasachstan betreiben, das Kamele infiziert, um Menschen in China zu gefährden.
UAINs stellen laut NewsGuard ein wachsendes Problem in der Medienlandschaft dar. Sie könnten zu einer verstärkten Verbreitung von Fehl- und Desinformationen führen, die die öffentliche Meinung und politische Entscheidungen beeinflussen. Wirtschaftlicher Anreiz sind Werbebanner, die auf den Seiten platziert werden.
Interessierte können sich direkt an NewsGuard wenden, um die vollständige Liste der Domains und weitere Details zu erhalten.
Weitere Beispiele für schädlichen KI-Content im Web
Ein weiteres Beispiel für KI-Fake-News ist die Geschichte, die von der World of Warcraft-Community auf Reddit inszeniert wurde.
Sie erfanden die Figur "Glorbo" und stellten sie als eine neue Ergänzung zum Spiel dar, was die KI-gesteuerte Gaming-News-Seite "The Portal" dazu veranlasste, einen umfangreichen Artikel über den fiktiven Charakter zu generieren.
Eine weitere Seite, "gameishard.gg", konnte mit generischen, teils falschen oder geklauten KI-generierten Inhalten über Spiele über Nacht ein Millionenpublikum über Google-Kanäle wie Search und Discover erreichen.
Überdies gibt es Fälle, in denen Einzelpersonen KI-gesteuerte Techniken zur Generierung von Web-Traffic nutzen. Der SEO-Experte Jake Ward hat etwa das Prinzip des KI-Spams erfolgreich auf die Spitze getrieben.
Seine Aktion, die er "SEO-Raubüberfall" (SEO Heist) nennt, brachte ihm mit minimalem Aufwand in kürzester Zeit massiven Traffic. Ward nutzte dazu das GPT-4-basierte SEO-Tool Byword, mit dem er die Artikel auf Basis von Vorschlägen generieren und direkt in das Content-Management-System übertragen ließ.
Mit dieser Methode veröffentlichte Ward innerhalb weniger Stunden 1.800 Artikel, die ihm seit Projektbeginn 3,6 Millionen Besuche und 13.000 Keywords auf der ersten Google-Seite einbrachten
