KI-Spam-Webseiten fluten das Netz mit falschen Informationen und es werden schnell mehr

Das Medienanalyseunternehmen Newsguard hat gemeinsam mit dem KI-Detektor Pangram Labs ein Echtzeitsystem zur Identifikation sogenannter "KI Content Farmen" gestartet. Mehr als 3.000 solcher Seiten wurden bereits erfasst, Tendenz stark steigend.

Bei "KI Content Farmen" handelt es sich um Websites, die massenhaft KI-generierte, häufig fehlerhafte Nachrichten und Informationen veröffentlichen, um Werbeeinnahmen zu generieren oder Propaganda zu verbreiten.

Das neue System kombiniert die Daten von Newsguard mit der automatisierten KI-Erkennungssoftware von Pangram Labs. Zunächst identifiziert die Software Websites, deren Inhalte zu einem erheblichen Teil von KI stammen. Anschließend prüfen menschliche Analysten die Ergebnisse und sortieren Fehlalarme aus.

Bislang hat das System laut Newsguard 3.006 KI-Content-Farmen identifiziert. Diese Zahl habe sich innerhalb eines Jahres mehr als verdoppelt. Derzeit wachse sie um 300 bis 500 neue Seiten pro Monat.

Eine Website wird als KI-Content-Farm klassifiziert, wenn drei Bedingungen erfüllt sind: Ein erheblicher Teil der Inhalte wird von KI erzeugt, die Seite legt diese KI-Nutzung nicht offen, und die Aufmachung erweckt beim durchschnittlichen Leser den Eindruck, die Texte stammten von menschlichen Journalisten.

Die betroffenen Seiten tragen typischerweise generische Namen wie "Times Business News" oder "Business Post", veröffentlichen dutzende Artikel pro Tag und sind häufig der Ursprung von Falschmeldungen über Marken, Gesundheitsthemen, Politiker oder Prominente.

Falschmeldungen schädigen Marken und befeuern geopolitische Propaganda

Durch den kaum kontrollierten KI-Einsatz kommt es regelmäßig zu frei erfundenen Behauptungen. Im Oktober 2025 etwa verbreitete die KI-Content-Farm "News 24" die Falschmeldung, Coca-Cola habe gedroht, sein Super-Bowl-Sponsoring zurückzuziehen, sollte der puerto-ricanische Rapper Bad Bunny in der Halbzeitshow auftreten. Coca-Cola ist laut Newsguard gar kein Super-Bowl-Sponsor. Dennoch erschienen auf der Seite Anzeigen von Expedia, AT&T, YouTube, Priceline, Hotels.com, Skechers und GoDaddy.

Die Seite "CitizenWatchReport" wiederum verbreitete die falsche Behauptung, zwei US-Senatoren hätten 814.000 Dollar für Hotels in der Ukraine ausgegeben. Diese Falschmeldung wurde anschließend von russischen Staatsmedien aufgegriffen und in den USA weiterverbreitet.

Das System erfasst laut Newsguard auch Websites, die gezielt von gegnerischen Akteuren aus Russland, China und dem Iran betrieben werden. 358 der identifizierten KI-Content-Farmen seien mit Storm-1516 verknüpft, einer pro-russischen Einflussoperation, die irreführende Inhalte auf Websites veröffentlicht, die wie lokale Zeitungen in den USA und Europa aussehen sollen. Newsguard ging in früheren Studien von einer hohen Dunkelziffer aus, da die Erkennungsmethoden nicht perfekt sind.

Werbetreibende finanzieren KI-Schleudern unwissentlich mit

Viele der identifizierten Seiten sind sogenannte "Made for Advertising"-Websites, die gezielt darauf ausgelegt sind, mit minderwertigem Inhalt programmatische Werbeeinnahmen abzuschöpfen. Newsguard hatte bereits früher berichtet, dass in einem Zweimonatszeitraum 141 namhafte Marken auf solchen Seiten geworben hatten.

Der neue Datenstrom soll Werbetreibenden ermöglichen, ihre Anzeigenplatzierungen von diesen Seiten fernzuhalten. Er ist in Einkaufsplattformen wie The Trade Desk integriert oder kann direkt von Marken und Agenturen lizenziert werden.

Die KI-Content-Farmen tauchen auch in Google-Diensten wie Google News oder Google Discover auf und erzielen dort signifikante Sichtbarkeit. Offenbar kann oder will Google die Seiten nicht filtern. In vielen Fällen dürfte der Konzern über sein Adsense-Programm an der auf diesen Seiten ausgespielten Werbung mitverdienen.