Google verklagt erstmals chinesisches Netzwerk wegen KI-Scams, OpenAI bannt PRC-Konten

Die Angeklagten produzierten laut Google 131 Software-Kits, mit denen sich tausende gefälschte Websites erstellen ließen, die Google, YouTube, den Postal Service oder das New Yorker Mautsystem E-ZPass nachahmten. Innerhalb von zwei Wochen im Mai versandte das Netzwerk laut Klageschrift 2,5 Millionen Nachrichten an Android-Nutzer mit Links zu 9.000 Fake-Websites und mehr als einer Million betrügerischen Internetadressen. Koordiniert wurde über Telegram.

Es ist nach Angaben von Googles General Counsel Halimah DeLaine Prado die erste Klage, bei der das Unternehmen gemeinsam mit dem FBI und Mobilfunkanbietern wie AT&T, T-Mobile und Verizon vorgeht. Konkret beantragt Google laut NYT einen gerichtlichen Unterlassungsbeschluss ("restraining order"), der Unternehmen und Strafverfolgern die rechtliche Grundlage geben soll, das Netzwerk gemeinsam abzuschalten, etwa indem Domains beschlagnahmt oder Konten gesperrt werden. Die Schadenshöhe könne Google nicht exakt beziffern, sie liege aber im Millionenbereich.

Brett Leatherman, Assistant Director der FBI-Cyberabteilung, erklärte gegenüber der New York Times, dass Kriminelle zunehmend KI einsetzten, um Betrug überzeugender und schwerer erkennbar zu machen. Das FBI bezifferte den durch Cyberkriminalität 2025 angerichteten Schaden auf rund 21 Milliarden Dollar, davon 893 Millionen mit KI-Bezug.

OpenAI bannt zwei Cluster mit Bezug zu China

Parallel veröffentlichte OpenAI seinen Threat Report für Juni 2026 und sperrte zwei ChatGPT-Cluster, die mutmaßlich aus China stammen und Debatten über US-Technologiepolitik manipulieren wollten. Die Operatoren nutzten VPNs und prompteten in vereinfachtem Chinesisch.

Das erste Cluster, von OpenAI "Data Center Bandwagon" getauft, generierte englischsprachige Kommentare, Comic-Strips und bearbeitete Bilder, die die Botschaft verbreiteten, der Ausbau von KI-Rechenzentren treibe die Strompreise für Durchschnittsfamilien in die Höhe. Verbreitet wurden die Inhalte über vermutlich unauthentische X-Konten mit Hashtags wie #capacityauction und #datacenters.

OpenAI ordnet die Akteure einem privaten chinesischen Tech-Unternehmen zu, das im Auftrag chinesischer Provinzbehörden arbeitet. Dieselben Konten attackierten Dissidenten wie den Aktivisten Li Ying ("Teacher Li") und gaben sich als US-basierte chinesische Einwanderer aus.

Karikaturen ohne Xi, Vorwürfe gegen OpenAI

Das zweite Cluster, "Tech and Tariffs", produzierte Karikaturen gegen Trumps Zollpolitik und gegen die US-Strategie technologischer Dominanz. Die Prompts wiesen das Modell explizit an, weder China noch Staatschef Xi Jinping darzustellen, sondern ausschließlich Präsident Trump. Ein Nutzer bezeichnete die eigenen Konten als "Wasserarmee", ein gängiger chinesischer Begriff für koordinierte Trollkonten.

Verbunden war das Cluster mit einem X-Netzwerk, das OpenAI selbst mit der falschen Behauptung diskreditierte, ChatGPT-Nutzerdaten seien kompromittiert worden. Zusätzlich fragten die Akteure ChatGPT nach einem Konzept für ein KI-Überwachungssystem, das "schädliche" Inhalte von "Schlüsselpersonen" automatisch erfassen sollte. Laut OpenAI lieferte das Modell nur allgemeine Hinweise zur Datenspeicherung.

Ben Nimmo, leitender Ermittler bei OpenAI, sagte gegenüber Axios, die Einflussoperationen hätten die Debatte selbstverständlich nicht erzeugt, sondern sich in eine bereits existierende Diskussion eingeklinkt, um sie aus China heraus zu beeinflussen. Auf der von OpenAI verwendeten Breakout Scale erreichen beide Operationen lediglich Kategorie 1, also keine nennenswerte Verbreitung über die eigenen Konten hinaus.