Nach weltweiter Kritik an Grok leitet EU formelles Verfahren gegen X ein

Die Europäische Kommission hat ein neues Verfahren gegen X nach dem Digital Services Act (DSA) eingeleitet.

Die Untersuchung prüft, ob X die Risiken beim Einsatz des KI-Tools Grok auf seiner Plattform in der EU richtig bewertet und gemindert hat. Konkret geht es auch um die Verbreitung illegaler Inhalte wie manipulierte sexuell explizite Bilder, einschließlich möglicher Darstellungen von Kindesmissbrauch.

Der Hintergrund: Elon Musks KI-Chatbot Grok hat laut New York Times und dem Center for Countering Digital Hate (CCDH) innerhalb von nur neun Tagen mindestens 1,8 Millionen sexualisierte Bilder von Frauen erstellt und auf X veröffentlicht. Etwa 65 Prozent der Bilder enthielten sexualisierte Darstellungen von Männern, Frauen oder Kindern, so das CCDH.

Der Ansturm begann am 31. Dezember, nachdem Musk ein von Grok erstelltes Bikini-Bild von sich selbst teilte. Nutzer forderten den Chatbot daraufhin auf, echte Fotos von Frauen und Kindern zu entkleiden. X schränkte die Funktion erst am 8. Januar ein.

Bei einem Verstoß drohen X weitere Strafen. Im Dezember 2025 hatte die Kommission X wegen irreführendem Design, mangelnder Werbetransparenz und unzureichendem Datenzugang für Forscher bereits mit 120 Millionen Euro bestraft.

EU-Kommission untersucht Umstellung auf Grok-basierten Empfehlungsalgorithmus

Zusätzlich wurde ein bereits laufendes Verfahren aus dem Dezember 2023 erweitert. Das untersucht die Funktionsweise von X's Melde- und Löschmechanismus, Maßnahmen gegen illegale Inhalte wie terroristisches Material sowie Risiken der Empfehlungssysteme. Nun kommt auch die kürzlich angekündigte Umstellung auf ein Grok-basiertes Empfehlungssystem hinzu.

Die Untersuchung wird unter anderem zeigen, inwieweit sich der teilweise starke Bias neuerer Grok-Systeme im sogenannten Phoenix-Scorer widerspiegelt. Wie schnell selbst vergleichsweise simple Empfehlungsalgorithmen manipulativ werden können, haben Forscher bereits 2022 gezeigt.