Britische Medienaufsicht ermittelt gegen X wegen KI-generierter Nacktbilder

Die britische Medienaufsicht Ofcom hat eine Untersuchung gegen X wegen des KI-Chatbots Grok eingeleitet. Damit reagiert die Behörde auf Berichte der letzten Wochen, denen zufolge der Chatbot und die Social-Media-Plattform von Elon Musk zunehmend genutzt wurden, um nicht einvernehmliche intime Bilder und sexualisiertes Material von Kindern zu erstellen und zu teilen.

Ofcom prüft nun, ob X gegen den britischen Online Safety Act verstoßen hat. Die Behörde kontaktierte X am 5. Januar 2025 und forderte bis zum 9. Januar eine Stellungnahme. Die Untersuchung soll klären, ob X ausreichende Maßnahmen zum Schutz britischer Nutzer vor illegalen Inhalten ergriffen hat. Bei Verstößen drohen Strafen von bis zu 18 Millionen Pfund oder 10 Prozent des weltweiten Umsatzes. In schweren Fällen könnte ein Gericht sogar anordnen, den Zugang zu X in Großbritannien zu sperren. Ofcom prüft auch, ob xAI, das KI-Unternehmen hinter Grok, gegen Vorschriften verstoßen hat. Vergangene Woche hatte die EU-Kommission X angewiesen, alle internen Dokumente und Daten zum KI-Chatbot Grok bis Ende 2026 aufzubewahren.