Elon Musks xAI schränkt Grok-Bildgenerierung nach Deepfake-Skandal massiv ein
Kurz & Knapp
- Nach Ermittlungen britischer Behörden und Protesten hat Elon Musks KI-Unternehmen xAI die Bildgenerierung seines Chatbots Grok eingeschränkt.
- Das Bearbeiten von Bildern realer Personen in freizügiger Kleidung ist gesperrt, die Bildgenerierung ist nur noch für zahlende Abonnenten verfügbar, und Konten, die nach sexualisiertem Material von Kindern suchen, werden an Strafverfolgungsbehörden gemeldet.
- Laut Deepfake-Forscherin Genevieve Oh erzeugte Grok vor den Einschränkungen etwa 6700 sexuell anzügliche oder entkleidende Bilder pro Stunde.
Es arbeiten tatsächlich noch Menschen bei xAI: Nach Protesten von Behörden und Nutzern hat Elon Musks KI-Unternehmen die Bildgenerierung seines Chatbots Grok eingeschränkt.
X hat nun mehrere Maßnahmen ergriffen: Das Bearbeiten von Bildern realer Personen in freizügiger Kleidung wie Bikinis ist für alle Nutzer gesperrt. Die Bildgenerierung insgesamt ist nur noch für zahlende Abonnenten verfügbar.
In Ländern, in denen es illegal ist, blockiert X zudem das Erstellen von Bildern realer Personen in Unterwäsche oder ähnlicher Kleidung. Konten, die nach CSAM suchen, werden laut X "bei Bedarf" an Strafverfolgungsbehörden gemeldet; nach welchen Kriterien das Unternehmen darüber entscheidet, bleibt unklar.
Die Reaktion kommt nach Protesten der letzten Tage. Nutzer verwendeten den Chatbot tagelang gezielt, um hochgeladene Fotos von Personen – darunter auch Kinder – per Textbefehl digital zu entkleiden. Die britische Medienaufsicht Ofcom ermittelt, ob X gegen den Online Safety Act verstoßen hat, unter anderem durch die Erstellung von sexualisiertem Material von Kindern (CSAM).
Bei Verstößen drohen Strafen von bis zu 18 Millionen Pfund oder 10 Prozent des weltweiten Umsatzes. Die jetzigen Änderungen bezeichnet die britische Regierung als "Bestätigung" ihrer Forderungen, Ofcom nannte es eine "willkommene Entwicklung".
Der US-Senat hat unterdessen einstimmig den "Defiance Act" verabschiedet, der Opfern von nicht einvernehmlichen KI-Nacktbildern erlaubt, die Urheber zu verklagen. Das Repräsentantenhaus muss noch zustimmen. Laut Deepfake-Forscherin Genevieve Oh erzeugte Grok zuvor etwa 6700 sexuell anzügliche oder entkleidende Bilder pro Stunde.
X will auch KI-Spam einschränken
Zusätzlich ändert X seine Entwickler-Richtlinien: Apps, die Nutzer für das Posten auf X belohnen (sogenannte "Infofi"-Apps), werden nicht mehr erlaubt. Laut Nikita Bier habe dies zu massenhaft KI-generiertem Spam auf der Plattform geführt. X hat bereits den API-Zugang solcher Apps gesperrt.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den „KI Radar"‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
Jetzt abonnieren