Analyse zeigt: Grok erstellt tausende sexualisierte Bilder ohne Zustimmung pro Stunde
Elon Musks Plattform X hat sich zum Hauptumschlagplatz für KI-Bilder entwickelt, auf denen Personen ohne ihre Zustimmung entkleidet werden.
Innerhalb von 24 Stunden generierte der Chatbot etwa 6.700 Bilder pro Stunde, die als sexuell anzüglich oder entblößend identifiziert wurden, berichtet Genevieve Oh, eine Forscherin für soziale Medien und Deepfakes, gegenüber Bloomberg.
Eine Analyse der Expertin zeigt das massive Ausmaß des Missbrauchs von Elon Musks KI-Modell Grok auf der Plattform X. Während spezialisierte Webseiten für solche Inhalte im Schnitt nur 79 neue Bilder pro Stunde verzeichneten, übertraf Grok diesen Wert um ein Vielfaches. Nutzer verwenden den Chatbot gezielt, um hochgeladene Fotos von Personen – darunter auch Kinder – per Textbefehl digital zu entkleiden. Trotz nachträglicher Sicherheitsversprechen von xAI verdeutlicht der Fall eine alarmierende Normalisierung von sexualisierter Gewalt durch generative KI.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den „KI Radar"‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
Jetzt abonnieren