Studie zeigt, wie KI-Tools geschlechtsspezifische Gewalt auf Telegram industrialisieren

Nudifying-Bots, Deepfakes und automatisierte Archive: Eine Analyse von 2,8 Millionen Telegram-Nachrichten in Italien und Spanien dokumentiert, wie KI-Werkzeuge ein monetarisiertes Missbrauchsökosystem antreiben.

Sogenannte Nudifying-Bots gehören laut einem Bericht von AI Forensics zu den meistgesuchten Diensten in Telegram-Gruppen, die auf die Verbreitung nicht-einvernehmlicher Intimbilder spezialisiert sind. Diese Bots erzeugen aus harmlosen Fotos synthetische Nacktbilder. Das Wort "Bot" erscheint 16.232 Mal in den knapp 2,8 Millionen analysierten Nachrichten aus 16 italienischen und spanischen Telegram-Gruppen und -Kanälen. Unter den getarnten Weiterleitungslinks, die Nutzer innerhalb der Gruppen teilten, führten laut der Studie 49,71 Prozent zu KI-Girlfriend-Generatoren und 19,14 Prozent zu Nudifying-Bots.

Die Forschenden dokumentierten zudem, wie Nutzer Prompts für kommerzielle Chatbots wie Grok oder Gemini austauschen, um Bilder zu manipulieren. Unter dem Hashtag #PornoTok werden gezielt synthetische Inhalte von TikTok-Influencerinnen erstellt, einschließlich gefälschter Audiodateien mit deren Stimmen. KI senkt damit laut dem Bericht die technischen Hürden so weit, dass die Zahl potenzieller Opfer massiv wächst.

Automatisierter Missbrauch wird zum Geschäftsmodell

Die KI-gestützte Gewalt ist eng mit Monetarisierung verflochten. Archive, die nicht-einvernehmliche Intimbilder, aber auch Darstellungen von Kindesmissbrauch enthalten, werden für Einmalgebühren von 20 bis 50 Euro oder Monatsabos ab fünf Euro verkauft. Zahlungen laufen über PayPal, Kryptowährungen oder den spanischen Dienst Bizum. Einzelne Nutzer werben als Affiliates für Nudifying-Bots und erhalten laut eigenen Angaben 40 Prozent Provision. Insgesamt identifizierten die Forschenden 24.671 aktive Nutzer in Gruppen mit bis zu 27.000 Mitgliedern, wobei 72 Prozent der spanischen Inhalte auch in italienischen Gruppen auftauchten.

Telegram ermöglicht dieses Ökosystem laut AI Forensics strukturell: Premium-Funktionen erlauben die Organisation von Kanälen in Ordnern, Bots automatisieren den Zugang, und geschlossene Gruppen öffnen innerhalb weniger Stunden unter gleichem Namen wieder. Die Plattform erzielte 2024 laut dem Bericht 292 Millionen US-Dollar mit Premium-Abonnements und ist schon seit Aufkommen der Technologie eine Anlaufstelle für solche Bots.

Die Forschenden fordern, Telegram als Very Large Online Platform unter dem Digital Services Act einzustufen, Nudifying-Tools EU-weit zu verbieten und den AI Act um verpflichtende Schutzmaßnahmen gegen synthetische nicht-einvernehmliche Intimbilder zu ergänzen.