Auf dem Chat-Dienst Telegram sind weiter Deepfake-Bots zu finden, die auf Knopfdruck Nacktfotos von Frauen generieren. Die KI-Bilder werden anschließend in dubiosen Kanälen geteilt. Mediale Aufmerksamkeit hat die Szene in den Untergrund gedrängt, verschwunden ist sie allerdings nicht.
Der Deepfake-Bot wurde Anfang des Jahres von der KI-Sicherheitsfirma Sensity entdeckt, die daraufhin die Telegram-Betreiber informierten. Nachdem diese nichts unternahmen, informierte Sensity im Oktober 2020 die Öffentlichkeit.
Dem Bericht der Deepfake-Spezialisten zufolge wurden auf Telegram bislang mehr als 100.000 KI-generierte Nacktbilder erstellt und geteilt. Generiert werden sie von einem Deepfake-Bot, der auf der KI-Software DeepNude aus dem Jahr 2019 basiert.
Nutzer laden ein gewöhnliches Foto hoch, worauf der Bot gegen Bezahlung eine Nacktversion der darauf dargestellten Person erstellt. Die Bilder werden anschließend auf Telegram geteilt und können so über Umwege ins Internet gelangen oder für Erpressungsversuche missbraucht werden.
Passive Plattformbetreiber
Der Sensity-Bericht sorgte für viel Medienaufmerksamkeit, worauf einige der Telegram-Gruppen aufgelöst wurden, den Namen wechselten oder sich auf andere Deepfake-Inhalte verlegten. Offen für den Bot geworben wird nicht mehr und meist er ist gut versteckt, aber immer noch aktiv. "Seit wir an die Öffentlichkeit gingen, lief der Bot weiter und ist auch heute noch im Betrieb", sagt Sensity-CEO Giorgio Patrini gegenüber Wired.
Ende Oktober implementierte Apple eine Sperre, sodass man von iPhones und iPads aus keinen Zugriff mehr auf den Bot erhält. Auf Android-Geräten und Telegrams MacOS-App funktioniert er nach wie vor. Telegram selbst unternahm keine nachprüfbaren Schritte gegen den Deepfake-Bot und deren Szene.
Telegram ist erst der Anfang
Seit dem 23. Oktober ermittelt auch die Datenschutzbehörde Italiens gegen Telegram. Bei den Untersuchungen stießen sie auch auf zahlreiche andere Telegramm-Gruppen, die uneinvernehmlich echte Nacktfotos tauschen.
Für Sensity-Chef Patrini ist der Telegram-Bot erst der Anfang. Es handle sich hier um den ersten Fall, in dem KI-gestützte Bildmanipulation in dieser Größenordnung auf einfache Weise missbraucht werde.
Ebenfalls neu sei, dass Privatpersonen betroffen sind. Früher waren Berühmtheiten Opfer uneinvernehmlicher Pornografie, heute kann es jeder sein. Je zugänglicher die Technologie werde, desto größer sei das Missbrauchspotenzial.
Quelle: Wired
