Inhalt
newsletter Newsletter
DEEP MINDS Podcast
Podcast über Künstliche Intelligenz und Wissenschaft
DEEP MINDS #12: Künstliche Intelligenz regulieren

Auf dem Chat-Dienst Telegram sind weiter Deepfake-Bots zu finden, die auf Knopfdruck Nacktfotos von Frauen generieren. Die KI-Bilder werden anschließend in dubiosen Kanälen geteilt. Mediale Aufmerksamkeit hat die Szene in den Untergrund gedrängt, verschwunden ist sie allerdings nicht.

Der Deepfake-Bot wurde Anfang des Jahres von der KI-Sicherheitsfirma Sensity entdeckt, die daraufhin die Telegram-Betreiber informierten. Nachdem diese nichts unternahmen, informierte Sensity im Oktober 2020 die Öffentlichkeit.

Dem Bericht der Deepfake-Spezialisten zufolge wurden auf Telegram bislang mehr als 100.000 KI-generierte Nacktbilder erstellt und geteilt. Generiert werden sie von einem Deepfake-Bot, der auf der KI-Software DeepNude aus dem Jahr 2019 basiert.

Nutzer laden ein gewöhnliches Foto hoch, worauf der Bot gegen Bezahlung eine Nacktversion der darauf dargestellten Person erstellt. Die Bilder werden anschließend auf Telegram geteilt und können so über Umwege ins Internet gelangen oder für Erpressungsversuche missbraucht werden.

Anzeige
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung

Passive Plattformbetreiber

Der Sensity-Bericht sorgte für viel Medienaufmerksamkeit, worauf einige der Telegram-Gruppen aufgelöst wurden, den Namen wechselten oder sich auf andere Deepfake-Inhalte verlegten. Offen für den Bot geworben wird nicht mehr und meist er ist gut versteckt, aber immer noch aktiv. „Seit wir an die Öffentlichkeit gingen, lief der Bot weiter und ist auch heute noch im Betrieb“, sagt Sensity-CEO Giorgio Patrini gegenüber Wired.

Ende Oktober implementierte Apple eine Sperre, sodass man von iPhones und iPads aus keinen Zugriff mehr auf den Bot erhält. Auf Android-Geräten und Telegrams MacOS-App funktioniert er nach wie vor. Telegram selbst unternahm keine nachprüfbaren Schritte gegen den Deepfake-Bot und deren Szene.

Telegram ist erst der Anfang

Seit dem 23. Oktober ermittelt auch die Datenschutzbehörde Italiens gegen Telegram. Bei den Untersuchungen stießen sie auch auf zahlreiche andere Telegramm-Gruppen, die uneinvernehmlich echte Nacktfotos tauschen.

Für Sensity-Chef Patrini ist der Telegram-Bot erst der Anfang. Es handle sich hier um den ersten Fall, in dem KI-gestützte Bildmanipulation in dieser Größenordnung auf einfache Weise missbraucht werde.

Ebenfalls neu sei, dass Privatpersonen betroffen sind. Früher waren Berühmtheiten Opfer uneinvernehmlicher Pornografie, heute kann es jeder sein. Je zugänglicher die Technologie werde, desto größer sei das Missbrauchspotenzial.

Empfehlung

Quelle: Wired

Weiterlesen über Deepfakes:

Anzeige
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Tomislav schreibt über Künstliche Intelligenz im Kontext der XR, Kunst und virtueller Wesen: Wie trägt KI zur Entwicklung von VR und AR bei, wie rekonstruiert und erweitert sie das menschliche Kunstschaffen und welche neue Formen des Geschichtenerzählens und der NPC-Interaktion ermöglicht sie?
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!