Inhalt
newsletter Newsletter

Auf der Chat-Plattform Telegram machen Deepfake-Bots die Runde, die automatisiert Nackt-Deepfakes erstellen. Nutzer müssen lediglich ein Foto hochladen. Mehr als 100.000 Fake-Bilder sollen auf der Plattform hergestellt und geteilt worden sein, das geht aus einer Untersuchung des auf Deepfake-Erkennung spezialisierten Unternehmens Sensity hervor.

Anzeige

Die Nutzung der Bot-Dienste sei gratis und produziere Nackt-Deepfakes mit Wassermarke und teilweiser Nacktheit, heißt es im Sensity-Bericht. Gegen eine Gebühr können Nutzer die restlichen Körperteile von der KI entblößen lassen. Für umgerechnet einen Euro erhalten Nutzer binnen einer Woche rund 100 Nackt-Deepfakes ohne Wassermarke.

Laut Sensity kommen die Nutzer zu circa 70 Prozent aus Russland und den umliegenden Ländern. Sie sollen vornehmlich Nackt-Deepfakes von Frauen erstellen, die sie aus ihrem sozialen Umfeld kennen. Die Originalbilder stammen von sozialen Netzwerken.

Einmal in Nackt-Deepfakes verwandelt, würden die KI-Bilder auf Telegram geteilt. Bis Juli 2020 identifizierte Sensity mehr als 100.000 Nackt-Deepfakes auf der Messaging-App. Darunter sollen auch Bilder von Minderjährigen sein.

Anzeige
Anzeige

Alte Schmuddel-KI

Die Software geht auf die KI-Auszieh-App DeepNude zurück. Die tauchte erstmals im Sommer 2019 auf und wurde wenige Tage nach Veröffentlichung wieder offline genommen. Als Grund gaben die Entwickler ein "zu hohes Risiko für Missbrauch" an.

Vor der Verbreitung des Programms schützte dieser Schritt nicht: Im Internet tauchten verschiedene Versionen des Quellcodes auf, die von Programmierern weiterentwickelt und auf diversen Kanälen verbreitet wurden. Die Telegram-Bots nutzen laut Sensity den gleichen Code.

Sex-Deepfakes dominieren

Fake-Nacktbilder gibt es zwar schon lange, durch Künstliche Intelligenz ist die Generierung solcher Inhalte aber so einfach wie nie geworden. Das zeigt sich an der DeepNude-App und jüngst den Telegram-Bots: Das Hochladen eines Bilds und ein paar Klicks in der Messaging-App reichen.

Für die Opfer uneinvernehmlicher Deepfake-Pornografie können die KI-generierten Nacktbilder schlimme Folgen haben: Betroffene Frauen können durch entsprechendes Bildmaterial erpresst oder öffentlich gedemütigt werden.

Einem früheren Sensity-Bericht zufolge stellen pornografische Deepfakes die häufigste Deepfake-Variante dar. Das Unternehmen identifizierte bis Juli 2020 knapp 50.000 verschiedene Sex-Deepfakes im Netz. Rund 1.000 neue Videos sollen pro Monat auf bekannten Pornoseiten hochgeladen werden, ohne dass diese dagegen vorgehen würden.

Empfehlung

Quelle: The Verge

Anzeige
Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!

Weiterlesen über Deepfakes:

Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Tomislav schreibt über Künstliche Intelligenz im Kontext der XR, Kunst und virtueller Wesen: Wie trägt KI zur Entwicklung von VR und AR bei, wie rekonstruiert und erweitert sie das menschliche Kunstschaffen und welche neue Formen des Geschichtenerzählens und der NPC-Interaktion ermöglicht sie?
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!