Inhalt
newsletter Newsletter

Das Unternehmen hinter der beliebten Smartphone-App und Kurzvideoplattform Tiktok soll an einer Deepfake-Funktion arbeiten. Bewahrheiten sich die Gerüchte, würden automatisierte Deepfakes zum ersten Mal den Mainstream erreichen.

Anzeige

Das unveröffentlichte Feature soll "Face Swap" (Deutsch: Gesichtertausch) heißen und wurde sowohl im Code der Tiktok-App als auch in dessen chinesischer Version Douyin entdeckt.

Über den Fund berichtet Techcrunch mit Verweis auf die App-Marktforscher von Watchful.ai, die auf den Code aufmerksam wurden und Screenshots und Videos der Funktion anfertigten, nachdem sie das Feature aktivieren konnten.

Für den KI-Gesichtertausch lassen Nutzer zunächst ihr Gesicht von der Tiktok-App scannen. Dieser Schritt dient auch der Identitätsüberprüfung: Hiermit soll sichergestellt werden, dass man Deepfakes lediglich von sich selbst erstellt. Fotos oder Videos können nicht hochgeladen werden.

Anzeige
Anzeige

Während des Scans wird man zum Blinzeln, Nicken, Öffnen und Schließen des Mundes aufgefordert. Das dabei aufgezeichnete Material dient dem KI-Training.

Danach kann man aus einer Reihe vorbereiteter Videos wählen und Gesichter der Personen im Video durch das eigene ersetzen. Eigene Videos können nicht als Ausgangsmaterial benutzt werden. Die Deepfakes wirken laut Techcrunch "sehr überzeugend".

Der Porno-Fälscher-Algorithmus Deepfakes wird auf Donald Trump angesetzt. Original und Fälschung sind kaum mehr zu unterscheiden.
Deepfakes gerieten bislang vor allem wegen des potenziellen politischen Missbrauchs in die Schlagzeilen. BILD: Derpfakes

Tiktok kennzeichnet die Deepfakes

Das fertige Deepfake-Video kann heruntergeladen und mit anderen Nutzern geteilt werden. Es enthält eine Wassermarke, die das Material als Deepfake kennzeichnet. In China stehen unmarkierte Deepfake-Videos unter Strafe, in Teilen der USA ebenfalls. Der Grund: Sie könnten für politische Zwecke oder Rachepornos missbraucht werden.

Watchful.ai stieß außerdem auf aktualisierte Nutzungsbedingungen für die Deepfake-Funktion. Darin müssen Nutzer zustimmen, dass ihre Gesichtsinformationen für Deepfakes benutzt werden. Bytedance, das chinesische Unternehmen hinter Tiktok, versichert, dass die Gesichtsdaten nur für Identifikationszwecke und die Deepfake-Funktion eingesetzt und nicht gespeichert werden.

Deepfake-App Zao lässt Nutzer in bekannten Serien und Filmen mitspielen
Mit der chinesischen Deepfake-App Zao ersetzt man bekannte Schauspieler in Filmen. BILD: Allan Xia via Twitter

Bytedance dementiert

In den Nutzungsbedingungen steht ferner, dass nur volljährige Personen die Funktion nutzen dürfen. Tiktok selbst dementierte auf Anfrage von Techcrunch, dass eine entsprechende Funktion geplant ist.

Empfehlung

Im September 2019 ging in China die Deepfake-App Zao viral, die es Nutzern ermöglichte, ihr Gesicht in bekannte Szenen aus Filmen und Serien einzufügen. Sollte Bytedance die Deepfake-Funktion veröffentlichen, würden automatisierte KI-Fakes zum ersten Mal eine Vielzahl Menschen im Westen erreichen.

Tiktok verzeichnet drei Jahre nach Erscheinen mehr als 500 Millionen monatlich aktive Nutzer und gehört auch im Westen zu den meist heruntergeladenen Smartphone-Apps.

Titelbild und Quelle: Techcrunch

Anzeige
Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!

Weiterlesen über Deepfakes:

Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Tomislav schreibt über Künstliche Intelligenz im Kontext der XR, Kunst und virtueller Wesen: Wie trägt KI zur Entwicklung von VR und AR bei, wie rekonstruiert und erweitert sie das menschliche Kunstschaffen und welche neue Formen des Geschichtenerzählens und der NPC-Interaktion ermöglicht sie?
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!