Mit einem Deepfake-Doppelgänger sollt ihr im Web menschlich rüberkommen, aber dennoch eure Identität schützen. Ergibt dieses Konzept Sinn - oder spielt es nur Trollen und Betrügern in die Hände?
Das Start-up Generated Media bietet seit Herbst 2019 "Deepfakes as a Service": Aus einer riesigen Datenbank an ausgewählten KI-generierten Porträtfotos können sich Kunden eine für ihre Zwecke geeignete Wunschperson aussuchen.
Das bietet sich beispielsweise in der Werbung an, um teure Lizenzierungskosten für reale Menschen zu sparen. Vereinzelt wurde bekannt, dass Deepfake-Porträts bei Betrugsversuchen eingesetzt werden, um ein glaubwürdigeres Fake-Profil zu erstellen. Gerade in Social Media soll die Nutzung von Deepfake-Bildern zunehmen, auch für Propaganda-Zwecke.
Generated Media setzt jetzt auf den Social-Media-Trend auf, dreht ihn aber ins Positive: Ein Doppelgänger-Generator soll euch passend zu eurem realen Aussehen ein Deepfake-Konterfei ausspielen. So könne man "einen allgemeinen Eindruck" des eigenen Aussehens vermitteln, ohne sich tatsächlich zu zeigen und "die eigene Sicherheit zu gefährden", schreibt Generated Media. Rein anonyme Social-Media-Accounts hingegen seien zwar beliebt, "aber ohne jede Persönlichkeit".
Euren Deepfake-Doppelgänger könnt ihr mit dem Anonymizer direkt im Browser erstellen. Der Service ist kostenlos, die Nutzung des Bildes ebenso. Das eigene Bild wird laut Anbieter nicht auf dem Server gespeichert.
"Mensch, ich hätte dich kaum wiedererkannt"
Ganz zu Ende gedacht ist der Ansatz von Generated Media für Deepfake-Anonymisierung allerdings nicht - oder anders gesagt - ergibt er nur Sinn, sollte man neue Kontakte nicht im echten Leben treffen wollen und keine bestehenden realen Kontakte virtuell pflegen, die ob der neuen Deepfake-Visage verwirrt reagieren könnten.
Interessant ist die Idee jedoch und relevant allemal, das zeigt der Aufbau riesiger Gesichtsdatenbanken wie Pimeyes oder Clearview, deren Bildinformationen anschließend für die KI-automatisierte Überwachung eingesetzt werden können. Ist das eigene Konterfei erst mal im Netz, besteht die Möglichkeit, dass man unfreiwillig Teil dieser Datenbanken und damit weltweit überwachbar wird.
Unter anderem zeigt ein aktuelles Beispiel aus Moskau, wie effizient Überwachungssysteme mit KI-gestützter Gesichtserkennung schon heute arbeiten. Auch in Deutschland wird Gesichtsscanning für Überwachungszwecke eingesetzt.
Deepfake for Good
Andere hatten die Idee der Deepfake-Anonymisierung zuvor, aber bessere Anwendungsszenarien: Ein israelisches Start-up schlägt vor, Personen in Überwachungsvideos ein Deepfake-Gesicht zu verpassen. So wäre das Gesicht der Person nicht mehr identifizierbar, ihre Handlungen wären aber dennoch dokumentiert.
Den gleichen Gedanken hatte der Dokumentarfilmer David France, der in seinem Film "Welcome To Chechnya" Aktivisten per Deepfake ein neues Gesicht verpasste, die ansonsten Furcht vor Verfolgung hätten haben müssen. Der Vorteil bei der Deepfake-Verschleierung ist, dass die Emotionen der Originalperson erhalten bleiben und sie nicht durch andere Stilmittel entfremdet werden muss, die stärkeren Einfluss haben können auf die Einstellung des Zuschauers gegenüber der Person.
Über aktuelle Deepfake-Trends sprechen wir im MIXED.de Podcast #204.
