Ein Schauspieler tarnt sich bei TikTok per Deepfake täuschend echt als Tom Cruise - und beweist so die manipulative Kraft KI-gefälschter Videos.
Im Herbst 2019 prophezeite der Deepfake-Experte Hao Li, dass in etwa zwei bis drei Jahren Deepfake-Kopien menschlicher Gesichter perfekt sein würden.
"Wenn dieser Punkt kommt, dann muss uns klar sein, dass nicht jedes Video, das wir sehen, authentisch ist", sagte Li.
Der Deepfaker "Deeptomcruise" bei TikTok zeigt jetzt, dass Li wohl recht behalten wird - oder sogar schon hat. Denn seine Auftritte als Tom Cruise sind nur noch für sehr aufmerksame Beobachter als Fake erkennbar, gerade auf einem kleinen Smartphone-Screen mit zusätzlicher Video-Kompression. Mehr als 260.000 TikTok-Follower gewann Deepfake-Cruise in den letzten Tagen hinzu.
Unaufhaltsamer Deepfake-Fortschritt
Klar: Aufmerksame Zuschauer können TikTok-Cruise als Deepfake (Geschichte) entlarven. Schaut man seine Videos langsam an oder stoppt sie zwischendurch, erkennt man Bildfehler, beispielsweise wenn ein Brillenbügel für eine Sekunde verschwindet oder sich die Augenpartie unnatürlich bewegt.
Außerdem ist Tom Cruise heute 58 Jahre alt und sein Gesicht sieht deutlich älter aus als die Aufnahmen seines Gesichts, die Deeptomcruise für das KI-Training verwendet. Auch die Stimme ist nicht akkurat. Für die Täuschung in einem kurzen TikTok-Clip dürfte es in den meisten Fällen dennoch reichen.
Deep fakes are getting scary good and taking over TikTok. Every public figure should just be on there with a verified account - even if they don’t want to make content - to make it easier to identify their fakes. Here’s Tom Cruise: pic.twitter.com/xoSJt1bvVR
— lauren white (@laurenmwhite) February 25, 2021
Unser Deepfake-Selbstversuch in diesem Jahr im Vergleich zu 2019 zeigt, dass die Erstellung eines Deepfakes insgesamt leichter geworden ist bei einer höheren Qualität. Gleichzeitig trifft kontinuierlich steigende Rechenleistung auf effizientere Deepfake-Algorithmen - das eigentlich rechenintensive KI-Training verliert als Einstiegshürde somit an Bedeutung.
Dringend gesucht: Verlässlicher Deepfake-Detektor
Die auf Cyber Security spezialisierte Unternehmerin Rachel Tobac fordert wegen Deeptomcruise Apps wie TikTok auf, ihre Deepfake-Detektion zu verbessern und entsprechende Videos eindeutig als Fakes zu kennzeichnen.
"Deepfakes beeinträchtigen das öffentliche Vertrauen, bieten Kriminellen/Tätern, die auf Video oder Audio erwischt werden, Deckung und plausible Dementis und werden verwendet, um Menschen zu manipulieren, zu demütigen und zu verletzen", schreibt Tobac. Bessere Deepfake-Erkennungssoftware werde dringend benötigt.
2 years ago on stage I was asked “when will Deepfake video/audio impact trust & be believable in social engineering?” My response then was that we were 2 years away from undetectable Deepfakes. I wish my prediction then was wrong. We need synthetic media detection + labels ASAP. pic.twitter.com/yUUOTDepYY
— Rachel Tobac (@RachelTobac) February 26, 2021
Tobac weist außerdem auf eine ungleich verteilte Medienkompetenz hin: Nur weil man selbst in der Lage sei, aktuelle Deepfakes noch als solche zu erkennen, gelte dies nicht für die breite Bevölkerung.
"Veränderte Medien haben echten Einfluss auf die Sicherheit, Politik und weitere Themen und betreffen alle", schreibt Tobac.
Deepfake-Detektoren per Software ohne Chance?
Neben Deepfaketomcruise verbreiten auch andere talentierte Hobby-Deepfaker ihre Videos bei TikoTok und in weiteren Kanälen, um Reichweite und Follower zu generieren. Gerade die in sozialen Netzwerken beliebten Memes sind ein Katalysator für die Verbreitung von Deepfakes.
Eine mögliche Lösung für mehr Transparenz bei Deepfakes von Prominenten oder Politikern könnte es sein, dass diese automatisch und visuell auffällig verifizierte Accounts in Social Media erhalten - auch dann, wenn sie nicht auf einer Plattform aktiv sind. Nicht verifizierte Accounts stünden somit grundsätzlich unter Fake-Verdacht.
Ein sicherer Schutz vor der Verbreitung von glaubhaften Fake-Videos in der extrem schnellen Social-Media-Landschaft böte allerdings auch diese Mechanik nicht.
Ebenso ist unklar, ob die häufig geforderten Software-Detektoren technisch überhaupt machbar oder dauerhaft sinnvoll sind. Der eingangs erwähnte Hao Li geht davon aus, dass gegnerische Algorithmen früher oder später nutzlos werden, da Deepfakes ebenso wie Originalvideos letztlich nur Pixel mit bestimmten Farbwerten seien. Wenn exakte Deepfake-Kopien möglich würden, gäbe es technisch keinen Ansatz mehr, diese als Fake zu entlarven.
Titelbild: Deeptomcurise bei TikTok
