Deepfakes: China stellt KI-Fakes unter Strafe

Bislang machten eher unterhaltsame als politische China-Deepfakes die Runde. So sorgte im September die chinesische Smartphone-App Zao für Aufsehen. Sie ermöglichte es Nutzern, das Gesicht von Schauspielern in Videoclips durch ihr eigenes zu ersetzen. Ein einzelnes Foto und eine Berechnungsdauer von circa acht Sekunden reichen für die Generierung des Deepfakes. Die App wurde millionenfach heruntergeladen.

In case you haven't heard, #ZAO is a Chinese app which completely blew up since Friday. Best application of 'Deepfake'-style AI facial replacement I've ever seen.

Here's an example of me as DiCaprio (generated in under 8 secs from that one photo in the thumbnail) ? pic.twitter.com/1RpnJJ3wgT

— Allan Xia (@AllanXia) September 1, 2019

Politiker und Experten warnen vor Deepfake-Schwemme

Vereinzelt gingen bislang US-Bundesstaaten gegen Deepfakes vor: So verbot Virginia im Sommer Deepfake-Rachepornos und Kalifornien erließ im Oktober ein Gesetz, das sich ausdrücklich gegen politischen Missbrauch der Technologie richtet.

Es verbietet die Verbreitung von Fake-Video und -Audio, sofern die Medien den Ruf eines Wahlkandidaten schädigen oder Wähler  täuschen. Die Deepfakes sind nur im Vorfeld von Wahlen strafbar und wenn sie nicht als solche gekennzeichnet sind.

Dem Gesetz gingen ein Deepfake von Mark Zuckerberg sowie ein manipuliertes Video der Sprecherin des US-Repräsentantenhauses Nancy Pelosi voraus, das sich in sozialen Medien rasant verbreitete. US-Politiker warnten in diesem Kontext vor einer Deepfake-Schwemme und forderten Plattformen wie Twitter und Facebook auf, Gegenmaßnahmen zu ergreifen.

Social Media reagiert auf Deepfake-Risiko

Twitter veröffentlichte vor kurzem neue Richtlinien gegen Deepfakes und manipulierte Medien. Entsprechende Tweets sollen künftig markiert oder gelöscht werden, falls sie als gefährlich eingestuft werden.

Der Kurznachrichtendienst verbot zudem politische Wahlwerbung, im Gegensatz zu Facebook, das aus Gründen der freien Meinungsäußerung unwahre Politwerbung weiterhin dulden will.

Google und Facebook arbeiten an Werkzeugen, die es erlauben sollen, Deepfakes verlässlich zu identifizieren. Die Unternehmen stellen hierfür eigens kreierte Deepfake-Datenbanken ins Netz, anhand derer KI-Erkennungsalgorithmen trainiert werden können.

Ob mit technischen Werkzeugen der Kampf gegen immer besser werdende Deepfakes gewonnen werden kann, ist offen, da mit der Erkennungs- auch die Generierungstechnologie besser wird.

Der unter anderem auf Deepfakes spezialisierte KI-Forscher Hao Li geht davon aus, dass die Fälscher auf Dauer die Oberhand gewinnen, da Deepfakes letztlich nur Videos aus bunten Pixeln seien. Technisch gebe es bei einer perfekten Pixel-Farbfälschung keinen Erkennungsansatz  mehr.

Titelbild: Derpfakes (Screenshot bei Youtube), Quelle: Reuters