Mit Künstlicher Intelligenz generierte Fake-Medien untergraben das Vertrauen in Video- und Audiomaterial und können gezielt für politische Zwecke missbraucht werden. Nun verbietet China die Veröffentlichung und Verbreitung der KI-Fakes.
Die neue Regel der Cyberspace Administration of China (CAC) umfasst alle "Fake News", die mit Künstlicher Intelligenz oder Virtual Reality kreiert wurden und nicht deutlich als solche markiert sind, berichtet Reuters.
Die Regel tritt ab dem 1. Januar 2020 in Kraft und gilt für Privatpersonen und Onlineplattformen, darunter beliebte Videostreamingdienste wie Tencent Video, Youku und das chinesische TikTok-Gegenstück Douyin. Auch chinesische Podcastplattformen sind betroffen.
Deepfake-Technologie könne "die nationale Sicherheit gefährden, die soziale Stabilität und Ordnung stören sowie Rechte und Interessen Dritter verletzen", schreibt die CAC. Das gelte insbesondere für Deepfakes, die Personen täuschend echt etwas tun oder sagen lassen.
Bislang machten eher unterhaltsame als politische China-Deepfakes die Runde. So sorgte im September die chinesische Smartphone-App Zao für Aufsehen. Sie ermöglichte es Nutzern, das Gesicht von Schauspielern in Videoclips durch ihr eigenes zu ersetzen. Ein einzelnes Foto und eine Berechnungsdauer von circa acht Sekunden reichen für die Generierung des Deepfakes. Die App wurde millionenfach heruntergeladen.
In case you haven't heard, #ZAO is a Chinese app which completely blew up since Friday. Best application of 'Deepfake'-style AI facial replacement I've ever seen.
Here's an example of me as DiCaprio (generated in under 8 secs from that one photo in the thumbnail) ? pic.twitter.com/1RpnJJ3wgT
— Allan Xia (@AllanXia) September 1, 2019
Politiker und Experten warnen vor Deepfake-Schwemme
Vereinzelt gingen bislang US-Bundesstaaten gegen Deepfakes vor: So verbot Virginia im Sommer Deepfake-Rachepornos und Kalifornien erließ im Oktober ein Gesetz, das sich ausdrücklich gegen politischen Missbrauch der Technologie richtet.
Es verbietet die Verbreitung von Fake-Video und -Audio, sofern die Medien den Ruf eines Wahlkandidaten schädigen oder Wähler täuschen. Die Deepfakes sind nur im Vorfeld von Wahlen strafbar und wenn sie nicht als solche gekennzeichnet sind.
Dem Gesetz gingen ein Deepfake von Mark Zuckerberg sowie ein manipuliertes Video der Sprecherin des US-Repräsentantenhauses Nancy Pelosi voraus, das sich in sozialen Medien rasant verbreitete. US-Politiker warnten in diesem Kontext vor einer Deepfake-Schwemme und forderten Plattformen wie Twitter und Facebook auf, Gegenmaßnahmen zu ergreifen.
Social Media reagiert auf Deepfake-Risiko
Twitter veröffentlichte vor kurzem neue Richtlinien gegen Deepfakes und manipulierte Medien. Entsprechende Tweets sollen künftig markiert oder gelöscht werden, falls sie als gefährlich eingestuft werden.
Der Kurznachrichtendienst verbot zudem politische Wahlwerbung, im Gegensatz zu Facebook, das aus Gründen der freien Meinungsäußerung unwahre Politwerbung weiterhin dulden will.
Google und Facebook arbeiten an Werkzeugen, die es erlauben sollen, Deepfakes verlässlich zu identifizieren. Die Unternehmen stellen hierfür eigens kreierte Deepfake-Datenbanken ins Netz, anhand derer KI-Erkennungsalgorithmen trainiert werden können.
Ob mit technischen Werkzeugen der Kampf gegen immer besser werdende Deepfakes gewonnen werden kann, ist offen, da mit der Erkennungs- auch die Generierungstechnologie besser wird.
Der unter anderem auf Deepfakes spezialisierte KI-Forscher Hao Li geht davon aus, dass die Fälscher auf Dauer die Oberhand gewinnen, da Deepfakes letztlich nur Videos aus bunten Pixeln seien. Technisch gebe es bei einer perfekten Pixel-Farbfälschung keinen Erkennungsansatz mehr.
Titelbild: Derpfakes (Screenshot bei Youtube), Quelle: Reuters
