Deepfakes: Bundesregierung äußert sich zum Risiko von KI-Fakes
In den USA laufen die ersten Deepfake-Verbote schon an. Jetzt äußert sich auch die deutsche Bundesregierung zu einem möglichen Deepfake-Risiko.
Mit KI-Technologie angefertigten Videofälschungen, sogenannten Deepfakes, wird mitunter nachgesagt, dass sie ein gesellschaftliches Risiko darstellen könnten: Einerseits wird es einfacher, das Gesicht einer Person in einem Video gegen ein anderes Gesicht zu tauschen. Diese aufwendige Videomanipulation ist so nicht mehr das Spezialgebiet teurer Hollywood-Studios, sondern sie kann von jedermann mit Interesse für Technik bewerkstelligt werden.
Ein eindrucksvolles Beispiel für diese Hypothese zitiert den Star-Wars-Film "Rogue One": Im Film erscheint eine junge Carrie Fisher als Prinzessin Leia. Für die Originalszene (oberes Bild) wurden optisch ähnliche Gesichtszüge einer Ersatzschauspielerin nachträglich gegen jene von Fisher getauscht. Ein aufwendiges Verfahren. Mit einer Deepfake-KI-App konnte ein Entwickler in kurzer Zeit ein qualitativ vergleichbares Ergebnis erzielen.
Ähnliche Beispiele gibt es zuhauf: Fake-Porträts von Berühmtheiten, die nie existierten, gefälschte Pornos, ein Bildbearbeitungswerkzeug, das mit wenigen Mausklicks Fotos komplett umgestalten kann oder eine Facebook-KI, die auf Fotos geschlossene Augen wieder öffnet. Der Spezialeffekteprofi Rob Bredow (ILM) geht davon aus, dass die Technologie sein Berufsbild grundlegend verändern wird.
Zweites Risikopotenzial: Deepfakes erschüttern Vertrauen in Medien
Die Bundesregierung verweist in einer aktuellen Stellungnahme, die der Süddeutschen Zeitung vorliegt, auf das zweite Risikopotenzial von Deepfakes: dass ihre Bedeutung überschätzt wird, aber der öffentliche Diskus einer möglichen Bedrohung durch Deepfakes dennoch zu einem medialen Vertrauensverlust in der Bevölkerung führt.
"Deep Fakes können das gesellschaftliche Vertrauen in die grundsätzliche Echtheit von Audio- und Videoaufnahmen und damit die Glaubwürdigkeit öffentlich verfügbarer Informationen schwächen", heißt es in dem Schreiben der Bundesregierung, das auf Aussagen von Wissenschaftlern verweist, die "vor einer Überbewertung der Gefahren für demokratische Prozesse" durch Deepfakes warnen.
Deepfakes könnten dennoch "eine große Gefahr für Gesellschaft und Politik darstellen", sofern sie genutzt würden, um "die öffentliche Meinung zu manipulieren". Sie seien daher in Arbeitsgruppen im Auswärtigen Amt sowie dem Innen- und dem Justizministerium ein Thema. Die Bundesregierung bietet seit Mitte November auch eine Infoseite zu Deepfakes an.
Einen Schritt weiter in der gesetzlichen Entscheidungsfindung ist der US-Bundesstaat Kalifornien: Dort sind politisch motivierte Deepfakes 60 Tage vor einer Wahl strafbar, wenn sie nicht als solche gekennzeichnet sind.
Titelbild: Bundesregierung (Screenshot aus Video)
KI-News ohne Hype
Von Menschen kuratiert.
- Mehr als 20 Prozent Launch-Rabatt.
- Lesen ohne Ablenkung – keine Google-Werbebanner.
- Zugang zum Kommentarsystem und Austausch mit der Community.
- Wöchentlicher KI-Newsletter.
- 6× jährlich: „KI Radar“ – Deep-Dives zu den wichtigsten KI-Themen.
- Bis zu 25 % Rabatt auf KI Pro Online-Events.
- Zugang zum kompletten Archiv der letzten zehn Jahre.
- Die neuesten KI‑Infos von The Decoder – klar und auf den Punkt.