Seit dem Aufkommen von Deepfakes werden deren gesellschaftliche Gefahrenpotenziale diskutiert. Die britische Sci-Fi-Serie "The Capture" macht sie in einer eindrücklichen Erzählung erfahrbar.
Mit Deepfake-Technologie lassen sich menschliche Gesichter oder Stimmen in Videos, Tonspuren oder auf Bildern täuschend echt nachahmen. In den letzten Jahren nahm die Qualität der Bild- und Stimmklone kontinuierlich zu. Das Ergebnis: Menschen sagen Dinge, die sie nie gesagt haben oder tauchen an Orten auf, die sie nie besuchten. Erste Betrugsversuche mit Deepfake-Beteiligung sind dokumentiert.
Deepfake-Manipulation durch den Staat
Die Sci-Fi-Thriller-Serie "The Capture" beschreibt das Risiko von übermächtiger Deepfake-Technologie in staatlicher Hand: Mit Echtzeit-Deepfakes manipulieren Geheimdienste das Bildmaterial von Überwachungskameras und schaffen so Verbrechen, die nie stattgefunden haben, um ihre Ziele durchzusetzen. Diesen Vorgang nennen die Behörden lapidar eine "Korrektur".
Jetzt startet BBC One die sechsteilige zweite Staffel von "The Capture". Die ebenfalls aus sechs Episoden bestehende erste Staffel wurde im Herbst 2019 ausgestrahlt. In Deutschland könnt ihr Staffel 1 beim Amazon-Bezahlsender Starzplay ansehen, Staffel 2 sollte dort zeitnah folgen.
Studie zweifelt Deepfake-Gefahr an
Eine Ende letzten Jahres veröffentlichte MIT-Studie zweifelt das höhere Manipulationsrisiko durch Deepfakes an. Laut der Studie haben Deepfake-Videos im Vergleich zu Fake-Texten nur eine geringe höhere Wahrscheinlichkeit, menschliches Verhalten oder politische Ansichten zu beeinflussen. Die Studie bezieht sich allerdings auf die breite Wahrnehmung vieler Menschen (7500 Proband:innen) und nicht auf gezielte Eingriffe durch Machthaber:innen, wie sie in "The Capture" beschrieben werden.
Deepfakes können auch positiven oder unterhaltsamen Zwecken dienen: In diesem Fall würde man statt des negativ konnotierten Deepfake-Begriffs jedoch den Ausdruck synthetische Medien verwenden, obwohl die gleiche Technologie zugrunde liegen kann. Generative audiovisuelle KI anonymisiert etwa politische Verfolgte, verjüngt Musiker:innen, verbessert Hollywood-Tricktechnik oder ermöglicht einen einfachen digitalen Schauspielertausch in Internetvideos.
