Ein offener Brief von KI-Forschern warnt vor den Gefahren von Deepfakes und fordert Regierungen auf, Verpflichtungen entlang der gesamten Wertschöpfungskette einzuführen, um die Verbreitung von Deepfakes einzudämmen.
Der Brief fordert die vollständige Kriminalisierung von Deepfake-Kinderpornografie, die Einführung strafrechtlicher Sanktionen für die wissentliche Erstellung oder Verbreitung schädlicher Deepfakes und die Verpflichtung von Software-Entwicklern und -Händlern, ihre Produkte gegen die Erstellung schädlicher Deepfakes zu schützen.
Die Unterzeichner betonen die Dringlichkeit ihres Anliegens und zitieren Zahlen aus verschiedenen Studien. So soll die Zahl der Deepfakes zwischen 2019 und 2023 um 550 Prozent steigen.
Allein Deepfake-Pornografie mache 98 Prozent aller Deepfake-Videos im Internet aus und 99 Prozent der Betroffenen seien Frauen. Zudem seien Deepfake-Betrügereien und Fakes von Prominenten und Politikern auf dem Vormarsch.
Die bestehenden Gesetze reichten nicht aus, um die Produktion und Verbreitung von Deepfakes einzudämmen.
"Da die Hälfte der Weltbevölkerung bald wählen muss, stellt die weit verbreitete Herstellung und Verbreitung von Deepfakes eine wachsende Bedrohung für demokratische Prozesse weltweit dar", heißt es in dem Brief.
Es werde immer schwieriger zu unterscheiden, was im Internet noch echt sei, was zu einer Massenverwirrung führen könne.
Die Verfasser des Briefes schlagen vor, dass Gerätehersteller, Software-Entwickler und Medienunternehmen zusammenarbeiten sollten, um Methoden zur Authentifizierung von Inhalten zu fördern und zu verbreiten, mit denen die Echtheit von Fotos und Videos überprüft werden kann.
Es gibt bereits Versuche in diese Richtung, wie den C2PA-Standard, dem sich derzeit viele KI-Unternehmen und soziale Plattformen anschließen.
Die Unterzeichner definieren Deepfakes als "unautorisierte oder grob irreführende KI-generierte Stimmen, Bilder oder Videos, die eine vernünftige Person für echt halten würde". In diesem Zusammenhang verurteilen sie auch unterhaltsame synthetische Inhalte, sofern sie nicht eindeutig satirisch sind.
"Wenn das Unterhaltungsangebot mit Deepfakes überfrachtet wird, wird die Verbindung zwischen dem Publikum und den Darstellern erodieren, und die Deepfakes werden diejenigen, deren Werke für das 'Training' der KI verwendet wurden, ungerechterweise verdrängen", heißt es in dem Brief.
Zu den Unterzeichnern und Unterzeichnerinnen gehören bekannte Personen wie Jaron Lanier, Microsoft-Forscher und Erfinder des Begriffs "Virtual Reality", Frances Haugen, bekannt als Whistleblowerin im Kontext von Meta/Facebook, Stuart Russell, ein renommierter Professor für Informatik an der University of California, Berkeley, Andrew Yang, Co-Vorsitzender der Forward Party und Präsidentschaftskandidat 2020, Steven Pinker, Johnstone Family Professor für Psychologie an der Harvard University sowie Turing-Preisträger Yoshua Bengio.
