Inhalt
newsletter Newsletter
DEEP MINDS Podcast
Podcast über Künstliche Intelligenz und Wissenschaft
KI bei der Bundeswehr und der BWI | DEEP MINDS #16

Deepfake-Audio lässt die Stimme des 2018 verstorbenen TV-Stars Anthony Bourdain in der Dokumentation "Roadrunner" erneut erklingen. Das sorgt für Kritik an der ethischen Haltung des Filmemachers Morgan Neville.

Berühmt wurde der gelernte Koch Anthony Bourdain durch seine TV-Shows "No Reservations" und "Parts Unknown", in denen er auf unnachahmliche Art kulinarische Genüsse mit gesellschaftlichen Einblicken verband.

Seine Dokumentationen sind vielfach ausgezeichnet und wer sie noch nicht gesehen hat, sollte das dringend nachholen. Bourdain nahm sich am 8. Juni 2018 das Leben.

Deepfake-Stimme synchronisiert Bourdain täuschend echt

Die Dokumentation "Roadrunner" zeigt Bourdains Leben vor und hinter der Kamera. Zum Zeitpunkt der Trennung von seiner zweiten Frau Ottavia Busia schreibt Bourdain eine E-Mail an seinen Freund David Choe, in dem er über seine Gemütslage spricht.

Anzeige
Anzeige

Choe liest diese E-Mail in Roadrunner selbst vor, dabei geht seine Stimme in die Bourdains über. Eine Originalaufnahme dazu existiert freilich nicht. Da der Filmmacher Morgan Neville die Sätze nicht aus Archivmaterial zusammenschneiden konnte, generierte er Bourdains Stimme per Audio-Deepfake. Die beschriebene Stelle könnt ihr im folgenden Video ab Minute 1:30 anhören.

Nevilles Deepfake-Entscheidung löst Ethik-Debatte aus

Drei Zitate mit insgesamt weniger als eine Minute Laufzeit ließ Neville von Bourdains Deepfake-Stimme nachsprechen. Dafür übermittelte er etwas mehr als zehn Stunden Audiomaterial mit Bourdains Originalstimme an eine KI-Firma, von denen er zunächst vier testete, bevor er mit dem Ergebnis zufrieden war.

Die Erlaubnis für den KI-Klon holte sich Neville laut eigenen Angaben von Bourdains Nachlassverwalter und "seiner Witwe" ab, wobei Ottavia Busia bei Twitter dieser Einwilligung explizit widerspricht. "Ich war sicher nicht die, die gesagt hat, dass Tony das OK finden würde", schreibt Busia.

Dieser Widerspruch und Nevilles laxer Umgang mit Deepfake-Ethik löst bei Twitter Kritik aus. Einerseits ist die nachgestellte Originalstimme aus dokumentarischer Perspektive fragwürdig, andererseits gibt es im Film bislang keinen Hinweis darauf, dass es sich bei den Deepfake-Zitaten um eine künstlich generierte Stimme Bourdains handelt.

Dass Neville in einem Interview mit dem New Yorker im Deepfake-Kontext provokant anbot, man könne ja "später ein Panel über Dokumentarfilm-Ethik machen" und sagte, dass man die Deepfake-Zitate "wahrscheinlich nicht heraushören könne und es auch nicht erfahren würde", heizte die Debatte zusätzlich an.

Empfehlung

Gegenüber GQ rechtfertigt Neville seine Entscheidung zugunsten der KI-generierten Stimme: "Ich habe ihm keine Worte in den Mund gelegt. Ich wollte sie lebendig werden lassen."

Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!

Weiterlesen über Deepfakes:

Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Online-Journalist Matthias ist Gründer und Herausgeber von THE DECODER. Er ist davon überzeugt, dass Künstliche Intelligenz die Beziehung zwischen Mensch und Computer grundlegend verändern wird.
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!