Elon Musk teilt auf X (ehemals Twitter) ein Video mit einer KI-geklonten Stimme der demokratischen US-Präsidentschaftskandidatin Kamala Harris. Musk weist nicht darauf hin, dass es sich um eine Fälschung handelt.
Das Video imitiert die Stimme von Harris mittels künstlicher Intelligenz, lässt die Vizepräsidentin aber andere Dinge sagen als im Originalvideo. So sagt die täuschend echt klingende falsche Harris-Stimme unter anderem, dass Präsident Biden senil sei, dass sie selbst "keine Ahnung habe, wie man das Land führt" und sie als Frau und Person of Color die "ultimative Diversity-Anstellung" sei.
Neben der Stimme wurde auch der visuelle Inhalt verändert: Bilder von Ex-Präsident Donald Trump und seinem Vizekandidaten JD Vance wurden entfernt und stattdessen Bilder von Präsident Biden hinzugefügt.
Der ursprüngliche Ersteller des Videos, der X-Nutzer "@MrReaganUSA", kennzeichnete das Video in seinem ursprünglichen Beitrag als "Werbe-Parodie". Musk teilte das Video ohne Parodie-Hinweis mit den Worten "Das ist unglaublich", gefolgt von einem lachenden Emoji. Das Video wurde bislang mehr als 100 Millionen Mal abgespielt.
Das Video scheint zumindest gegen die Richtlinien von X zu verstoßen, die besagen, dass synthetische Medien, die "wesentlich verändert, manipuliert oder in betrügerischer Absicht hergestellt wurden", gekennzeichnet oder gelöscht werden müssen.
Diese Regel gilt unter anderem für Videos, die "weitverbreitete Verwirrung in öffentlichen Angelegenheiten stiften, die öffentliche Sicherheit gefährden oder ernsthaften Schaden anrichten", heißt es in den Bestimmungen, "insbesondere wenn sie durch KI-Algorithmen manipuliert wurden".
"@MrReaganUSA" bestätigte auf X, dass er KI eingesetzt habe, um die Stimme von Kamala Harris zu klonen.
Der Einsatz von KI, speziell zur Manipulation der öffentlichen Meinung, wird häufig als eines der größten Risiken aktueller KI-Technologien beschrieben, auch weil die Technologie grundlegend das Vertrauen in audiovisuelle Inhalte untergräbt.
Die Plattform X, die Musk gehört, hat bisher nicht auf das Video reagiert. Musks Beitrag wurde auch nicht über die "Community Notes", eine von der Community betriebene Korrekturstelle, die in solchen Fällen üblicherweise einen Hinweis oder eine Richtigstellung unter den Beitrag pinnt, sichtbar korrigiert. Auch Musk selbst hat bisher nicht öffentlich auf die Kritik an seinem Deepfake-Video reagiert.
Nach einem Bericht der New York Times schrieb "@MrReaganUSA", dass der Beitrag von ihm klar als Parodie gekennzeichnet worden sei. Er glaubt, dass Elon Musk aufgrund der offensichtlichen Satire nicht einmal daran dachte, dass es mit einem echten Wahlwerbespot verwechselt werden könnte.
KI-Audio-Deepfakes haben sich in den vergangenen zwölf Monaten enorm weiterentwickelt. Es gibt zahlreiche kommerzielle und Open-Source-Tools, mit denen Stimmen realistisch geklont werden können. Die synthetischen Stimmen sprechen dann vorgegebene Texte nach.
Zwar gibt es auch positive Einsatzszenarien für Stimmklone, etwa bei Menschen, die ihre Stimme verloren haben. Insgesamt erscheint das Schadenspotenzial jedoch deutlich größer.
