Inhalt
summary Zusammenfassung

So wie KI-generierte Fotos täuschend echt aussehen können, gibt es jetzt auch KI-generierte Videos, die von echten Videos kaum zu unterscheiden sind.

Anzeige

Die neuesten Fortschritte von Deepfake machen seit einigen Tagen auf der X die Runde. Einer der führenden Anbieter von "digitalen Avataren", HeyGen, stellt seine neue Funktion "Avatar in Motion 1.0" vor, die Menschen in vielen Sprachen lippensynchron synchronisieren kann - während sie sich bewegen und mit den Händen gestikulieren. Bisher funktionierte das nur mit Personen, die einigermaßen ruhig vor der Kamera saßen.

Video: HeyGen via X

Aber auch diese sprechenden Puppen sind realistischer geworden. Eine mit der Avatar-Anwendung "arcads.ai" erstellte Demo zeigt eine junge Frau, die lebhaft und gestikulierend in die Kamera spricht. Die Frau existiert in Wirklichkeit, hat das Video aber nie aufgenommen.

Anzeige
Anzeige

Stattdessen bewegen sich ihre Lippen dank künstlicher Intelligenz automatisch synchron zu einem vorgegebenen Text. Auch ihre Stimme ist geklont. Zwei Minuten Videomaterial reichen aus, um einen solchen multimedialen Klon einer realen Person zu erstellen. Die Schöpferin gibt an, den Text für das Video passend zur Mimik des Avatars der Schauspielerin geschrieben zu haben, um einen höheren Realitätsgrad zu erreichen.

Video: Beck via X

Das Video ging auf X viral und hatte zwei interessante Effekte: Zum einen waren sich viele nicht einig, ob es sich um ein KI-generiertes oder ein echtes Video handelte. Dies zeigt, dass die Grenzen zwischen Fälschung und Original längst fließend geworden sind und selbst von vermeintlichen KI-Experten kaum noch erkannt werden. Zum anderen war die Nachfrage beim Anbieter so groß, dass die Server offline gingen.

Für Aufsehen sorgten auch die Avatar-Klone von Argil.ai, die nach eigenen Angaben ein proprietäres Deepfake-Modell entwickelt haben, um eine erstaunliche Qualität zu erreichen, wie das folgende Video zeigt. Eine Auflösung von bis zu 4K soll möglich sein.

Video: Brivael via X

Empfehlung

Deepfake-Dystopien erfüllen sich allmählich

Mit den neuen Demos dürfte kein Zweifel mehr daran bestehen, dass sich die düstere Prognose von Ian Goodfellow, dem Erfinder der ursprünglichen Deepfake-Technologie, bewahrheiten wird - oder bereits bewahrheitet hat.

Wir können Bildern, Videos und Audios im Netz nicht mehr trauen. Das gilt natürlich auch für reale Videos. Donald Trump hat jüngst gezeigt, dass mit diesem Prinzip alles in Frage gestellt werden kann, sogar eigene Fehler, die auf Video dokumentiert sind.

Umso wichtiger wäre die Authentifizierung von Inhalten und der Aufbau vertrauenswürdiger Kanäle, eigentlich eine klassische Aufgabe von Medien und Journalismus. Doch gerade diese stecken in einer teilweise selbst verschuldeten Krise und sind abhängig von den Konzernen, die diese Technologien und Inhalte entwickeln und anbieten.

Das spielt jenen in die Hände, die es mit der Wahrheit bewusst nicht so genau nehmen, um sich zu bereichern, sich zu exponieren oder Ideologien zu verbreiten. Und das in einer Zeit, in der weltweit Wahlen anstehen.

Anzeige
Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Zusammenfassung
  • Anbieter wie HeyGen und arcads.ai ermöglichen die Erstellung von "digitalen Avataren", die lippensynchron in verschiedenen Sprachen sprechen und sich dabei natürlich bewegen und gestikulieren können.
  • Die hohe Qualität der KI-generierten Videos macht es selbst vermeintlichen Experten schwer, zwischen Fälschung und Original zu unterscheiden. Das wirft Fragen nach der Authentizität von Inhalten im Internet auf und bestätigt die Vorhersage des Deepfake-Erfinders Ian Goodfellow: Wir können Inhalten im Internet nicht mehr trauen.
  • Die Verbreitung täuschend echter KI-generierter Inhalte stellt eine Herausforderung für Medien und Journalismus dar, die traditionell für die Authentifizierung von Inhalten und den Aufbau vertrauenswürdiger Kanäle verantwortlich sind, aber selbst mit einem Vertrauensverlust zu kämpfen haben.
Quellen
Online-Journalist Matthias ist Gründer und Herausgeber von THE DECODER. Er ist davon überzeugt, dass Künstliche Intelligenz die Beziehung zwischen Mensch und Computer grundlegend verändern wird.
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!