So wie KI-generierte Fotos täuschend echt aussehen können, gibt es jetzt auch KI-generierte Videos, die von echten Videos kaum zu unterscheiden sind.
Die neuesten Fortschritte von Deepfake machen seit einigen Tagen auf der X die Runde. Einer der führenden Anbieter von "digitalen Avataren", HeyGen, stellt seine neue Funktion "Avatar in Motion 1.0" vor, die Menschen in vielen Sprachen lippensynchron synchronisieren kann - während sie sich bewegen und mit den Händen gestikulieren. Bisher funktionierte das nur mit Personen, die einigermaßen ruhig vor der Kamera saßen.
Video: HeyGen via X
Aber auch diese sprechenden Puppen sind realistischer geworden. Eine mit der Avatar-Anwendung "arcads.ai" erstellte Demo zeigt eine junge Frau, die lebhaft und gestikulierend in die Kamera spricht. Die Frau existiert in Wirklichkeit, hat das Video aber nie aufgenommen.
Stattdessen bewegen sich ihre Lippen dank künstlicher Intelligenz automatisch synchron zu einem vorgegebenen Text. Auch ihre Stimme ist geklont. Zwei Minuten Videomaterial reichen aus, um einen solchen multimedialen Klon einer realen Person zu erstellen. Die Schöpferin gibt an, den Text für das Video passend zur Mimik des Avatars der Schauspielerin geschrieben zu haben, um einen höheren Realitätsgrad zu erreichen.
Video: Beck via X
Das Video ging auf X viral und hatte zwei interessante Effekte: Zum einen waren sich viele nicht einig, ob es sich um ein KI-generiertes oder ein echtes Video handelte. Dies zeigt, dass die Grenzen zwischen Fälschung und Original längst fließend geworden sind und selbst von vermeintlichen KI-Experten kaum noch erkannt werden. Zum anderen war die Nachfrage beim Anbieter so groß, dass die Server offline gingen.
Für Aufsehen sorgten auch die Avatar-Klone von Argil.ai, die nach eigenen Angaben ein proprietäres Deepfake-Modell entwickelt haben, um eine erstaunliche Qualität zu erreichen, wie das folgende Video zeigt. Eine Auflösung von bis zu 4K soll möglich sein.
Video: Brivael via X
Deepfake-Dystopien erfüllen sich allmählich
Mit den neuen Demos dürfte kein Zweifel mehr daran bestehen, dass sich die düstere Prognose von Ian Goodfellow, dem Erfinder der ursprünglichen Deepfake-Technologie, bewahrheiten wird - oder bereits bewahrheitet hat.
Wir können Bildern, Videos und Audios im Netz nicht mehr trauen. Das gilt natürlich auch für reale Videos. Donald Trump hat jüngst gezeigt, dass mit diesem Prinzip alles in Frage gestellt werden kann, sogar eigene Fehler, die auf Video dokumentiert sind.
Umso wichtiger wäre die Authentifizierung von Inhalten und der Aufbau vertrauenswürdiger Kanäle, eigentlich eine klassische Aufgabe von Medien und Journalismus. Doch gerade diese stecken in einer teilweise selbst verschuldeten Krise und sind abhängig von den Konzernen, die diese Technologien und Inhalte entwickeln und anbieten.
Das spielt jenen in die Hände, die es mit der Wahrheit bewusst nicht so genau nehmen, um sich zu bereichern, sich zu exponieren oder Ideologien zu verbreiten. Und das in einer Zeit, in der weltweit Wahlen anstehen.
