Deepfake-Lippensynchronisation: Tech-Revolution für Filme und Serien?
KI verändert die Film- und Serienwelt. Ein weiteres Beispiel für diese These liefert das Start-up Flawless: Deepfake-Technik soll Lippenbewegungen automatisch mit vielen unterschiedlichen Sprachen und Stimmen synchronisieren können.
Selbst bei gut gemachten Synchronisationen sieht das aufmerksame Auge, dass Lippenbewegungen und der eingesprochene Synchrontext nicht so recht zusammenpassen. Wer Originalton gewohnt ist, lässt sich davon leicht irritieren.
Das Start-up Flawless will diesen Missstand mit KI-Technik beheben: Die selbst entwickelte KI-basierte Software Truesync ermöglicht laut Flawless "perfekt lippensynchrone Visualisierungen in mehreren Sprachen".
Rein technisch betrachtet wäre die Lippensynchronität in verschiedenen Sprachen wohl auch mit klassischer CGI-Technik erreichbar, aber für Filmstudios wäre der manuelle Animationsaufwand hoch. KI hingegen könnte den Synchronisierungsprozess automatisieren und damit wirtschaftlich sinnvoll machen.
Tom Hanks spricht fließend japanisch
Flawless verspricht, dass die KI-Technik "all die Nuancen und Emotionen der originalen Darbietung einfängt". Das Start-up kooperiert bei der Entwicklung unter anderem mit dem Max-Planck-Institut für Informatik.
Auf der eigenen Webseite und bei Twitter zeigt Flawless Truesynch-Beispiele: Tom Hanks spricht in Forrest Gump fließend japanisch mit passenden Lippenbewegungen, Robert DeNiros Lippenbewegungen passen zu den Worten des deutschen Synchronsprechers Christian Brückner.
Der Effekt ist zwar noch nicht perfekt, aber das ist die klassische Synchronisierung ebenfalls nicht - und wird es auch nicht mehr. Kombiniert man die KI-Lippensynchronisierung mit der kürzlich von einem anderen Start-up vorgestellten KI-Stimmgenerierung, könnten Schauspieler zukünftig lippensynchron in jeder Sprache mit ihrer eigenen Stimme sprechen.
Zuschauer und Schauspieler werden die neue Technik wohl als Fortschritt sehen gegenüber der klassischen Synchronisierung. Der Arbeitsmarkt in diesem Bereich dürfte allerdings, sollte sich der KI-Prozess durchsetzen, dauerhaft ausgehebelt sein.
Titelbild: Flawless (Screenshot)
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den „KI Radar“‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
Jetzt abonnierenKI-News ohne Hype
Von Menschen kuratiert.
- Mehr als 20 Prozent Launch-Rabatt.
- Lesen ohne Ablenkung – keine Google-Werbebanner.
- Zugang zum Kommentarsystem und Austausch mit der Community.
- Wöchentlicher KI-Newsletter.
- 6× jährlich: „KI Radar“ – Deep-Dives zu den wichtigsten KI-Themen.
- Bis zu 25 % Rabatt auf KI Pro Online-Events.
- Zugang zum kompletten Archiv der letzten zehn Jahre.
- Die neuesten KI‑Infos von The Decoder – klar und auf den Punkt.