Ein KI-Startup hat die bisher überzeugendste Stimmklon-KI vorgestellt. Prominenter Stimmgeber: Comedian, UFC-Kommentator und Podcaster Joe Rogan.
Verantwortlich für Rogans KI-Stimme ist das 2016 gegründete KI-Startup Dessa. Die Firma bietet KI-Lösungen für Industriekunden aus dem Finanzwesen oder der Telekommunikation an. Nun hat eine interne Gruppe KI-Forscher das eigene Know-How für eine öffentlichkeitswirksame Sprach-KI eingesetzt.
Die "RealTalk" getaufte KI verwandelt Text direkt in Rogan-Sprech. Das Ergebnis ist zu gut, um es nicht selbst zu hören. Jedes Wort im folgenden Video ist laut Dessa von einer Maschine gesprochen.
Dass Dessa Joe Rogan als Stimmgeber ausgesucht hat, ist kein Zufall: Mit über 1.300 Podcasts von teils mehreren Stunden Länge bietet sein YouTube-Kanal reichlich Trainingsmaterial.
Rogan selbst spricht darüber hinaus regelmäßig über Künstliche Intelligenz und ist schon mehrfach heimlicher Star diverser Deepfakes geworden.
https://youtu.be/fbyaMvJYPiQ
Joe Rogan und sein Stammgast Brendan Schaub in einem Deepfake-Video.
Wenn ihr noch mehr falschen Rogan hören möchtet, könnt ihr hier an einem Quiz teilnehmen und testen, wie gut ihr KI und Mensch auseinanderhalten könnt.
Lustig, oder?
So eindrucksvoll Rogans KI-Stimme ist: sie ist ein weiterer Schritt hin zur perfekten Multimedia-Fälschung. Wie Deepfake-Videos, KI-generierte Bilder und immer häufiger generiertes Audio könnten KI-Fälschungen das dann immer mehr berechtigte Misstrauen gegenüber Netz-Inhalten steigern - oder umgekehrt, es bösen Geistern erleichtern, glaubhaft gefälschte Botschaften durch den Äther zu schicken.
Dessa ist sich den möglichen Auswirkungen der eigenen Forschung bewusst: "Technologien wie die Sprachsynthese könnten enorme gesellschaftliche Auswirkungen haben. Und sie werden jeden betreffen", heißt es im Blog der Firma.
Wie man die mächtige Fake-Technologie so entwickeln könne, dass sie die Gesellschaft nicht entzweit, darauf kann Dessa keine Antwort geben. Dennoch sei es wichtig, das Potenzial zu demonstrieren, heißt es weiter: "Jeder soll wissen, was möglich ist."
Das schaffe öffentliche Aufmerksamkeit und dränge Regierungen und Gesetzgeber dazu, Gegenmaßnahmen zu entwickeln.