Die Videospiel-Synchronsprecherin Amelia Tyler berichtet, dass ein Klon ihrer Stimme verwendet wurde, um Vergewaltigungspornografie vorzulesen.
Tyler, die für ihre Rolle als Erzählerin im Videospiel "Baldur’s Gate 3" für einen BAFTA-Award nominiert war, berichtet von einer für sie sehr negativen Erfahrung mit KI-generierter Sprache. Laut Tyler wurden ihre Stimme und die anderer Schauspieler im Spiel ohne ihre Zustimmung von der KI geklont.
In einem Livestream hörte sie dann, wie ihre geklonte Stimme Vergewaltigungspornografie vorlas, nachdem Zuschauer im Chat den entsprechenden Text in einen Text-zu-Sprache-Generator eingegeben hatten, berichtet Eurogamer. Tyler erklärte, dass sie und einige andere Akteure des Spiels seit der Veröffentlichung mit solchen Vorfällen konfrontiert wurden.
Sie begrüße es zwar, wenn Spieler ihre eigenen Versionen der Sprachausgabe aufnehmen, da sie Modifikationen von Spielen mag. Es sollte jedoch illegal sein, ihre Stimme ohne ihre Zustimmung für Mods in Spielen zu verwenden.
Die Verwendung der Stimmen von Schauspielern für KI ohne deren Zustimmung sei nicht nur Diebstahl ihrer Arbeit, sondern auch Diebstahl ihrer Identität. Sie fordert ein Verbot dieser Praxis ohne Zustimmung der Betroffenen.
Stimmklone sind eher gefährlich als nützlich
OpenAI hat kürzlich angekündigt, den eigenen Stimmklongenerator wegen Missbrauchsgefahr vorerst nicht veröffentlichen zu wollen. Dabei gibt es auf dem Markt ebenbürtige frei verfügbare Open-Source-Software und zahlreiche kommerzielle Software auf dem Markt, die aus wenigen Sekunden Ausgangsmaterial überzeugende Stimmen klonen kann - weitgehend unreguliert.
Cybersicherheitsforscher haben kürzlich gezeigt, dass Stimmklone in Telefongespräche integriert werden können, um beispielsweise Finanzbetrug zu erleichtern. OpenAI forderte bei der Vorstellung des eigenen Stimmklon-Modells, dass etwa Finanzinstitute die Verifizierung per Stimme überdenken müssten. Es bestehe auch die Gefahr von Wahlbetrug durch Stimmklone.
Zwar gibt es auch positive Anwendungsszenarien für Stimmklone, etwa bei Erkrankungen des Stimmapparates wie bei Val Kilmer, um die Originalstimme zu erhalten.
Aus gesamtgesellschaftlicher Sicht scheinen jedoch die Risiken und möglichen Nachteile der KI-Stimmklon-Technologie die Vorteile zu überwiegen.
