Unregulierte KI-Stimmklone bergen mehr gesellschaftliche Risiken als Chancen
Kurz & Knapp
- Die Videospiel-Synchronsprecherin Amelia Tyler berichtet, dass ihre Stimme und die anderer Schauspieler in "Baldur's Gate 3" ohne ihre Zustimmung von einer KI geklont und für Vergewaltigungspornografie missbraucht wurden
- Tyler fordert ein Verbot der Verwendung von Stimmen für KI ohne Zustimmung der Betroffenen, da dies einen Diebstahl ihrer Arbeit und Identität darstelle.
- Trotz positiver Anwendungsszenarien für Stimmklone, etwa bei Stimmerkrankungen, scheinen derzeit aus gesamtgesellschaftlicher Sicht die Risiken wie Finanzbetrug und Wahlmanipulation zu überwiegen.
Die Videospiel-Synchronsprecherin Amelia Tyler berichtet, dass ein Klon ihrer Stimme verwendet wurde, um Vergewaltigungspornografie vorzulesen.
Tyler, die für ihre Rolle als Erzählerin im Videospiel "Baldur’s Gate 3" für einen BAFTA-Award nominiert war, berichtet von einer für sie sehr negativen Erfahrung mit KI-generierter Sprache. Laut Tyler wurden ihre Stimme und die anderer Schauspieler im Spiel ohne ihre Zustimmung von der KI geklont.
In einem Livestream hörte sie dann, wie ihre geklonte Stimme Vergewaltigungspornografie vorlas, nachdem Zuschauer im Chat den entsprechenden Text in einen Text-zu-Sprache-Generator eingegeben hatten, berichtet Eurogamer. Tyler erklärte, dass sie und einige andere Akteure des Spiels seit der Veröffentlichung mit solchen Vorfällen konfrontiert wurden.
Sie begrüße es zwar, wenn Spieler ihre eigenen Versionen der Sprachausgabe aufnehmen, da sie Modifikationen von Spielen mag. Es sollte jedoch illegal sein, ihre Stimme ohne ihre Zustimmung für Mods in Spielen zu verwenden.
Die Verwendung der Stimmen von Schauspielern für KI ohne deren Zustimmung sei nicht nur Diebstahl ihrer Arbeit, sondern auch Diebstahl ihrer Identität. Sie fordert ein Verbot dieser Praxis ohne Zustimmung der Betroffenen.
Stimmklone sind eher gefährlich als nützlich
OpenAI hat kürzlich angekündigt, den eigenen Stimmklongenerator wegen Missbrauchsgefahr vorerst nicht veröffentlichen zu wollen. Dabei gibt es auf dem Markt ebenbürtige frei verfügbare Open-Source-Software und zahlreiche kommerzielle Software auf dem Markt, die aus wenigen Sekunden Ausgangsmaterial überzeugende Stimmen klonen kann - weitgehend unreguliert.
Cybersicherheitsforscher haben kürzlich gezeigt, dass Stimmklone in Telefongespräche integriert werden können, um beispielsweise Finanzbetrug zu erleichtern. OpenAI forderte bei der Vorstellung des eigenen Stimmklon-Modells, dass etwa Finanzinstitute die Verifizierung per Stimme überdenken müssten. Es bestehe auch die Gefahr von Wahlbetrug durch Stimmklone.
Zwar gibt es auch positive Anwendungsszenarien für Stimmklone, etwa bei Erkrankungen des Stimmapparates wie bei Val Kilmer, um die Originalstimme zu erhalten.
Aus gesamtgesellschaftlicher Sicht scheinen jedoch die Risiken und möglichen Nachteile der KI-Stimmklon-Technologie die Vorteile zu überwiegen.
KI-News ohne Hype
Von Menschen kuratiert.
- Mehr als 20 Prozent Launch-Rabatt.
- Lesen ohne Ablenkung – keine Google-Werbebanner.
- Zugang zum Kommentarsystem und Austausch mit der Community.
- Wöchentlicher KI-Newsletter.
- 6× jährlich: „KI Radar“ – Deep-Dives zu den wichtigsten KI-Themen.
- Bis zu 25 % Rabatt auf KI Pro Online-Events.
- Zugang zum kompletten Archiv der letzten zehn Jahre.
- Die neuesten KI‑Infos von The Decoder – klar und auf den Punkt.