Gefälschte KI-Audios der Tagesschau in Social Media und auf Demo verbreitet
Gefälschte KI-generierte Audiodateien der Tagesschau verbreiten sich derzeit in sozialen Medien und wurden sogar auf einer Demonstration abgespielt.
Die gefälschten Audios enthalten vermeintliche Entschuldigungen für angebliche Lügen in der Berichterstattung zu Themen wie dem Krieg in der Ukraine und der Corona-Pandemie sowie die "Denunziation" von Demonstranten. Sie wurden unter anderem auf einer Demonstration in Kiel abgespielt und über verschwörungsideologische Telegram-Kanäle, Facebook und TikTok verbreitet.
Marcus Bornheim, Chefredakteur von ARD-aktuell, stellt klar, dass es sich bei den Dateien um Fälschungen handelt. Die Stimmen in den Audiodateien klängen mechanisch und hätten falsche Betonungen.
"Die in den KI-generierten Audios vertretenen Positionen und Strategien sind geeignet, die freiheitlich-demokratische Grundordnung zu beschädigen", sagt Chefredakteur Bornheim. Der gute Ruf der Tagesschau werde ausgenutzt, "um gezielt Desinformation zu verbreiten."
Nachrichtensprecher und -sprecherinnen sind einfache Deepfake-Ziele
Erst kürzlich wurden die deutschen Nachrichten-Moderatoren Christian Sievers und André Schünke Opfer eines Deepfake-Betrugs, bei dem ihre digitalen Kopien in betrügerischen Werbevideos auf Facebook verwendet wurden.
Die Videos warben für KI-gestützte Investmentplattformen und versprachen hohe Renditen. Die geklonten Stimmen der Nachrichtensprecher klangen jedoch täuschend echt und die synchronisierten Lippenbewegungen waren für diejenigen, die schnell durch die sozialen Medien scrollen, überzeugend genug.
Nachrichtensprecher und Nachrichtensendungen sind ideale Ziele für solche Betrügereien, da sie in der Öffentlichkeit bekannt sind und online eine Fülle von Video- und Audiomaterial zur Verfügung steht, das zum Training von Deepfake-KI-Systemen verwendet werden kann.
Experten warnen vor den Gefahren solcher Fälschungen, die die Glaubwürdigkeit von Nachrichtensprechern und Medien untergraben können. KI-generierte Fakes werden in Zukunft wahrscheinlich zunehmen, da ihre Herstellung immer einfacher wird. Zudem werden sie qualitativ immer besser.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den „KI Radar“‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
Jetzt abonnierenKI-News ohne Hype
Von Menschen kuratiert.
- Mehr als 20 Prozent Launch-Rabatt.
- Lesen ohne Ablenkung – keine Google-Werbebanner.
- Zugang zum Kommentarsystem und Austausch mit der Community.
- Wöchentlicher KI-Newsletter.
- 6× jährlich: „KI Radar“ – Deep-Dives zu den wichtigsten KI-Themen.
- Bis zu 25 % Rabatt auf KI Pro Online-Events.
- Zugang zum kompletten Archiv der letzten zehn Jahre.
- Die neuesten KI‑Infos von The Decoder – klar und auf den Punkt.