Inhalt
summary Zusammenfassung

Gefälschte KI-generierte Audiodateien der Tagesschau verbreiten sich derzeit in sozialen Medien und wurden sogar auf einer Demonstration abgespielt.

Anzeige

Die gefälschten Audios enthalten vermeintliche Entschuldigungen für angebliche Lügen in der Berichterstattung zu Themen wie dem Krieg in der Ukraine und der Corona-Pandemie sowie die "Denunziation" von Demonstranten. Sie wurden unter anderem auf einer Demonstration in Kiel abgespielt und über verschwörungsideologische Telegram-Kanäle, Facebook und TikTok verbreitet.

Marcus Bornheim, Chefredakteur von ARD-aktuell, stellt klar, dass es sich bei den Dateien um Fälschungen handelt. Die Stimmen in den Audiodateien klängen mechanisch und hätten falsche Betonungen.

"Die in den KI-generierten Audios vertretenen Positionen und Strategien sind geeignet, die freiheitlich-demokratische Grundordnung zu beschädigen", sagt Chefredakteur Bornheim. Der gute Ruf der Tagesschau werde ausgenutzt, "um gezielt Desinformation zu verbreiten."

Anzeige
Anzeige

Nachrichtensprecher und -sprecherinnen sind einfache Deepfake-Ziele

Erst kürzlich wurden die deutschen Nachrichten-Moderatoren Christian Sievers und André Schünke Opfer eines Deepfake-Betrugs, bei dem ihre digitalen Kopien in betrügerischen Werbevideos auf Facebook verwendet wurden.

Die Videos warben für KI-gestützte Investmentplattformen und versprachen hohe Renditen. Die geklonten Stimmen der Nachrichtensprecher klangen jedoch täuschend echt und die synchronisierten Lippenbewegungen waren für diejenigen, die schnell durch die sozialen Medien scrollen, überzeugend genug.

Nachrichtensprecher und Nachrichtensendungen sind ideale Ziele für solche Betrügereien, da sie in der Öffentlichkeit bekannt sind und online eine Fülle von Video- und Audiomaterial zur Verfügung steht, das zum Training von Deepfake-KI-Systemen verwendet werden kann.

Experten warnen vor den Gefahren solcher Fälschungen, die die Glaubwürdigkeit von Nachrichtensprechern und Medien untergraben können. KI-generierte Fakes werden in Zukunft wahrscheinlich zunehmen, da ihre Herstellung immer einfacher wird. Zudem werden sie qualitativ immer besser.

Anzeige
Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Zusammenfassung
  • Gefälschte KI-generierte Audiodateien der Tagesschau verbreiten sich in sozialen Medien und wurden bei einer Demonstration abgespielt. Die Audios enthalten vermeintliche Entschuldigungen für angebliche Lügen in der Berichterstattung.
  • Marcus Bornheim, Chefredakteur von ARD-aktuell, stellt klar, dass es sich bei den Dateien um Fälschungen handelt. Die Stimmen klingen mechanisch und haben falsche Betonungen.
  • Experten warnen vor den Gefahren solcher Fakes, die die Glaubwürdigkeit von Nachrichtensprechern und Medien untergraben können. KI-generierte Fakes werden wahrscheinlich zunehmen, da ihre Herstellung immer einfacher und ihre Qualität immer besser wird.
Quellen
Online-Journalist Matthias ist Gründer und Herausgeber von THE DECODER. Er ist davon überzeugt, dass Künstliche Intelligenz die Beziehung zwischen Mensch und Computer grundlegend verändern wird.
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!