Gefälschte KI-generierte Audiodateien der Tagesschau verbreiten sich derzeit in sozialen Medien und wurden sogar auf einer Demonstration abgespielt.
Die gefälschten Audios enthalten vermeintliche Entschuldigungen für angebliche Lügen in der Berichterstattung zu Themen wie dem Krieg in der Ukraine und der Corona-Pandemie sowie die "Denunziation" von Demonstranten. Sie wurden unter anderem auf einer Demonstration in Kiel abgespielt und über verschwörungsideologische Telegram-Kanäle, Facebook und TikTok verbreitet.
Marcus Bornheim, Chefredakteur von ARD-aktuell, stellt klar, dass es sich bei den Dateien um Fälschungen handelt. Die Stimmen in den Audiodateien klängen mechanisch und hätten falsche Betonungen.
"Die in den KI-generierten Audios vertretenen Positionen und Strategien sind geeignet, die freiheitlich-demokratische Grundordnung zu beschädigen", sagt Chefredakteur Bornheim. Der gute Ruf der Tagesschau werde ausgenutzt, "um gezielt Desinformation zu verbreiten."
Nachrichtensprecher und -sprecherinnen sind einfache Deepfake-Ziele
Erst kürzlich wurden die deutschen Nachrichten-Moderatoren Christian Sievers und André Schünke Opfer eines Deepfake-Betrugs, bei dem ihre digitalen Kopien in betrügerischen Werbevideos auf Facebook verwendet wurden.
Die Videos warben für KI-gestützte Investmentplattformen und versprachen hohe Renditen. Die geklonten Stimmen der Nachrichtensprecher klangen jedoch täuschend echt und die synchronisierten Lippenbewegungen waren für diejenigen, die schnell durch die sozialen Medien scrollen, überzeugend genug.
Nachrichtensprecher und Nachrichtensendungen sind ideale Ziele für solche Betrügereien, da sie in der Öffentlichkeit bekannt sind und online eine Fülle von Video- und Audiomaterial zur Verfügung steht, das zum Training von Deepfake-KI-Systemen verwendet werden kann.
Experten warnen vor den Gefahren solcher Fälschungen, die die Glaubwürdigkeit von Nachrichtensprechern und Medien untergraben können. KI-generierte Fakes werden in Zukunft wahrscheinlich zunehmen, da ihre Herstellung immer einfacher wird. Zudem werden sie qualitativ immer besser.
