Inhalt
summary Zusammenfassung

Immer wieder wird vor den Gefahren des Deepfake-Betrugs gewarnt, jetzt gibt es zwei konkrete Fälle. Betroffen sind die ZDF-Moderatoren Christian Sievers und Tagesschausprecher André Schünke.

Anzeige

In einem Werbevideo auf Facebook verspricht der falsche Sievers große Gewinne mit neuen KI-gestützten Investmentplattformen. Mit "minimalem Einsatz" könnten deutsche Bürger "große Geldsummen" verdienen.

Diese Botschaft und die insgesamt amateurhafte Aufmachung des Clips könnten skeptisch machen. Wäre da nicht die täuschend echte digitale Kopie mit der Stimme des bekannten ZDF-Moderators Christian Sievers.

Sievers beschwert sich auf Twitter: "Der Typ sieht aus wie ich, klingt (fast) wie ich. Aber ich bin es nicht wirklich ... Wirklich nicht". Er warnt: "Vorsicht, fieser Betrug mit KI in sozialen Medien". Bei Facebook, wo das Video offenbar verbreitet wurde, hat er auf seine Beschwerde keine Reaktion erhalten.

Anzeige
Anzeige

Video: Christian Sievers bei Twitter

Deutliche Deepfake-Hinweise - aber sie gehen im Social-Media-Wirbel unter

Erst bei genauerem Hinsehen fällt auf, dass die Lippenbewegungen von Sievers nicht synchron zu seinen Worten sind und animiert wirken.

Aber: Wer das Video auf einem kleinen Smartphone-Display in niedriger Facebook-Auflösung nur flüchtig sieht, dem fallen solche kleinen Ungereimtheiten vermutlich gar nicht auf.

Vor allem, wenn diese Videos bewusst an weniger technikaffine Zielgruppen ausgeliefert werden, die sich der neuen Fälschungsmöglichkeiten durch KI nicht bewusst sind.

Überzeugend ist die geklonte Stimme von Sievers. Da von Sievers durch seine Arbeit als Nachrichtensprecher viele Stunden Audiomaterial im Netz zur Verfügung stehen, ist es einfach, ein entsprechendes Stimmmodell zu trainieren.

Empfehlung

Auch der Tagesschausprecher André Schünke wurde Mitte August Opfer eines Deepfake-Betrugsversuchs in fast identischer Machart. "Es kann einem schon Angst machen, was mit künstlicher Intelligenz heutzutage möglich ist. Und ich fürchte, das ist erst der Anfang. Es ist schwer, Original und Fälschung zu unterscheiden", sagt Schünke der Bild-Zeitung.

Nachrichtensprecherinnen und -sprecher eignen sich besonders gut für das Training von Deepfake-KI-Systemen und entsprechende Betrugsversuche. Sie sind oft bekannt, genießen hohes Ansehen und Vertrauen in der Gesellschaft, und es gibt eine große Menge an hochwertigem Audio- und Videomaterial von ihnen im Internet.

Das Problem bei diesen Betrugsversuchen ist, dass sie zwar prinzipiell auch ohne KI-Werkzeuge möglich waren und sind, dass KI aber die Einstiegshürde senkt. Bei Anbietern wie Elevenlabs reichen beispielsweise schon fünf Minuten Audiomaterial aus, um eine geklonte Stimme mit Wiedererkennungseffekt und menschlicher Intonation zu erhalten.

Anzeige
Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Zusammenfassung
  • Zwei deutsche Nachrichtensprecher, Christian Sievers vom ZDF und André Schünke von Tagesschausprecher, wurden Opfer von Deepfake-Betrügern, die ihre digitalen Kopien in betrügerischen Werbevideos verwendeten.
  • In diesen betrügerischen Videos werden beispielsweise KI-gestützte Investmentplattformen beworben und hohe Gewinne versprochen. Die geklonten Stimmen der Nachrichtensprecher klingen täuschend echt, auch die Lippensynchronität ist überzeugend genug, wenn man schnell durch die sozialen Medien scrollt.
  • Nachrichtensprecher bieten sich für solche Betrugsversuche an, da sie sich aufgrund ihrer Bekanntheit und ihres hohen sozialen Vertrauens besonders gut für das Training von Deepfake-KI-Systemen eignen und viele Stunden Audiomaterial von ihnen im Netz verfügbar sind.
Online-Journalist Matthias ist Gründer und Herausgeber von THE DECODER. Er ist davon überzeugt, dass Künstliche Intelligenz die Beziehung zwischen Mensch und Computer grundlegend verändern wird.
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!