Inhalt
newsletter Newsletter
DEEP MINDS Podcast
Podcast über Künstliche Intelligenz und Wissenschaft
KI bei der Bundeswehr und der BWI | DEEP MINDS #16
Update vom 01.05.2021

Die Deepfake-Hypothese einiger getäuschter Politiker und von Leonid Volkov erweist sich als falsch: Hinter den Fake-Videoanrufen stecken Vladimir Kuznetsov und Alexei Stolyarov, bekannt als Vovan und Lexus, zwei russische Satiriker, die sich auf Telefonstreiche im politischen Umfeld und mit Prominenten spezialisiert haben.

In der Vergangenheit führten sie unter anderem ausführliche Gespräche mit der ukrainischen Regierung über die Wiederaufnahme von Direktflügen zwischen Russland und der Ukraine. Weitere bekannte Anrufopfer sind Elton John oder Bernie Sanders. Eine Auswahl ihrer Streiche ist bei YouTube ansehbar.

Deepfake? Etwas Schminke und eine ungewöhnliche Kameraperspektive reichten

Für die erfolgreichen Fake-Anrufe reichte Stolyarov, der eine grobe Ähnlichkeit mit Volkov mitbringt, laut eigenen Angaben etwas Schminke und eine ungewöhnliche Kameraperspektive. Die Kontaktaufnahme erfolgte per unangekündigtem Direktanruf und per E-Mail von einer gefälschten Adresse. Die Satiriker verwendeten für die Kontaktaufnahme ein echtes Foto von Volkov als Avatar.

Das folgende Video zeigt den Fake-Volkov in einem Videocall mit ukrainischen Politiker:innen. Die beiden Satiriker nehmen zu Beginn des Videos auch die falsche Deepfake-These aufs Korn.

Anzeige
Anzeige

https://www.youtube.com/watch?v=MykU8zozL7g

Was Volkov und die Politiker dazu bewegt hat, von einem Deepfake auszugehen, ist noch nicht bekannt. Offenbar ging die Deepfake-These von Volkov selbst bei Facebook aus, der auf seinen eigenen menschlichen Doppelgänger hereinfiel.

Quelle: The Verge

Ursprünglicher Artikel vom 26. April 2021:

Deepfakes: KI-gefälschte Zoom-Calls täuschen Politiker

Eine Reihe Politiker nahm an Zoom-Videoanrufen teil, bei denen eine Deepfake-Version von Leonid Volkov auftrat, einem engen Vertrauten von Alexei Nawalny.

Empfehlung

Politiker unter anderem aus UK, den Niederlanden, Lettland, Estland und Litauen berichten, dass sie über den Videotelefondienst Zoom Gespräche mit einer Deepfake-Imitation von Leonid Volkov führten. Volkov gehört zu den Unterstützern der russischen Opposition unter Führung von Alexei Nawalny.

Der lettische EU-Abgeordnete Rihards Kols bestätigt das Deepfake-Gespräch bei Twitter und teilt ein Originalbild von Volkov sowie einen Screenshot seines Deepfake-Doppelgängers im Zoom-Call.

Der imitierte Volkov meldet sich bei Facebook zu Wort: "Sieht aus wie mein echtes Gesicht - aber wie haben sie es geschafft, es auf den Zoom-Anruf zu legen? Willkommen in der Deepfake-Ära ..."

Später gibt er praktische Tipps, wie sich ein Deepfake-Anrufer entlarven lässt - beispielsweise, indem man den Gesprächspartner bittet, Grimassen zu schneiden oder die Hand vor dem Gesicht entlangzuführen.

Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!

Deepfake Zoom-Anruf: Abgeordnete und Medien lassen sich täuschen

Kols ließ sich wie einige seiner Kollegen und der litauische TV-Sender LTV von dem Deepfake-Anruf täuschen. Er diskutierte laut eigenen Angaben mit dem digitalen Doppelgänger politische Themen, unter anderem eine mögliche geplante finanzielle Unterstützung der Opposition.

Erst im Nachgang des Gesprächs erkannte Kols den Anruf als Hightech-Angriff. Für ihn ist die Sache klar: Es handele sich um eine Attacke auf Kreml-Kritiker. Die Deepfake-Angriffe sollen schon seit einigen Monaten und in größerem Umfang passieren. Wer genau dahintersteckt, ist nicht geklärt.

Kohls beschreibt den Deepfake-Angriff als "schmerzhafte Lektion", aus der er und seine Kollegen lernen könnten. "Es ist klar, dass der sogenannte Wahrheitsverfall oder die Post-Wahrheits- und Post-Fakten-Ära das Potenzial hat, die Sicherheit und Stabilität von lokalen und internationalen Ländern, Regierungen und Gesellschaften ernsthaft zu bedrohen."

Deepfake-Betrug mit Open-Source-Software

Wie der Deepfake technisch umgesetzt wurde, ist nicht bekannt. Seit rund einem Jahr gibt es unter anderem mit Avatarify eine Open-Source-Software, mit der Gesichter in Echtzeit KI-gefälscht und dann in Videoanrufsysteme übertragen werden können.

Das folgende Video zeigt Avatarify bei einem Zoom-Streich mit einem Deepfake-Elon-Musk im Einsatz. Auf ähnliche Weise dürfte sich der Deepfake-Volkov durch die Reihen der Politiker und Medien telefoniert haben. Das Video ist rund ein Jahr alt, mittlerweile und mit mehr Trainingsaufwand sind technisch bessere Ergebnisse möglich.

Via: The Guardian

Weiterlesen über Deepfake-Betrug:

Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Online-Journalist Matthias ist Gründer und Herausgeber von THE DECODER. Er ist davon überzeugt, dass Künstliche Intelligenz die Beziehung zwischen Mensch und Computer grundlegend verändern wird.
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!