Inhalt
newsletter Newsletter
DEEP MINDS Podcast
Podcast über Künstliche Intelligenz und Wissenschaft
DEEP MINDS #13: KI in Deutschland & Aleph Alpha

Facebook hat laut eigenen Angaben Fake-Profile bei Facebook und Instagram gelöscht, die chinesische Propaganda verbreiteten. Die Profile verwendeten zum Teil Deepfake-Porträts.

Gemeinsam mit der auf die Entlarvung von Social-Media-Propaganda spezialisierten Analysefirma Graphika hat Facebook laut eigenen Angaben zwei Netzwerke mit Fake-Accounts bei Facebook und Instagram entfernt. Eines hatte den Ursprung in China, das andere in den Philippinen.

Insgesamt entfernte Facebook 212 Fake-Accounts, die „koordiniertes, nicht authentisches Verhalten im Namen einer ausländischen oder staatlichen Stelle“ gezeigt haben sollen.

Die beiden Operationen sollen sich auf geografische und geopolitische Themen konzentriert haben, von Taiwan und Hongkong bis zu den Beziehungen Chinas zu den USA, mit einem Schwerpunkt auf maritime Sicherheit im Südchinesischen Meer. Ein geringer Teil der Inhalte hatte mit den anstehenden US-Wahlen zu tun.

Anzeige
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung

Propaganda mit Deepfake-Unterstützung

Das chinesische Fake-Netzwerk nutzte laut des Berichts Deepfake-Profilfotos, also Social-Media-Porträtbilder, die von Grund auf KI-generiert sind. Sie haben den Vorteil, dass es sich um Originalbilder handelt. Anders als gestohlene Fotos können sie nicht über das Internet rückverfolgt oder anderweitig wiedererkannt werden.

Auf den ersten Blick sehen KI-generierte Porträts überzeugend echt aus. Schaut man genauer hin, entdeckt man Auffälligkeiten wie eine zu akkurate Ausrichtung der Augen (rechtes Bild). | Bild: Graphika / Facebook
Auf den ersten Blick sehen KI-generierte Porträts überzeugend echt aus. Schaut man genauer hin, entdeckt man Auffälligkeiten wie eine zu akkurate Ausrichtung der Augen (rechtes Bild, hier wurden alle Augenpaare von der linken Seite übereinandergelegt). | Bild: Graphika / Facebook

Der Einsatz von KI-generierten Fake-Porträts ist laut Graphika im Laufe des letzten Jahres „explodiert“, da die Technologie online einfach verfügbar sei. Auf Webseiten wie „thispersondoesnotexist“ kann man Fake-Porträts kostenlos per Knopfdruck generieren.

Die Fake-Bilder seien ein Paradoxon: „Sie verschleiern eine Reihe von möglichen
Ermittlungen, aber sie liefern einen anderen Hinweis darauf, dass das fragliche Konto gefälscht ist.“ Es bleibe abzuwarten, wie sich die weitere Nutzung der Technologie entwickelt, heißt es im Bericht.

Graphika-Chefanalyst Ben Nimmo äußert sich bei Twitter: KI-generierte Porträts seien vor einem Jahr noch die Ausnahme gewesen. Jetzt fühle es sich an, als würde jede analysierte Operation KI-Fakes wenigstens einmal testen.

Quelle: Graphika

Empfehlung

Weiterlesen über Täuschungsversuche mit Deepfakes:

Anzeige
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Online-Journalist Matthias ist Gründer und Herausgeber von THE DECODER. Er ist davon überzeugt, dass Künstliche Intelligenz die Beziehung zwischen Mensch und Computer grundlegend verändern wird.
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!