Deepfakes: China-Propaganda bei Facebook und Instagram
Facebook hat laut eigenen Angaben Fake-Profile bei Facebook und Instagram gelöscht, die chinesische Propaganda verbreiteten. Die Profile verwendeten zum Teil Deepfake-Porträts.
Gemeinsam mit der auf die Entlarvung von Social-Media-Propaganda spezialisierten Analysefirma Graphika hat Facebook laut eigenen Angaben zwei Netzwerke mit Fake-Accounts bei Facebook und Instagram entfernt. Eines hatte den Ursprung in China, das andere in den Philippinen.
Insgesamt entfernte Facebook 212 Fake-Accounts, die "koordiniertes, nicht authentisches Verhalten im Namen einer ausländischen oder staatlichen Stelle" gezeigt haben sollen.
Die beiden Operationen sollen sich auf geografische und geopolitische Themen konzentriert haben, von Taiwan und Hongkong bis zu den Beziehungen Chinas zu den USA, mit einem Schwerpunkt auf maritime Sicherheit im Südchinesischen Meer. Ein geringer Teil der Inhalte hatte mit den anstehenden US-Wahlen zu tun.
Propaganda mit Deepfake-Unterstützung
Das chinesische Fake-Netzwerk nutzte laut des Berichts Deepfake-Profilfotos, also Social-Media-Porträtbilder, die von Grund auf KI-generiert sind. Sie haben den Vorteil, dass es sich um Originalbilder handelt. Anders als gestohlene Fotos können sie nicht über das Internet rückverfolgt oder anderweitig wiedererkannt werden.
Der Einsatz von KI-generierten Fake-Porträts ist laut Graphika im Laufe des letzten Jahres "explodiert", da die Technologie online einfach verfügbar sei. Auf Webseiten wie "thispersondoesnotexist" kann man Fake-Porträts kostenlos per Knopfdruck generieren.
Die Fake-Bilder seien ein Paradoxon: "Sie verschleiern eine Reihe von möglichen
Ermittlungen, aber sie liefern einen anderen Hinweis darauf, dass das fragliche Konto gefälscht ist." Es bleibe abzuwarten, wie sich die weitere Nutzung der Technologie entwickelt, heißt es im Bericht.
Graphika-Chefanalyst Ben Nimmo äußert sich bei Twitter: KI-generierte Porträts seien vor einem Jahr noch die Ausnahme gewesen. Jetzt fühle es sich an, als würde jede analysierte Operation KI-Fakes wenigstens einmal testen.
Quelle: Graphika
KI-News ohne Hype
Von Menschen kuratiert.
- Mehr als 20 Prozent Launch-Rabatt.
- Lesen ohne Ablenkung – keine Google-Werbebanner.
- Zugang zum Kommentarsystem und Austausch mit der Community.
- Wöchentlicher KI-Newsletter.
- 6× jährlich: „KI Radar“ – Deep-Dives zu den wichtigsten KI-Themen.
- Bis zu 25 % Rabatt auf KI Pro Online-Events.
- Zugang zum kompletten Archiv der letzten zehn Jahre.
- Die neuesten KI‑Infos von The Decoder – klar und auf den Punkt.