Inhalt
summary Zusammenfassung
DEEP MINDS Podcast
Podcast über Künstliche Intelligenz und Wissenschaft
KI bei der Bundeswehr und der BWI | DEEP MINDS #16

Das US Special Operations Command (SOCOM) sucht in einem Ausschreibungsdokument nach Deepfake-Expertise für Propaganda-Aktionen.

In dem von The Intercept veröffentlichten Ausschreibungsdokument fragt das SOCOM nach "Military Information Support Operations (MISO)" für "Beeinflussungsoperationen, digitale Täuschung, Kommunikationsstörungen und Desinformationskampagnen auf taktischer und operativer Ebene".

Konkret fordert das SOCOM in der Ausschreibung eine "nächste Generation von Deep Fake oder ähnlicher Technologie" zur Generierung von Nachrichten für die Beeinflussung von Operationen über "nicht traditionelle Kanäle in relevanten Peer-/Near-Peer-Umgebungen" - das klingt insbesondere nach gezielter Verbreitung von Deepfake-Propaganda in sozialen Medien.

Im gleichen Abschnitt fordert das SOCOM zuvor Technologien, um Daten aus öffentlichen und offenen Informationsströmen wie sozialen und lokalen Medien zu sammeln, die als Grundlage für gezielte Einflusskampagnen dienen sollen.

Anzeige
Anzeige

Darüber hinaus möchte das SOCOM in der Lage sein, "Internet of Things"-Geräte zu übernehmen, "um Daten und Informationen von der lokalen Bevölkerung zu sammeln und eine Aufschlüsselung der Botschaften zu ermöglichen, die populär und akzeptiert sein könnten". Dadurch könne die MISO Botschaften erstellen und verbreiten, die mit größerer Wahrscheinlichkeit von der lokalen Bevölkerung akzeptiert würden, heißt es in dem Ausschreibungsdokument.

US-Militär nutzt umstrittene Täuschungstechnologie

Deepfakes sind mittels KI gefälschte Medien wie Fotos, Videos oder Tonspuren. Meist werden Personen in diesen Medien Worte in den Mund gelegt oder in irreführende Kontexte gestellt.

Deepfake-Videos können besonders überzeugend sein, vor allem in sozialen Medien, wo die Videoqualität und die Aufmerksamkeitsspanne gering sind. Ein kürzlich veröffentlichter Deepfake des US-Psychologen Jordan Peterson täuschte etwa zahlreiche Twitter-Nutzer trotz auf den zweiten Blick recht offensichtlicher Fehler bei der Lippensynchronisation.

Auch im Kontext der Ukraine-Krise soll es zu einem politisch gezielten Deepfake-Versuch gekommen sein. In einem offensichtlich gefälschten Video forderte der ukrainische Präsident Wolodymyr Selenskyj sein Volk auf, die Waffen niederzulegen.

Obwohl Deepfakes zur Unterhaltung eingesetzt werden können, ist der ursprüngliche Begriff eher negativ besetzt. Er stammt von dem Reddit-Nutzer Deepfake, der einen KI-Algorithmus verbreitete, mit dem die Gesichter von Personen in Pornofilmen ausgetauscht werden können, zum Beispiel gegen die Gesichter von Prominenten oder aus dem eigenen Bekanntenkreis. Mehr dazu in unserer Geschichte der Deepfakes.

Empfehlung

Eine im Herbst 2021 veröffentlichte EU-Studie zum Stand der Deepfakes kommt zu dem Schluss, dass Deepfake-Techniken immer zugänglicher, billiger und besser werden, was sie in Kombination mit der zugespitzten audiovisuellen Kommunikation in den sozialen Medien zu einem Risiko mache.

Die Sci-Fi-Serie "The Capture" zeigt das Missbrauchspotenzial sehr hoch entwickelter Deepfake-Technologie im Kontext politischer und letztlich militärischer Manipulation.

Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Zusammenfassung
  • Die US-Spezialeinheit SOCOM sucht in einer Ausschreibung Expertise für Deepfakes der "nächsten Generation".
  • Die Technologie soll für "Desinformationskampagnen auf taktischer und operativer Ebene" eingesetzt werden.
  • Das US-Militär bedient sich damit potenziell einer Manipulationsmethode, die insbesondere im politischen Kontext seit Jahren als gesellschaftliche Bedrohung gehandelt wird.
Online-Journalist Matthias ist Gründer und Herausgeber von THE DECODER. Er ist davon überzeugt, dass Künstliche Intelligenz die Beziehung zwischen Mensch und Computer grundlegend verändern wird.
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!