Das US Special Operations Command (SOCOM) sucht in einem Ausschreibungsdokument nach Deepfake-Expertise für Propaganda-Aktionen.
In dem von The Intercept veröffentlichten Ausschreibungsdokument fragt das SOCOM nach "Military Information Support Operations (MISO)" für "Beeinflussungsoperationen, digitale Täuschung, Kommunikationsstörungen und Desinformationskampagnen auf taktischer und operativer Ebene".
Konkret fordert das SOCOM in der Ausschreibung eine "nächste Generation von Deep Fake oder ähnlicher Technologie" zur Generierung von Nachrichten für die Beeinflussung von Operationen über "nicht traditionelle Kanäle in relevanten Peer-/Near-Peer-Umgebungen" - das klingt insbesondere nach gezielter Verbreitung von Deepfake-Propaganda in sozialen Medien.
Im gleichen Abschnitt fordert das SOCOM zuvor Technologien, um Daten aus öffentlichen und offenen Informationsströmen wie sozialen und lokalen Medien zu sammeln, die als Grundlage für gezielte Einflusskampagnen dienen sollen.
Darüber hinaus möchte das SOCOM in der Lage sein, "Internet of Things"-Geräte zu übernehmen, "um Daten und Informationen von der lokalen Bevölkerung zu sammeln und eine Aufschlüsselung der Botschaften zu ermöglichen, die populär und akzeptiert sein könnten". Dadurch könne die MISO Botschaften erstellen und verbreiten, die mit größerer Wahrscheinlichkeit von der lokalen Bevölkerung akzeptiert würden, heißt es in dem Ausschreibungsdokument.
US-Militär nutzt umstrittene Täuschungstechnologie
Deepfakes sind mittels KI gefälschte Medien wie Fotos, Videos oder Tonspuren. Meist werden Personen in diesen Medien Worte in den Mund gelegt oder in irreführende Kontexte gestellt.
Deepfake-Videos können besonders überzeugend sein, vor allem in sozialen Medien, wo die Videoqualität und die Aufmerksamkeitsspanne gering sind. Ein kürzlich veröffentlichter Deepfake des US-Psychologen Jordan Peterson täuschte etwa zahlreiche Twitter-Nutzer trotz auf den zweiten Blick recht offensichtlicher Fehler bei der Lippensynchronisation.
Auch im Kontext der Ukraine-Krise soll es zu einem politisch gezielten Deepfake-Versuch gekommen sein. In einem offensichtlich gefälschten Video forderte der ukrainische Präsident Wolodymyr Selenskyj sein Volk auf, die Waffen niederzulegen.
Obwohl Deepfakes zur Unterhaltung eingesetzt werden können, ist der ursprüngliche Begriff eher negativ besetzt. Er stammt von dem Reddit-Nutzer Deepfake, der einen KI-Algorithmus verbreitete, mit dem die Gesichter von Personen in Pornofilmen ausgetauscht werden können, zum Beispiel gegen die Gesichter von Prominenten oder aus dem eigenen Bekanntenkreis. Mehr dazu in unserer Geschichte der Deepfakes.
Eine im Herbst 2021 veröffentlichte EU-Studie zum Stand der Deepfakes kommt zu dem Schluss, dass Deepfake-Techniken immer zugänglicher, billiger und besser werden, was sie in Kombination mit der zugespitzten audiovisuellen Kommunikation in den sozialen Medien zu einem Risiko mache.
Die Sci-Fi-Serie "The Capture" zeigt das Missbrauchspotenzial sehr hoch entwickelter Deepfake-Technologie im Kontext politischer und letztlich militärischer Manipulation.
