KI-Fälschungen aus Iran gelangen über Agenturnetzwerk in deutsche Medien

Das auf digitale Bildforensik spezialisierte deutsche Unternehmen Neuramancer analysierte im Auftrag des Spiegel fünf Verdachtsfälle. Ergebnis: Ein Bild eines iranischen Flugzeugträgers aus der Vogelperspektive, ein Foto von Ali Khamenei mit seinem Sohn Mojtaba sowie das Bild eines Botschaftsgebäudes in Niger wurden als wahrscheinlich KI-generiert eingestuft. Bei einem Explosionsbild aus Teheran fanden sich Hinweise auf das KI-Tool Flux 2. Nur ein Bild iranischer Schulmädchen erwies sich als unauffällig.

Abaca-Press-Chef Jean-Michel Psaila räumte ein, dass SalamPix unsauber gearbeitet habe. Ein iranischer Fotograf gab zu, ohne Kennzeichnung Bilder von einer Plattform der iranischen Revolutionswächter (IRGC) eingespeist zu haben. Die Revolutionswächter sind neben der regulären Armee die zweite Säule der iranischen Streitkräfte. Sie schützen das islamistische Regime, verfügen über einen eigenen Geheimdienst und waren laut Amnesty International und anderen Menschenrechtsorganisationen maßgeblich an der gewaltsamen Niederschlagung der jüngsten Proteste beteiligt, bei denen nach aktuellen Schätzungen zwischen über 7.000 und bis zu 36.500 Zivilisten getötet wurden.

Die IRGC betreibt zudem einen umfangreichen Propaganda-Apparat mit eigenen Nachrichtenagenturen, Medienproduktionen und Cyber-Einheiten. Erst kürzlich veröffentlichte die regimenahe Tehran Times ein angebliches Satellitenbild der Zerstörung eines US-Radars in Katar – es stellte sich als per KI manipuliertes Google-Earth-Bild heraus.

Den Anstoß zur Spiegel-Recherche gab die niederländische Nachrichtenagentur ANP, die bereits rund 1.000 SalamPix-Bilder gesperrt hatte. Auch RTL Niederlande berichtete über den Vorfall. Die deutschen Agenturen dpa Picture Alliance, Imago und ddp sperrten SalamPix daraufhin ebenfalls. Der Spiegel betont, dass KI-generierte Bilder in der Berichterstattung ein klares Tabu seien, und will den Fall intern aufarbeiten.