Inhalt
summary Zusammenfassung
DEEP MINDS Podcast
Podcast über Künstliche Intelligenz und Wissenschaft
KI bei der Bundeswehr und der BWI | DEEP MINDS #16

KI-generierte Bilder mit Wasserzeichen können Menschen an Katzen denken lassen, ohne dass sie wissen warum, so eine neue Studie von Deepmind.

Wasserzeichen in KI-generierten Bildern können eine wichtige Sicherheitsmaßnahme sein, zum Beispiel um schnell zu beweisen, dass ein Bild (nicht) echt ist, ohne dass eine forensische Untersuchung erforderlich ist.

Häufig werden bei diesen Verfahren für das menschliche Auge nicht sichtbare Bildelemente in das Bild eingebracht, beispielsweise leicht veränderte Pixelstrukturen, die im Fachjargon auch als "gegnerische Störungen" bezeichnet werden.

Sie verleiten ein maschinelles Lernmodell dazu, das Gesehene falsch zu interpretieren: Ein Bild zeigt etwa eine Vase, die Maschine sieht aber eine Katze. Auch Deepmind arbeitet mit SynthID an einem solchen Wasserzeichensystem.

Anzeige
Anzeige

Bisher ging man davon aus, dass der Mensch von diesen für maschinelle Sehsysteme konzipierten Bildstörungen nicht beeinflusst wird.

Wasserzeichen können die Wahrnehmung beeinflussen

Forschende von Deepmind haben diese Theorie nun in einem Experiment auf die Probe gestellt und gezeigt, dass subtile Veränderungen in digitalen Bildern auch die menschliche Wahrnehmung beeinflussen.

Gamaleldin Elsayed und sein Deepmind-Team zeigten hierfür menschlichen Testpersonen Bildpaare, die durch Pixelanpassungen subtil verändert worden waren.

In einem Beispielbild, das eine Vase zeigte, erkannte ein KI-Modell nach der Pixelanpassung die Vase fälschlicherweise als Katze oder Lastwagen.

Die Testpersonen sahen zwar weiterhin nur die Vase. Als sie aber gefragt wurden, welches der beiden Bilder eher einer Katze ähnelte, entschieden sie sich eher für das Bild, das für das Bildmodell als Katze manipuliert worden war. Und das, obwohl beide Bilder gleich aussahen.

Empfehlung

Video: Deepmind

Nach Ansicht des Deepminds-Teams ist dies kein Zufall. Die Studie zeigte, dass die Auswahlrate bei einer großen Anzahl von manipulierten Bildpaaren zuverlässig über dem Zufall lag, selbst wenn kein Pixel um mehr als zwei Stufen auf der Skala von 0 bis 255 verändert wurde.

Die Versuchspersonen wählten aus zwei für das menschliche Auge identischen Bildern verlässlich das manipulierte Bild aus. | Bild: Deepmind

Sorge vor subtiler Massenmanipulation

Die Beeinflussungswirkung durch implementierte Bildstörungen sei zwar bei Maschinen wesentlich dramatischer als bei Menschen, insbesondere bei negativen Störungen. Dennoch sei es möglich, Menschen so zu beeinflussen, dass sie Entscheidungen treffen, die auch von Maschinen getroffen werden.

Die Studie betont, dass diese kleinen Veränderungen große Auswirkungen haben können, wenn sie in großem Maßstab umgesetzt werden.

Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!

"Selbst wenn der Effekt auf ein Individuum gering ist, kann er auf Populationsebene zuverlässig sein, wie unsere Experimente nahelegen", schreibt das Team.

Wenn etwa das Foto eines Politikers durch Bildmanipulation eher wie eine Katze oder ein Hund wirkt, könnte das die Wahrnehmung des Politikers durch die Menschen beeinflussen.

Die Ergebnisse zeigten, dass sich die KI-Forschung in solchen Sicherheitsfragen auf Experimente stützen müsse, anstatt sich auf Intuition und Selbstreflexion zu verlassen, empfehlen die Deepmind-Forscher. Auch die Kognitions- und Neurowissenschaften müssten ein besseres Verständnis von KI-Systemen und ihren möglichen Auswirkungen entwickeln.

Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Zusammenfassung
  • Eine Studie von Deepmind zeigt, dass Wasserzeichen in KI-generierten Bildern die menschliche Wahrnehmung beeinflussen können, indem sie Menschen beispielsweise dazu veranlassen, bei einem unauffälligen Bild einer Vase eher an Katzen zu denken.
  • Bisher wurde angenommen, dass solche Wasserzeichen, die Computer-Vision-Systeme beeinflussen sollen, keinen Einfluss auf die menschliche Wahrnehmung haben.
  • Die Ergebnisse unterstreichen die Notwendigkeit von Experimenten in der KI-Forschung, um ein besseres Verständnis der möglichen Auswirkungen auf die menschliche Wahrnehmung zu entwickeln.
Online-Journalist Matthias ist Gründer und Herausgeber von THE DECODER. Er ist davon überzeugt, dass Künstliche Intelligenz die Beziehung zwischen Mensch und Computer grundlegend verändern wird.
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!