"KI liest Gedanken" - was ist wirklich dran am russischen KI-Projekt

Gedankenlese-KI: Was eigentlich untersucht wurde

Die Forscher zeigten Zuschauern Videos aus fünf Kategorien: abstrakte Formen, Wasserfälle, menschliche Gesichter, sich bewegende Mechanismen und Motorsport aus der Fahrerperspektive.

Sie konnten in ihrem Experiment zunächst zeigen, dass sich die EEG-Daten für diese Videokategorien unterscheiden. Anschließend trainierten sie eine KI, aus den EEG-Daten die Videokategorien herauszulesen und zur Kategorie passende Bilder zu generieren. Sieht eine Person ein Wasserfallvideo, zeigt die KI ein Wasserfallbild.

Doch wie lässt sich dann die Ähnlichkeit zwischen den gezeigten und den generierten Videos erklären?

Darüber gibt das KI-Training Aufschluss: Dieses fand mit denselben Videosequenzen statt, die die Versuchspersonen vorher schon zu sehen bekamen. Dementsprechend ähneln sich die tatsächlichen und die generierten Bilder. Im Video wird deutlich, dass die KI tatsächlich nur zur Kategorie passende Bilder anzeigt.

Den Forschern selbst ist kein Vorwurf zu machen: In ihrer wissenschaftlichen Arbeit wird deutlich vermittelt, dass es um die Rekonstruktion von Bildkategorien geht - nicht um das Gedankenlesen.

Irritierend ist jedoch, dass die Forscher das korrelierte Bild nur als angedeutete Skizze zeigen anstatt im Original - das wäre nämlich möglich gewesen. Im Papier wird diese Darstellungsform damit begründet, dass das Originalbild die EEG-Messungen hätte stören können. Sie verstärkt allerdings den Eindruck, dass hier tatsächlich Bilder anhand von Hirndaten rekonstruiert wurden - und nicht nur Bildkategorien.

Vermeintliche KI-Sensation: Schon Täuschung oder noch PR?

Womöglich hat sich einfach die PR-Abteilung der Universität etwas zu weit aus dem Fenster gelehnt: Das Vergleichsbild am Anfang dieses Artikels stammt aus einer Meldung des Moskauer Instituts für Physik und Technologie.

Unterschrieben ist das Bild mit: "Jedes Bilderpaar zeigt einen Ausschnitt aus einem von einer Testperson gesehenen Video und das entsprechende Bild, das vom neuronalen Netzwerk basierend auf der Gehirnaktivität der Testperson erzeugt wird."

Im Text steht außerdem folgendes Zitat des Mitautors Grigory Rashkov: "Wir haben nicht erwartet, dass ein EEG genügend Informationen enthält, um ein von einer Person beobachtetes Bild auch nur teilweise zu rekonstruieren. Doch es stellte sich heraus, dass das durchaus möglich ist."

Die Meldung suggeriert so in der Tat, eine KI könne menschliche Gedanken aus EEG-Daten lesen, dabei werden lediglich EEG-Daten mit antrainierten Videokategorien korreliert. Das ist eine wissenschaftliche Erkenntnis, die etwa bei der Entwicklung von Gehirn-Computer-Schnittstellen hilfreich sein kann. Die zugrundeliegende Technik wird jedoch schon einige Jahre eingesetzt, um beispielsweise die Nerven gelähmter Patienten zu überbrücken.

Titelbild: YouTube, Quelle: Biorxiv, MIPT