Inhalt
summary Zusammenfassung

Eine neue Studie untersucht, ob und wie gut multimodale KI-Modelle die 3D-Struktur von Szenen und Objekten verstehen.

Anzeige

Forscher der University of Michigan und von Google Research haben das "3D-Bewusstsein" multimodaler Modelle untersucht. Ziel war es, zu verstehen, wie gut die von diesen Modellen erlernten Darstellungen die 3D-Struktur unserer Welt erfassen.

Dem Team zufolge kann das 3D-Bewusstsein anhand von zwei Schlüsselfähigkeiten gemessen werden: Können die Modelle die sichtbare 3D-Oberfläche aus einem einzelnen Bild rekonstruieren, also Tiefen- und Oberflächeninformationen ableiten? Sind die Darstellungen über mehrere Blickwinkel auf dasselbe Objekt oder dieselbe Szene hinweg konsistent?

Die Ergebnisse zeigen, dass die Modelle teilweise in der Lage sind, Tiefen- und Oberflächeninformationen zu kodieren, ohne explizit darauf trainiert worden zu sein. Insbesondere die selbstüberwachenden Modelle DINO und DINOv2 sowie das textgetriebene Diffusionsmodell StableDiffusion schnitten hier gut ab. Eine Ausnahme bildeten Modelle, die mit Vision-Language-Pretraining wie CLIP trainiert wurden. Diese erfassten kaum 3D-Informationen.

Anzeige
Anzeige
Bild: El Banani et al.

Multimodale Modelle lernen wohl keine echten 3D-konsistente Repräsentationen

Hinsichtlich der Konsistenz über mehrere Blickwinkel zeigten alle getesteten Modelle Schwächen. Während sie bei kleinen Blickwinkeländerungen noch genaue Zuordnungen zwischen Bildregionen herstellen konnten, brach die Leistung bei größeren Blickwinkeländerungen stark ein.

Die Forscher kommen zu dem Schluss, dass die untersuchten Modelle eher blickwinkelabhängige (2.5D) als echte 3D-konsistente Repräsentationen lernen - was generell die Frage aufwirft, ob mit Bildern trainierte generative KI 3D-Strukturen lernen kann oder nicht. Die Forscher hoffen, dass ihre Ergebnisse mehr Interesse an diesem Thema wecken, insbesondere angesichts der beeindruckenden Fortschritte bei der fotorealistischen Bild- und Videosynthese durch generative KI-Modelle wie OpenAIs Sora. Denn zum 3D-Verständnis gehört auch die Fähigkeit, Schlussfolgerungen über räumliche Beziehungen zu ziehen und Vorhersagen über Verformung und Dynamik zu treffen - ob Sora diese Fähigkeiten besitzt, muss in einer zukünftigen Arbeit untersucht werden.

Der Code und Ergebnisse sind auf GitHub verfügbar.

Anzeige
Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Zusammenfassung
  • Forscher der University of Michigan und von Google Research haben untersucht, wie gut multimodale KI-Modelle die 3D-Struktur von Szenen und Objekten verstehen. Dabei bewerteten sie, ob die Modelle aus einem Bild Tiefen- und Oberflächeninformationen ableiten und konsistente Darstellungen über mehrere Blickwinkel hinweg erzeugen können.
  • Die Ergebnisse zeigen, dass einige Modelle wie DINO, DINOv2 und StableDiffusion teilweise in der Lage sind, 3D-Informationen zu kodieren, ohne explizit darauf trainiert worden zu sein. Mit Vision-Language-Pretraining trainierte Modelle wie CLIP erfassten hingegen kaum 3D-Informationen.
  • Bei der Konsistenz über mehrere Blickwinkel zeigten alle getesteten Modelle Schwächen. Das Team vermutet daher, dass die Modelle eher blickwinkelabhängige (2.5D) als echte 3D-konsistente Repräsentationen lernen.
Quellen
Max ist leitender Redakteur bei THE DECODER. Als studierter Philosoph beschäftigt er sich mit dem Bewusstsein, KI und der Frage, ob Maschinen wirklich denken können oder nur so tun als ob.
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!