Skip to content

Metas KI-Chefforscher hält OpenAIs "Weltensimulator" Sora für eine Sackgasse

Image description
Ecole polytechnique

Kurz & Knapp

  • OpenAI's Sora ist als Text- und Video-zu-Video-Modell bekannt, aber das eigentliche Ziel ist ein Weltensimulator. Metas KI-Chef Yann LeCun hält diesen Ansatz jedoch für ineffizient und zum Scheitern verurteilt.
  • LeCun argumentiert, dass generative Modelle bei sensorischen Eingaben scheitern werden, da die Vorhersageunsicherheit bei hochdimensionalen kontinuierlichen sensorischen Eingaben zu schwierig ist.
  • LeCun hat mit V-JEPA ein eigenes KI-Modell entwickelt, das auf einer nicht-generativen Methode basiert und komplexe Interaktionen vorhersagt und interpretiert, um der KI die Dynamik von Objekten und Interaktionen zu vermitteln.

Sora wird weithin vor allem als Text- und Video-zu-Video-Modell wahrgenommen. Das eigentliche Forschungsziel von OpenAI ist jedoch ein Weltensimulator.

Doch genau dafür ist Sora nach Ansicht von Metas KI-Chef Yann LeCun nicht geeignet. Der renommierte KI-Forscher findet deutliche Worte für die Simulator-Theorie von OpenAI: Die Welt durch Pixelgenerierung vorhersagen zu wollen, sei ein verschwenderischer und zum Scheitern verurteilter Ansatz.

Es habe bei Computer Vision bereits eine historische Debatte über die Vorteile von generativen und diskriminativen Klassifikationsmethoden gegeben, wobei generative Methoden als schwieriger und weniger effektiv angesehen worden seien, sagte LeCun.

LeCun glaubt, dass generative Modelle für sensorische Eingaben scheitern werden, weil es zu schwierig ist, mit der Vorhersageunsicherheit bei hochdimensionalen kontinuierlichen sensorischen Eingaben umzugehen.

Für Text funktioniere generative KI gut, da er diskret sei und eine endliche Anzahl von Symbolen habe. Der Umgang mit Unsicherheiten sei hier einfach. Sensorische Eingaben erzeugten jedoch eine höhere Komplexität.

"Wenn dein Ziel ist, ein Weltmodell für Erkennung oder Planung zu trainieren, ist die Verwendung von Pixel-Vorhersagen eine schreckliche Idee", schreibt LeCun.

LeCun verfolgt einen eigenen Ansatz

Mit seinem KI-Modell "Video Joint Embedding Predictive Architecture (V-JEPA)" hat LeCun fast zeitgleich mit Sora eine eigene Architektur für einen Schritt hin zu einem Weltmodell vorgestellt, die nicht auf eine generative Methode setzt.

Das Modell sagt komplexe Interaktionen voraus und interpretiert sie, indem es verdeckte Teile von Videos ergänzt, um der KI die Dynamik von Objekten und Interaktionen zu vermitteln.

V-JEPA konzentriert sich dabei auf Vorhersagen in einem breiteren konzeptuellen Raum, ähnlich der kognitiven Bildverarbeitung des Menschen.

Diese Architektur ermöglicht es V-JEPA, sich an verschiedene Aufgaben anzupassen, indem eine kleine, aufgabenspezifische Schicht hinzugefügt wird, anstatt das gesamte Modell neu zu trainieren - ein großer Fortschritt gegenüber herkömmlichen KI-Modellen.

Metas KI-Team plant, die Fähigkeiten von V-JEPA zu erweitern und die Langzeitprognosen zu verbessern, um schließlich umfassende Weltmodelle für autonome KI-Systeme zu entwickeln.

Source: LinkedIn

KI-News ohne Hype
Von Menschen kuratiert.

  • Mehr als 20 Prozent Launch-Rabatt.
  • Lesen ohne Ablenkung – keine Google-Werbebanner.
  • Zugang zum Kommentarsystem und Austausch mit der Community.
  • Wöchentlicher KI-Newsletter.
  • 6× jährlich: „KI Radar“ – Deep-Dives zu den wichtigsten KI-Themen.
  • Bis zu 25 % Rabatt auf KI Pro Online-Events.
  • Zugang zum kompletten Archiv der letzten zehn Jahre.
  • Die neuesten KI‑Infos von The Decoder – klar und auf den Punkt.
The Decoder abonnieren