Inhalt
summary Zusammenfassung

Fortschritte in der 3D-Rekonstruktion ermöglichen eine qualitativ hochwertige Text-zu-3D-Modellierung, die in weniger als einer halben Stunde ein 3D-Modell aus Text erzeugt.

Anzeige

Im August stellte ein Team mit 3D Gaussian Splatting eine neue KI-Methode vor, die ein qualitativ hochwertiges Echtzeit-Rendering von Strahlungsfeldern ermöglicht. Mit einigen Dutzend Fotos können fotorealistische 3D-Szenen in Echtzeit nach einer Trainingszeit von wenigen Minuten gerendert werden.

Seitdem hat diese Methode im Bereich der 3D-Rekonstruktion einige Aufmerksamkeit erregt und ist über Anwendungen wie Polycam für jedermann zugänglich.

Text in 3D durch Diffusion und 3D Gaussian Splatting

Es gibt nun erste Arbeiten, die 3D Gaussian Splatting verwenden, um 3D-Modelle aus Textbeschreibungen zu erzeugen. Sie folgen im Wesentlichen bereits bekannten Architekturen, wie beispielsweise der Verwendung eines 3D-Diffusionsmodells wie OpenAIs Point-E, um eine Punktewolke zu generieren, mit der die 3D Gaussians initialisiert werden. Deren Geometrie und Erscheinungsbild wird dann mithilfe von 2D-Diffusionsmodellen für die Bildgenerierung weiter verfeinert.

Anzeige
Anzeige

Quelle: Chen et al.

Ähnliche Ansätze werden auch von DreamFusion oder Magic3D verfolgt. Die 3D-Gaussian-Verfahren wie GSGen3D oder GaussianDreamer erreichen ähnliche oder bessere Ergebnisse in deutlich kürzerer Zeit: Während die alten Verfahren mehrere Stunden für ein Objekt benötigen, erzeugen die neuen Verfahren 3D-Objekte in weniger als einer Stunde.

GSGen3D und GaussianDreamer sind nur der Anfang

Weitere Qualitäts- und Geschwindigkeitsverbesserungen sind zu erwarten. Die Fähigkeit der aktuellen Modelle, komplexe Eingabeaufforderungen zu verarbeiten, ist noch begrenzt, einer der Autoren nennt als Grund das geringe Textverständnis von Point-E und CLIP in Stable Diffusion. Bessere Varianten dieser Modelle könnten komplexere 3D-Modelle mit präziserer Promptsteuerung ermöglichen, ähnlich wie es OpenAIs DALL-E 3 zeigt.

Weitere Beispiele, der Code und weitere Informationen sind auf den Projektseiten von GSGen3D und GaussianDreamer zu finden.

Anzeige
Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Zusammenfassung
  • 3D Gaussian Splatting ermöglicht ein qualitativ hochwertiges Echtzeit-Rendering von Strahlungsfeldern und nun Fortschritte in der Generierung von 3D-Modellen aus Textbeschreibungen.
  • Modelle wie DreamFusion und Magic3D haben bereits ähnliche Ansätze verfolgt, aber die neuen Methoden wie GSGen3D und GaussianDreamer sind schneller und liefern ähnliche oder bessere Ergebnisse.
  • Weitere Verbesserungen in Geschwindigkeit und Qualität sind zu erwarten, da bessere Varianten dieser Modelle komplexere 3D-Modelle mit präziserer Promptsteuerung ermöglichen könnten, wie etwa OpenAIs DALL-E 3 zeigt.
Max ist leitender Redakteur bei THE DECODER. Als studierter Philosoph beschäftigt er sich mit dem Bewusstsein, KI und der Frage, ob Maschinen wirklich denken können oder nur so tun als ob.
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!