Themen Hub KI-Forschung

Googles PaLM 2 wird besser in Mathe, wenn man das Sprachmodell erst einmal durchatmen lässt.

In einem Paper haben Forschende untersucht, ob sich Sprachmodelle wie GPT-4 oder PaLM 2 als Optimierer eignen, die automatisch Lösungen für vordefinierte Probleme finden, wie zum Beispiel Filmempfehlungen oder das Lösen von Grundschulmathematikaufgaben.

Dabei versuchten die Sprachmodelle, selbstständig die besten Prompts für ihre Aufgabe zu finden. Besonders kurios ist der Prompt, mit dem PaLM 2-L Matheaufgaben besonders gut löste: "Atme tief durch und arbeite Schritt für Schritt an diesem Problem". Ohne Durchatmen sank die Genauigkeit um fast zehn Punkte.

Mit CityDreamer, einem generativen KI-Modell, können unbegrenzte 3D-Städte erzeugt werden. Das Modell kann laut den Forschenden die vielfältigen Erscheinungsformen von Gebäuden in städtischen Umgebungen besser darstellen - eine der größten Herausforderungen im Vergleich zur Generierung natürlicher Umgebungen, wie sie etwa GANCraft ermöglicht.

Um die Realitätsnähe der generierten 3D-Städte zu erhöhen, haben die Autoren das Modell mit zwei neuen Datensätzen, OSM und GoogleEarth, trainiert, die realistische Stadtgrundrisse und -erscheinungen bieten und leicht auf andere Städte weltweit skalierbar sein sollen.