Auch ein Chatbot muss mal durchatmen
12. September 2023
Googles PaLM 2 wird besser in Mathe, wenn man das Sprachmodell erst einmal durchatmen lässt.
In einem Paper haben Forschende untersucht, ob sich Sprachmodelle wie GPT-4 oder PaLM 2 als Optimierer eignen, die automatisch Lösungen für vordefinierte Probleme finden, wie zum Beispiel Filmempfehlungen oder das Lösen von Grundschulmathematikaufgaben.
Dabei versuchten die Sprachmodelle, selbstständig die besten Prompts für ihre Aufgabe zu finden. Besonders kurios ist der Prompt, mit dem PaLM 2-L Matheaufgaben besonders gut löste: "Atme tief durch und arbeite Schritt für Schritt an diesem Problem". Ohne Durchatmen sank die Genauigkeit um fast zehn Punkte.
Source: Arxiv
KI-News ohne Hype
Von Menschen kuratiert.
- Mehr als 20 Prozent Launch-Rabatt.
- Lesen ohne Ablenkung – keine Google-Werbebanner.
- Zugang zum Kommentarsystem und Austausch mit der Community.
- Wöchentlicher KI-Newsletter.
- 6× jährlich: „KI Radar“ – Deep-Dives zu den wichtigsten KI-Themen.
- Bis zu 25 % Rabatt auf KI Pro Online-Events.
- Zugang zum kompletten Archiv der letzten zehn Jahre.
- Die neuesten KI‑Infos von The Decoder – klar und auf den Punkt.