Anzeige
Skip to content

GPT-6 Astra rückt die Frage nach echtem KI-Fortschritt wieder in den Mittelpunkt

Image description
GPT-Image-2 prompted by THE DECODER

OpenAIs GPT-6 Astra sorgt für widersprüchliche Benchmark-Urteile: Epoch AI sieht es vorn, Artificial Analysis nur auf Vorgänger-Niveau. Aufsehen erregt vor allem ARC-AGI-3, wo Astra erstmals effizienter arbeitet als der menschliche Durchschnitt. ARC-Prize-Chef François Chollet sieht den Fortschritt "doppelt so schnell" wie erwartet – und zieht seine AGI-Prognose vor.

Zwei unabhängige Institute fassen viele Einzeltests zu einer Gesamtnote zusammen, kommen aber zu gegensätzlichen Ergebnissen. Epoch AI verrechnet über 50 Benchmarks miteinander und sieht GPT-6 Astra mit 169 Punkten klar auf Platz 1 von 267 Modellen. Artificial Analysis prüft Wissen, Programmieren und Textverständnis und sieht GPT-6 Astra mit 61 Punkten exakt auf dem Niveau des Vorgängers, hinter Claude Fable 5.1 mit 66 Punkten.

Gegenüber dem eigenen Vorgänger ist Astra klar teurer. OpenAI verlangt das Zweieinhalbfache pro verarbeiteter Texteinheit, eine Aufgabe kostet dadurch rund 75 Prozent mehr als bei Sol. Im Vergleich mit Anthropic dreht sich das Bild. Bei Programmieraufgaben erreicht Astra laut Artificial Analysis dieselbe Punktzahl wie Claude Fable 5, kostet pro Aufgabe aber weniger als die Hälfte. Grund ist die Sparsamkeit des Modells. Es braucht nur ein Drittel der Rechenschritte von Sol und ein Fünftel derer von Opus 5.

Benchmark Astra Sol Fable 5.1 Opus 5
Epoch ECI, Gesamtnote 169 162 163 162
AA Intelligence Index 61 61 66 63
ARC-AGI-3, unbekannte Spielwelten 62,7 % 7,8 % keine Daten 30,2 %
ARC-AGI-2, abstrakte Bilderrätsel 95,0 % 92,5 % 90,0 % 90,4 %
ARC-AGI-1, ältere Version 98,5 %* 97,5 % 97,5 % 97,5 %
FrontierMath Erdős, offene Mathematik 3 % 0 % 0 % keine Daten

*GPT-6 Astra bei xhigh Reasoning Effort, bei max sind es 97,5 Prozent. ARC-AGI-1 gilt inzwischen als weitgehend gesättigt.

Im Coding Agent Index erreicht es 67 Punkte bei rund einem Drittel des Tokenverbrauchs von Sol, Fable 5.1 führt mit 70. Die Halluzinationsrate in AA-Omniscience fällt von 92 auf 51 Prozent. Gleichzeitig verliert das Modell rund 80 Elo-Punkte in GDPval-AA v2 und fällt bei Banking-Support, SciCode und Long-Context-Reasoning-Aufgaben zurück.

Laut Epoch AI löste GPT-6 Astra wiederum beim neuen FrontierMath Erdős als einziges Modell zwei von 68 offenen Erdős-Problemen mit Lean-verifizierten Beweisen, bei 300 Dollar Budget pro Versuch. In nicht standardisierten Zusatzläufen kamen drei weitere Lösungen hinzu, für über 220.000 Dollar Compute, laut Epoch zählen sie aber nicht zum Score.

Ein Blick in die Einzelwerte bei Epoch zeigt aber, dass GPT-6 Astra und die Konkurrenz Fable 5.1 bislang auf unterschiedlichen Feldern gemessen wurden. Astra führt bei Mathematik, Wissen und Rätseln. Fable 5.1 hält dagegen die Bestwerte bei fast allen Programmiertests. Für Astra hat Epoch aber bisher nur einen einzigen Coding-Wert erhoben, und der stammt aus einem Lauf mit mittlerer Denkstufe.

ARC-AGI-3 zeigt deutlichen Sprung

Am deutlichsten fällt der Sprung bei ARC-AGI-3 aus. Der Test setzt eine KI in unbekannte Spielwelten, deren Regeln und Ziele ihr niemand erklärt. Sie muss durch Ausprobieren selbst herausfinden, was zu tun ist. GPT-6 Astra erreicht 62,7 Prozent bei Testkosten von rund 26.000 US-Dollar. Der Vorgänger GPT-5.6 Sol kam auf 7,78 Prozent, das Konkurrenzmodell Claude Opus 5 auf 30,16 Prozent. Fable 5 und Fable 5.1 fehlen bisher auf dem Benchmark.

Die von OpenAI berichteten 99,9 Prozent kamen unter anderen Bedingungen zustande: Dabei durfte Astra das von OpenAI entwickelte Gerüst nutzen, das Reasoning-Ketten zwischen den einzelnen Anfragen behält und lange Verläufe automatisch zusammenfasst. Nach Messung von ARC Prize liefen diese Durchgänge rund 3,66-mal schneller und verbrauchten 49 Prozent weniger Token als die Läufe im hauseigenen Gerüst, verglichen über 167 Spiel-Reasoning-Paare, die beide Aufbauten lösten.

Der Einsatz und damit zusammenhängende Leistungssprung solcher Gerüste war bereits bei GPT-5.6 Sol ein Thema zwischen dem Betreiber ARC Prize und OpenAI. ARC Prize weist darauf hin, dass nur der niedrigere Wert von 62,7 Prozent mit dem internen ARC-Gerüst einen fairen Vergleich zwischen den Anbietern erlaubte, man aber in Zukunft auch die Werte mit den herstellereigenen Gerüsten veröffentlichen werde.

Mehr Nachdenken senkt hier die Rechnung

Ungewöhnlich ist das Verhältnis von Denkaufwand und Kosten. Normalerweise verteuert eine höhere Reasoning-Stufe einen Testlauf. Bei Astra ist es umgekehrt: Im ARC-Standardgerüst sinken die Kosten von 49.791 US-Dollar ohne Reasoning auf 26.098 US-Dollar bei maximalem Reasoning, während der Score von 35,2 auf 62,7 Prozent steigt. Der Grund ist laut ARC Prize, dass Astra die Spiele mit weniger Spielzügen löst und damit weniger Modellaufrufe und Token anfallen. Auffällig bleibt die Stufe "low", die mit 17,5 Prozent schlechter abschneidet als der Betrieb ganz ohne Reasoning. ARC Prize kommentiert diesen Ausreißer nicht.

Zum Vergleich: Die menschlichen Testpersonen erhielten 115 US-Dollar pro 90-Minuten-Sitzung plus 5 US-Dollar je gelöstem Spiel, bei rund neun Versuchen also etwa 12,78 US-Dollar pro Spiel. Das bezahlt allerdings vor allem Zeit und Teilnahmebereitschaft. Rechnet man stattdessen nur die Stoffwechselenergie des Gehirns als Strom, landet ARC Prize bei 0,067 Cent pro Spiel.

Interessanter als die Punktzahl ist aber die Effizienz: ARC Prize hat vor dem Start rund 500 Testpersonen ohne Vorauswahl spielen lassen und für jedes Level den Median der Spielzüge derjenigen festgehalten, die es lösten. Im Lauf mit dem OpenAI-Gerüst kam Astra auf 96 Prozent der Level mit weniger Zügen aus als dieser Median, im Schnitt mit gut der Hälfte. Anders als die üblichen Kostenmaße misst dieser Wert nicht verbrauchte Rechenleistung, sondern wie viel Erfahrung mit einer Umgebung nötig war, bis das Modell sie beherrschte.

Genau hier hatten die Betreiber eigentlich einen dauerhaften Vorsprung des Menschen erwartet. Für Brute-Force-Ansätze gilt das weiterhin, bei Spitzenmodellen beobachtet ARC Prize dagegen ein fast binäres Muster: Hat das Modell die Mechanik einmal durchschaut, liegt die Ausführung im menschlichen Effizienzbereich.

Astra erfindet sich eine eigene Notation

Astra legt sich dafür eigene Notizen an und entwickelt dafür eine selbst erfundene, algebraisch anmutende Kurzschrift, in der es Objekte, Koordinaten, Regeln und offene Pläne festhält, etwa extend8 to3; retract10 to2 als geordnete Zugfolge oder Turn 5: P=(24,20), empty, facing west als Zustandsvermerk. Ähnliches Verhalten sah ARC Prize bei anderen Modellen, hebt bei Astra aber Präzision und Informationsdichte hervor. Im Standardgerüst ist genau das die entscheidende Fähigkeit, denn dort geht alles verloren, was das Modell nicht selbst in seine sichtbaren Notizen rettet.

ARC-Mitgründer François Chollet beschreibt das bei X als "hocheffiziente symbolische Weltmodellierung im laufenden Betrieb", bei der das Modell so weit gehe, "seine eigene Kurzschrift-DSL zu entwickeln, um Spielsituationen darzustellen, im Grunde eine spielspezifische algebraische Notation".

Ein drittes Testumfeld zeigt, wozu Astra mit externen Werkzeugen fähig ist. PRO-LONG ist ein von Dritten entwickeltes Agenten-Gerüst, das die ARC-Prize früh als Red-Teaming-Partner für ARC-AGI-3 eingesetzt hat, also zum gezielten Ausloten der Grenzen des Benchmarks. Anders als im Standardaufbau bekommt das Modell dort eine Sandbox, in der es eigenen Code ausführen kann.

Astra nutzte das und schrieb sich pro Spiel kleine Programmbibliotheken: Parser für das Spielfeld, Zustandsmodelle, Suchalgorithmen, Planer. In einem Labyrinthspiel mit Wachen entstanden nacheinander ein Wegfinder, ein Kampfregelmodul, ein Modell der Patrouillenbewegungen und ein Skript, das die eigenen Vorhersagen laufend gegen die Beobachtungen abglich. Ausbruchsversuche aus der Sandbox beobachtete ARC Prize nicht. Mit den menschlichen Testbedingungen sind diese Läufe nicht vergleichbar, da die Testpersonen weder Code-Interpreter noch Notizblock hatten. Gemessen wird hier die kombinierte Leistung aus Modell und selbstgebauten Werkzeugen.

Chollet: kein AGI-Beweis, aber schneller als erwartet

Als Beleg für eine allgemeine künstliche Intelligenz wertet ARC Prize die Ergebnisse ausdrücklich nicht. "Alles, was wir bislang über das System wissen, sind seine Benchmark-Werte", schreibt Chollet. Beim Start von ARC-AGI-3 habe man in jeder Präsentation auf einem Punkt bestanden: "Es zu lösen ist kein Beweis für AGI. Es ist nicht als Ziellinie gedacht." Der Benchmark prüfe zwar die richtigen qualitativen Eigenschaften, die man von einem AGI-System erwarte, also Exploration unter Unsicherheit, Anpassung ohne Anleitung und kausale Weltmodellierung aus wenigen Daten, aber "in kleinen Mengen". Die Spiele liefen auf um Größenordnungen kürzeren Zeitskalen als reale Aufgaben und verlangten entsprechend weniger Daten, weniger Modellierungskomplexität und weniger Lernen im laufenden Betrieb.

Bei der Veröffentlichung von ARC-AGI-3 vor rund sechs Monaten hatte Chollet auf die Frage nach einer Sättigung mit "etwa einem Jahr" geantwortet, abhängig davon, wie gezielt der Benchmark angegangen werde. Astra sei also "etwa doppelt so schnell" gekommen wie erwartet. "Ich glaube, das Tempo des Fortschritts wird viele Menschen überraschen, und das, was die neuen Modelle können, wird die Sicht auf KI infrage stellen, die sich Menschen anhand früherer Modellgenerationen gebildet haben." Auf die Frage eines Nutzers, ob seine frühere AGI-Prognose für 2030 noch halte, antwortete Chollet knapp: "Früher, weil der Fortschritt schneller passiert, als ich erwartet habe."

Die Konsequenz ist ein weiterer Benchmark. ARC-AGI-4 wird laut Chollet seit der Veröffentlichung von ARC-AGI-3 entwickelt und soll im ersten Quartal 2027 erscheinen. Benchmarking sei ein fortlaufender Prozess, der sich gemeinsam mit den Modellen weiterentwickle und immer auf die verbleibende Differenz zwischen KI und menschlicher Intelligenz ziele. ARC-AGI-3 selbst hält die Organisation für eng begrenzt: deterministische Mechaniken, geschlossene Ziele, kein Abbild der offenen realen Welt. Die nächste Generation soll unter anderem rekursive Selbstverbesserung und offene Innovation prüfen.

KI-News ohne Hype – von Menschen kuratiert

Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den "KI Radar"‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.

Der Rest ist für Abonnenten.
Jetzt Abo abschließen.

  • Zugriff auf alle THE DECODER Artikel.
  • Lesen ohne Ablenkung – keine Google-Werbebanner.
  • Zugang zum Kommentarsystem und Austausch mit der Community.
  • Wöchentlicher KI-Newsletter.
  • 6× jährlich: “KI Radar” – Deep-Dives zu den wichtigsten KI-Themen.
  • Bis zu 25 % Rabatt auf KI Pro Online-Events.
  • Zugang zum kompletten Archiv der letzten zehn Jahre.
  • Die neuesten KI‑Infos von The Decoder – klar und auf den Punkt.
The Decoder abonnieren