OpenAI-Forscher: Warum Mathematik der wichtigste Test auf dem Weg zur AGI ist

Genau das wollen die Forscher aus dem Mathematiktraining auf andere Domänen übertragen, von Biologie bis Materialwissenschaft. Bubeck zieht die Parallele zum menschlichen Bildungssystem: Auch Menschen werden in Mathematik geschult, nicht weil sie später Beweise führen sollen, sondern weil das Fach logisches Denken erzwingt.

Hinzu kommen praktische Vorteile als Benchmark: Aufgaben sind eindeutig formuliert, Antworten überprüfbar, und niemand streitet darüber, ob ein Resultat korrekt ist. Bubeck führt das Konzept der "AGI-Zeit" ein: Vor zwei Jahren konnten Modelle das Denken eines Schülers über Minuten simulieren, heute liegen sie bei Tagen bis einer Woche. Das nächste Ziel seien Wochen und Monate.

OpenAIs Trainingsmethoden seien dabei nicht mathematikspezifisch, sondern allgemein, weshalb der Fortschritt in anderen Wissenschaften zwangsläufig folgen werde. Die Forscher arbeiten an einem "automatisierten Forscher", der autonom über lange Zeiträume hinweg Probleme bearbeitet.

Erdős-Probleme und der Streit um die Deutung

Im Gespräch sprechen die beiden auch über die Erdős-Probleme, eine Sammlung offener Fragen des verstorbenen ungarischen Mathematikers. Dort fanden interne Modelle laut Bubeck zunächst durch tiefe Literaturrecherche Lösungen für zehn als offen markierte Probleme. Bubecks irreführender Tweet darüber führte zu einer öffentlichen Auseinandersetzung mit Google-Chef Demis Hassabis, weil viele die Aussage als Behauptung neuer Beweise missverstanden. Inzwischen, so Bubeck, hätten ChatGPT und interne Modelle aber mehr als zehn tatsächlich neue, in Fachjournalen publizierbare Lösungen produziert.

Was vor kurzem noch also noch als unrealistische Behauptung galt, sei nun Realität und beschleunige sich weiter. Bubeck sieht darin einen Beleg, dass die Modelle den Schritt von der Rekombination bekannten Wissens zur Erzeugung neuer Mathematik vollziehen, auch wenn die philosophische Frage offen bleibe, ob wissenschaftlicher Fortschritt überhaupt mehr ist als geschickte Rekombination plus etwas Reasoning.

Risiken: Geistige Atrophie und Pseudo-Beweise

Beide Forscher warnen aber auch vor einem oberflächlichen Umgang mit den Werkzeugen. Expertise sei wertvoller denn je, weil nur trainierte Mathematiker die Modelle produktiv nutzen könnten. Nicht-Mathematiker, die in sozialen Medien lange KI-generierte Beweise präsentierten, lägen meist falsch. Ryu sieht Parallelen im Programmieren, wo eine Generation den Umgang mit Debuggern verlerne.

Aussagen, man brauche keine Wissenschaftler mehr, hält Bubeck daher für gefährlich. Akademische Institutionen müssten ihre Rolle aktiv zurückgewinnen. Gleichzeitig könne KI die Verifikation von Beweisen beschleunigen, die bisher Jahre dauert, und auf Probleme in publizierten Arbeiten hinweisen.