OpenAI meldet KI-"Forschungspraktikanten" und warnt zugleich vor dem eigenen Tempo

Nach eigenen Angaben hat das Unternehmen das im vergangenen Herbst angekündigte Ziel eines "automatisierten Forschungspraktikanten" erreicht: ein System, das unter menschlicher Anleitung klar umrissene Forschungsaufgaben erledigt, auch solche, die einen erfahrenen Forscher mehrere Tage kosten würden.

Eine detaillierte Validierung dieser Zielerreichung legt OpenAI nicht offen, im Beitrag heißt es lediglich "laut unseren Messungen". Bis März 2028 will das Unternehmen einen vollwertigen automatisierten KI-Forscher entwickeln. Menschen setzen laut OpenAI weiterhin die Forschungsprioritäten, beurteilen Ergebnisse und entscheiden über Skalierung, Pausen und Deployment.

Agenten leisten das Dreifache der menschlichen Arbeitszeit

Die Nutzungszahlen zeigen, wie tief Coding-Agenten in den Forschungsalltag eingedrungen sind. Der Median-Forscher bei OpenAI verbraucht laut dem Bericht täglich Inferenz im Wert von über 600 US-Dollar zu API-Preisen, das 90. Perzentil über 7.000 US-Dollar. Der Token-Output des Median-Forschers ist seit Dezember 2025 um das 124-Fache gestiegen, deutlich schneller als in anderen Unternehmensbereichen. Seit Juni übersteigt die Agenten-Laufzeit die menschliche Arbeitszeit: Stand Mitte August setzt die Forschungsorganisation 3,1 Agenten-Arbeitstage pro menschlichem Arbeitstag ein.

OpenAI ordnet diese Zahlen selbst vorsichtig ein. Solche Kennzahlen seien "relativ leicht zu erheben, aber schwer zu interpretieren, weil ihre Beziehung zum Forschungsfortschritt ungewiss ist". Der Anstieg der Experimente pro Forscher, im August auf einem Höchststand seit Messbeginn Anfang 2025, fällt zudem mit deutlich gewachsenen Rechenkapazitäten zusammen. Der Gesamtfortschritt dürfte laut dem Bericht langsamer wachsen als diese Einzelmetriken, weil die am wenigsten automatisierbaren Aufgaben zum Flaschenhals werden.

Was die Agenten übernehmen und wo sie scheitern

Auch die Art der delegierten Arbeit verschiebt sich. Nach einer Taxonomie von Epoch AI klassifiziert, wachsen alle Kategorien der Forschungsarbeit, am stärksten das Schreiben von Forschungs- und Infrastrukturcode, technische Hilfestellung und die Überwachung von Trainingsläufen. Übergeordnete Planungsentscheidungen bleiben dagegen ein minimaler Anteil des Agenten-Outputs.

Über die reine Nutzung hinaus hat OpenAI mit einem agentischen Klassifikator untersucht, ob die Agenten die gestellten Aufgaben tatsächlich lösen, beschränkt auf Fälle mit eindeutig feststellbarem Ergebnis und gruppiert nach der geschätzten Zeit, die ein Mensch dafür bräuchte. Von Januar bis Juli stiegen die Erfolgsraten demnach über mehrere Schwierigkeitsstufen hinweg.

Die Grenzen der Autonomie dokumentiert der Bericht ebenfalls: Aufgaben unter 15 Minuten gelangen zu 86 Prozent ohne jedes Eingreifen, bei erfolgreichen Aufgaben im Umfang von vier bis acht Menschenstunden war dagegen in über der Hälfte der Fälle mindestens eine menschliche Intervention nötig. Der Klassifikator ist dabei selbst ein KI-System, dessen Verlässlichkeit OpenAI nicht separat ausweist.

Ein weiteres qualitatives Signal für den praktischen Nutzen der Systeme: Die Zahl der täglichen Anfragen in einem internen Support-Kanal ist laut den veröffentlichten Daten seit 2025 stark gefallen, und ein Team hat seine Troubleshooting-Sprechstunden ganz eingestellt, weil Agenten die Fehlersuche in der Forschungsinfrastruktur zunehmend übernehmen.

Pachocki: Das wichtigste Kontrollwerkzeug verliert an Wirkung

Pachocki liefert in seinem Essay eine breitere Einordnung dieser Entwicklungen. KI werde "mehr gewachsen als designt", schreibt er, ihr Gesamtverhalten entziehe sich einer vollständig verständlichen Beschreibung. Auf Basis interner Ergebnisse, deren Details OpenAI nicht offenlegt, erwartet er, dass sich das aktuelle Tempo in rekursive Selbstverbesserung fortsetzen könnte. "Ich bin besorgt, dass niemand auf die Folgen eines anhaltend schnellen Anstiegs der Maschinenintelligenz vorbereitet ist", so Pachocki.

Das gilt auch für die eigenen Kontrollwerkzeuge. Das Chain-of-Thought-Monitoring, eine von OpenAIs zentralen Wetten zur Überwachung von Reasoning-Modellen, verliere zunehmend an Verlässlichkeit: Das verbalisierte Denken der Modelle vermische sich mit überwachter Kommunikation und Tool-Nutzung, die Systeme würden besser darin, den eigenen Denkprozess zu manipulieren, und sie würden auch ohne verbalisiertes Denken klüger. Pachocki erwartet, dass der KI-Fortschritt künftig zunehmend durch das Vertrauen ins Monitoring begrenzt wird.

Auch beim Alignment sieht er Lücken. Beim Hugging-Face-Vorfall hätten die Agenten zwar die Grenze eingehalten, keine Menschen zu manipulieren, aber gegen den Geist ihrer antrainierten Werte verstoßen. GPT-6 Astra sei zwar deutlich besser ausgerichtet als der Vorgänger GPT-5.6 Sol, der Fortschritt beim generalisierbaren Alignment halte aber womöglich nicht mit dem allgemeinen Intelligenzfortschritt Schritt.

Verlangsamung fordern, Beschleunigung betreiben

Warum dann weiter stärkere Modelle trainieren? Als stärkstes Argument sieht Pachocki den Aufbau von Verteidigungssystemen: Die Modelle würden übermenschlich gut darin, in Computersysteme ein- und auszubrechen, und es gebe nur ein enges Zeitfenster, um kritische Infrastruktur abzusichern. In dieselbe Richtung argumentiert der Bericht: Ein automatisierter KI-Forscher könne auch als automatisierter Sicherheits- und Alignment-Forscher arbeiten. Zugleich mahnt Pachocki, das dürfe keine "Ausrede für Rücksichtslosigkeit" werden: "Die Idee, um jeden Preis vorwärtszurasen, erscheint absurd, sobald man den Ernst der Lage verinnerlicht hat."

Rahmenwerke wie das Preparedness Framework oder Anthropics Responsible Scaling Policy müssten daher zu verbindlichen Standards weiterentwickelt werden, durchgesetzt von unabhängigen Auditoren, Behörden oder internationalen Gremien.

"Derzeit glaube ich, dass kein Labor Alignment und Monitoring ausreichend gelöst hat, um noch viel länger verantwortungsvoll mit maximaler Geschwindigkeit weiter zu skalieren", schreibt Pachocki und spricht damit auch die Konkurrenz von Anthropic an.

Internationale Koordination bei der künftigen KI-Entwicklung müsse für Regierungen weltweit zur obersten Priorität werden. Auch der Bericht fordert unter Verweis auf OpenAIs Frontier-Policy-Blueprint, dass Unternehmen verpflichtet werden sollten, ihren RSI-Fortschritt öffentlich zu dokumentieren.

Eine Spannung bleibt: Derselbe Essay erklärt die Ausrichtung der eigenen Forschung auf RSI zum einzigen Weg, an der Spitze der KI-Forschung zu bleiben. OpenAI fordert also verbindliche Regeln für ein Rennen, das es selbst mit hohem Tempo weiter bestreiten muss, um an der Spitze mitzuspielen. Wenn parallel seine Kollegen verkünden, mit GPT-6 sei das Zeitalter der AGI eingeläutet, wirkt das wohl wenig entschleunigend auf das Rennen.