Sich selbst verbessernde KI: Anthropic zieht globale Entwicklungspause in Betracht

Die zentrale Botschaft: Rekursive Selbstverbesserung, also ein KI-System, das vollständig autonom seinen eigenen Nachfolger entwirft, sei zwar noch nicht erreicht, könnte aber "früher kommen, als die meisten Institutionen darauf vorbereitet sind".

Viel mehr Code bei unklarem Produktivitätsgewinn

Laut Anthropic liefern Ingenieure im zweiten Quartal 2026 durchschnittlich achtmal so viel Code pro Tag wie noch 2024. Mehr als 80 Prozent des Codes, der in die Produktions-Codebasis einfließt, stamme von Claude. Vor dem Start von Claude Code im Februar 2025 lag dieser Anteil noch im niedrigen einstelligen Bereich.

Die Unternehmensführung schätzt den Gesamtanteil einschließlich Skripten und experimentellem Code sogar auf mehr als 90 Prozent. Ein Mitarbeiter wird zitiert: "Es sind jetzt etwa fünf Monate her, seit ich zuletzt selbst Code geschrieben habe."

Anthropic räumt ein, dass Codezeilen ein unvollkommenes Maß sind. Die achtfache Steigerung sei "mit ziemlicher Sicherheit eine Übertreibung des tatsächlichen Produktivitätsgewinns". In einer internen Umfrage vom März 2026 unter 130 Mitarbeitern schätzte der Median den Output-Zuwachs durch Mythos Preview auf das Vierfache. Anthropic selbst hält den tatsächlichen Wert für etwas niedriger und verweist auf jüngste METR-Forschung, die zeigt, dass Entwickler den KI-Produktivitätsgewinn tendenziell überschätzen.

Zur Code-Qualität heißt es: "Claude-geschriebener Code war Ende 2025 etwas schlechter als menschengeschriebener Code bei Anthropic, ist heute etwa gleichwertig, und wir erwarten, dass er innerhalb des Jahres strikt besser sein wird."

Ein automatisierter Claude-Reviewer hätte laut einer retrospektiven Analyse rund ein Drittel der Bugs hinter vergangenen Vorfällen auf claude.ai erkannt, bevor sie in die Produktion gelangten. In einem weiteren Beispiel lieferte Claude im April 2026 über 800 Fixes, die eine Klasse von API-Fehlern um den Faktor 1000 reduzierten; ein Mensch hätte laut dem zuständigen Ingenieur vier Jahre dafür gebraucht.

Laut Anthropic verdoppelt sich die Dauer von Aufgaben, die KI-Systeme zuverlässig eigenständig erledigen können, derzeit etwa alle vier Monate, zuvor waren es sieben. Im März 2024 bewältigte Claude Opus 3 Aufgaben im Vier-Minuten-Bereich, ein Jahr später schaffte Claude Sonnet 3.7 anderthalb Stunden, und Claude Opus 4.6 meistere bereits 12-Stunden-Aufgaben.

METR stellte fest, dass Claude Mythos Preview "mindestens" 16 Stunden arbeiten konnte und sich am oberen Ende dessen befand, was METR ohne neue Aufgaben messen kann. Sollte der Trend anhalten, könnten Tage-Aufgaben noch dieses Jahr in Reichweite liegen, Wochen-Aufgaben 2027, so Anthropic.

In der Forschung nähert sich Claude menschlichem Urteilsvermögen

Neben der reinen Code-Produktion zeigt Anthropic Fortschritte im Bereich der KI-gestützten Forschung. Bei einem internen Optimierungstest, bei dem Claude Trainings-Code so schnell wie möglich machen soll, erreichte Claude Opus 4 im Mai 2025 eine durchschnittliche Beschleunigung von etwa 3 ×. Ein Jahr später kam Mythos Preview auf rund 52×. Ein erfahrener menschlicher Forscher benötige vier bis acht Stunden, um 4 × zu erreichen.

In einer Analyse realer Forschungssitzungen bei Anthropic untersuchte das Unternehmen 129 Momente, in denen menschliche Entwickler einen suboptimalen Umweg einschlugen. Claude Mythos Preview schlug dabei in 64 Prozent der Fälle den besseren nächsten Schritt vor, gegenüber 51 Prozent bei Claude Opus 4.5 ein halbes Jahr zuvor. Anthropic wertet dies als "frühes Signal, dass KI-Systeme besser darin werden, die Art von Urteilsentscheidungen zu treffen, von denen KI-Forschung abhängt".

Die letzte Lücke: Forschungsgeschmack und die Frage der Architektur

Der entscheidende Engpass bleibt laut Anthropic das, was das Unternehmen "research taste" nennt: die Fähigkeit, die richtigen Probleme auszuwählen und Sackgassen frühzeitig zu erkennen. "Der komparative Vorteil von Menschen liegt derzeit noch darin, das größere Bild zu sehen und über die Grenzen der unmittelbaren Aufgabe hinauszudenken", wird ein Mitarbeiter zitiert.

Ob dieser Sprung mit den heutigen Methoden überhaupt gelingen kann, ist laut Anthropic offen. "Es ist wirklich unklar, ob die heutigen Trainingsmethoden und Architekturen diese Fähigkeit freisetzen könnten", heißt es im Bericht.

Gleichzeitig relativiert das Unternehmen: Paradigmenwechsel wie die Transformer-Architektur kämen Jahre auseinander. Dazwischen bestehe der Großteil des Fortschritts aus inkrementeller Arbeit, und genau diese Art von Arbeitsablauf beherrsche Claude inzwischen hervorragend. "Wir sehen, wie die Transpiration zunehmend automatisiert wird", so Anthropic in Anlehnung an Edisons Bonmot über Genie als ein Prozent Inspiration und 99 Prozent Transpiration.

Selbst wenn Claude nie guten Forschungsgeschmack entwickle, impliziere eine konservative Lesart der Daten eine sich aufschaukelnde Beschleunigung: Jeder Ingenieur steuere weit mehr Arbeit als zuvor, weil Menschen nur noch den einstelligen Prozentanteil der Richtungsentscheidungen übernehmen.

Drei Szenarien, von denen Anthropic zwei für beunruhigend hält

Anthropic skizziert drei Zukunftsszenarien. Im ersten stagniert der Trend, etwa weil die exponentiellen Kurven sich als S-Kurven entpuppen oder Energie- und Chip-Engpässe bremsen. Anthropic hält dies für unwahrscheinlich, da bisher keine Abflachung erkennbar sei.

Im zweiten setzen sich die Effizienzgewinne fort, Menschen behalten aber die Richtungskontrolle. 100-Personen-Unternehmen könnten die Arbeit von 10.000 oder 100.000 Personen leisten. Anthropic sieht sich auf diesem Weg, warnt aber vor Risiken wie autoritärer Überwachung und maßgeschneiderten Manipulationskampagnen. Gleichzeitig greife Amdahls Gesetz: Bei Anthropic sei menschliches Code-Review bereits zum neuen Flaschenhals geworden.

Das dritte Szenario beschreibt vollständige rekursive Selbstverbesserung, bei der das Fortschrittstempo nur noch durch Rechenleistung begrenzt wird. Ob das Alignment-Problem dann gelöst werden kann, sei "das, worüber wir am wenigsten sicher sind". Seltene Fälle von Fehlausrichtung könnten sich aufschaukeln, "häufiger, aber weniger verstanden werden, bis wir die Kontrolle über sie verlieren".

Anthropic plädiert für die Option einer verifizierbaren Entwicklungspause

Die wohl bemerkenswerteste Passage des Berichts betrifft Anthropics Haltung zu einer möglichen Verlangsamung der KI-Entwicklung. "Wir glauben, dass es gut für die Welt wäre, die Option zu haben, die Entwicklung von Frontier-KI zu verlangsamen oder vorübergehend zu pausieren, damit gesellschaftliche Strukturen und Alignment-Forschung mit dem Fortschritt der Technologie Schritt halten können", heißt es wörtlich.

Anthropic erklärt, man würde selbst verlangsamen oder pausieren, wenn andere Entwickler an oder nahe der technologischen Spitze dies ebenfalls auf verifizierbare Weise täten. Das Anthropic Institute will Forschung betreiben und Systeme aufbauen, die eine glaubwürdige Pause ermöglichen würden, also Mechanismen, mit denen Frontier-Entwickler überprüfen können, dass andere tatsächlich gestoppt oder verlangsamt haben.

Die Hürden dafür seien allerdings enorm. Trainingsläufe seien weit leichter zu verbergen als Raketensilos, ihre Inputs seien universell einsetzbar, und der Anreiz, heimlich weiterzumachen, sei gewaltig: "Wer weitermacht, während andere pausieren, könnte die Führung übernehmen." Ein Vergleich mit dem INF-Vertrag für Nuklearwaffen sei naheliegend, doch jene Verifikationsregime hätten Jahrzehnte gebraucht. "So viel Zeit haben wir nicht", schreibt Anthropic.

Eine einseitige Pause eines einzelnen Labors sei zwar sofort umsetzbar, bringe aber deutlich weniger: Sie ändere nur, wer vorn liegt, schaffe aber nicht den fehlenden breiteren Deliberationsprozess. In den kommenden Monaten will Anthropic Gespräche organisieren, an denen Politikerinnen, Forschende, Zivilgesellschaft und andere KI-Unternehmen teilnehmen sollen.

Die Diskussion um eine KI-Pause gab es schon vor Jahren, die Forderungen hatten sich damals aber nicht durchgesetzt; rückblickend betrachtet wirkte sie verfrüht, betrachtet man die Möglichkeiten damaliger Systeme. Ob es sich hierbei um Angst-Marketing handelt, wie es Anthropic schon bei Mythos vorgeworfen wurde, wird wohl erst die Rückschau zeigen.