Anthropic will mit neuen Kennzahlen Dario Amodeis Forderung nach einem KI-Tempolimit untermauern

Hintergrund ist die Forderung von Anthropic-CEO Dario Amodei, die Entwicklung an der KI-Grenze koordiniert zu bremsen. Dafür brauche die Öffentlichkeit mehr Einblick, so Anthropic. Die Kennzahlen sollen zeigen, wie Modelle gebaut werden, und ergänzen Fähigkeitstests, die messen, was Modelle können.

Was "leiten" hier bedeutet und was nicht

Kernstück ist ein Index, der sämtliche Entwicklungsarbeit bei Anthropic auf einer Skala von Epoch AI einordnet, von AL0 (keine KI) bis AL5 (vollständig autonom). Stand August 2026 liegen 26 Prozent der Arbeit auf AL4, im Februar war es unter ein Prozent. Über 90 Prozent erreichen mindestens AL3, AL5 erreicht Claude nirgends.

Epoch AI nennt AL4 "AI leads", Anthropic setzt das in die Überschrift. Doch wer mit "leiten" Autonomie verknüpft, liegt falsch, dafür gibt es ja AL5. Ein Beispiel von Anthropic zeigt wo AL4 liegt: Ein Ingenieur übergibt Claude eine Fehlermeldung, Claude analysiert, repariert und testet ohne Rückfragen, darf aber nicht ausliefern. Der Mensch liest den Bericht und entscheidet. Aufgabe und Richtung kommen weiter vom Menschen. Der Unterschied zu AL3 ("kollaboriert") besteht vor allem darin, dass Claude bei Zwischenproblemen nicht mehr stehen bleibt.

Bewertet hat Claude selbst: Agenten sammelten Belege aus Slack und internen Dokumenten, ein weiteres Claude-Modell vergab die Stufen. Anthropic räumt ein, dass dieser "Richter" dieselben Fehler machen könnte wie das geprüfte System.

Wo genau "kollaboriert" endet und "leitet" beginnt, ist allerdings auch für Anthropic nicht eindeutig. Das zeigt eine Gegenprobe des Unternehmens: Mitarbeitende sollten selbst einschätzen, wie stark ihr eigener Arbeitsbereich automatisiert ist. Bewerteten zwei Menschen denselben Bereich, kamen sie nur in gut einem Drittel der Fälle auf dieselbe Stufe. Das Claude-Modell, das die offiziellen Bewertungen vergab, traf die Einschätzung der Menschen in 59 Prozent der Fälle. Fast immer, in 97 Prozent, lagen Mensch und Modell höchstens eine Stufe auseinander. Eine Stufe ist hier aber genau der Sprung von "kollaboriert" zu "leitet". Ob eine Aufgabe zu den 26 Prozent zählt, ist also oft Auslegungssache.

Hinzu kommt, was die 26 Prozent überhaupt messen. Anthropic hat aufgelistet, womit die Mitarbeitenden im Juli ihre Arbeitszeit verbrachten, und jede dieser Tätigkeiten bewertet. Tätigkeiten, die viel Zeit binden, zählen mehr. Claude leitet demnach ein Viertel der Arbeit, gemessen an der menschlichen Arbeitszeit, die dafür anfällt. Das sagt nichts darüber, wie viele Entscheidungen Claude trifft oder ob es die Forschungsrichtung mitbestimmt.

Die Zahl nützt dem Unternehmen doppelt, als Leistungsnachweis für das Produkt und als Argument für Amodeis Bremsforderung. Wer KI-Firmen vorwirft, mit Sicherheitswarnungen Regulierung im eigenen Interesse zu formen, findet in der Definition von "leiten" neues Futter.

Junge Aufsicht für 30.000 Agenten

Auf Anthropics meistgenutzter interner Plattform laufen laut dem Bericht rund 30.000 Agenten gleichzeitig. Ein Echtzeit-Monitor prüft jede Aktion und soll etwa das Kopieren von Modellgewichten blockieren, von über einer Milliarde Entscheidungen im August stoppte er 0,002 Prozent. Ein zweiter Monitor markiert nachträglich rund 100.000 Protokolle pro Woche, etwa 50 landen bei Menschen. Anthropic räumt ein, diese Überwachung erst seit Monaten zu betreiben und nicht sicher zu sein, alle Verhaltensmuster zu erfassen.

In einer Stichprobenwoche im Juli flossen rund sechs Prozent der Rechenleistung für KI-Forschung in Sicherheitsarbeit. Anthropic interessiert diese Kennzahl vor allem, weil Rechenleistung der Input ist, der sich von außen am ehesten überprüfen lässt. Sollte sich die Branche auf ein Bremsen einigen, wäre sie ein möglicher Hebel, etwa über Selbstverpflichtungen zum Anteil für Sicherheitsforschung.

Die niedrige Zahl bedeutet laut Anthropic aber nicht zwingend wenig Sicherheitsarbeit: Diese bestehe vor allem aus dem Entwerfen von Experimenten, was Forscherzeit kostet, aber wenig Chips, während ein Trainingslauf für ein neues Modell enorme Kapazitäten verschlingt. Zudem hat Anthropic Arbeit, die Sicherheit und Fähigkeiten gleichermaßen voranbringt, nicht als Sicherheit gezählt.

Das Unternehmen warnt aber, die Grenze zur Fähigkeitsforschung sei unscharf und jeder Anbieter sei versucht, sie großzügig zu ziehen, die Beweislast müsse deshalb beim Entwickler liegen.