US-Regierung gibt KI-Modell Fable 5 von Anthropic wieder frei

Nach gut zwei Wochen Sperre hebt die US-Regierung die Exportkontrollen für Anthropics leistungsstärkstes KI-Modell auf.

Fable 5 soll ab heute wieder weltweit verfügbar sein, unter anderem über die Claude Platform, Claude.ai, Claude Code und Claude Cowork. Für Pro-, Max-, Team- und ausgewählte Enterprise-Pläne ist das Modell zunächst bis zum 7. Juli für bis zu 50 Prozent der wöchentlichen Nutzungslimits enthalten. Danach wird es über sogenannte Usage-Credits abgerechnet. Auf AWS, Google Cloud und Microsoft Foundry soll der Zugang "so schnell wie möglich" wiederhergestellt werden.

Mythos 5, die weniger abgesicherte Variante desselben Grundmodells, bleibt dagegen auf eine Gruppe von US-Organisationen beschränkt. Diese erhielten am 26. Juni eine entsprechende Genehmigung der US-Regierung. Anthropic koordiniere weiterhin mit der Regierung, um den Zugang für weitere Partner im sogenannten Glasswing-Programm zu erweitern. Ob die EU Teil des Programms sein wird, ist weiter unklar.

Ein Amazon-Bericht löste die Sperre aus

Anthropic bestätigt Berichte, wonach die Sperre auf eine Sicherheitsmeldung von Amazon-Forschern zurückging. Sie hatten eine Methode gefunden, die Sicherheitsvorkehrungen von Fable 5 zu umgehen. Das Modell identifizierte daraufhin mehrere Software-Schwachstellen und produzierte in einem Fall Code, der zeigte, wie eine davon ausgenutzt werden könnte.

Da die Exportkontrollen sofort in Kraft traten und Anthropic keine Möglichkeit hatte, die Nationalität der Nutzer in Echtzeit zu überprüfen, sperrte das Unternehmen den Zugang zu beiden Modellen für sämtliche Nutzer.

Anthropic relativiert die Schwere des Jailbreaks

Die US-Regierung und Anthropic untersuchten die Schwachstelle in den vergangenen zwei Wochen. Viele weniger leistungsfähige Modelle konnten dieselben Schwachstellen identifizieren wie Fable 5 in dem Bericht, darunter Claude Opus 4.8, GPT-5.5 und Kimi K2.7. Bei der konkreten Demonstration, wie die einzelne Schwachstelle ausgenutzt werden kann, habe jedes getestete Modell dasselbe Ergebnis geliefert. Das galt auch für deutlich kleinere Modelle wie Claude Haiku 4.5.

Das Verhalten habe einen Grenzfall der Fable-5-Sicherheitsvorkehrungen dargestellt und lediglich routinemäßige defensive Cybersicherheitsarbeit betroffen. Als Reaktion hat Anthropic einen verbesserten Safety Classifier trainiert, der die im Amazon-Bericht beschriebene Technik in mehr als 99 Prozent der Fälle blockiert. Wird eine Anfrage blockiert, erhalten Nutzer eine Benachrichtigung. Die Anfrage wird dann an das ältere Modell Opus 4.8 weitergeleitet.

Der neue Classifier hat laut Anthropic allerdings einen Nachteil: Er blockiert häufiger auch harmlose Anfragen bei alltäglichen Coding- und Debugging-Aufgaben. Schon beim ersten Fable-Release hatte die Nutzergemeinschaft kritisiert, das Modell sei zu restriktiv.

Ein universeller Jailbreak sei zum Zeitpunkt der Veröffentlichung nicht entdeckt worden. Gleichzeitig räumt das Unternehmen ein, dass es "wahrscheinlich unmöglich" sei, ein KI-Modell vollständig gegen Jailbreaks abzusichern. Das war allerdings auch vor der Fable-5-Veröffentlichung bekannt.

Die KI-Branche benötige daher einen einheitlichen Standard zur Bewertung von Jailbreaks, auf dessen Basis entsprechende Gegenmaßnahmen eingeleitet werden sollen. Gemeinsam mit Amazon, Microsoft, Google und weiteren Glasswing-Partnern arbeite man an einem solchen Framework.

Zusätzlich werde ein Team für die Rund-um-die-Uhr-Überwachung wichtiger Jailbreak-Einreichungskanäle aufgebaut. Parallel dazu hat Anthropic ein neues HackerOne-Programm gestartet, über das Sicherheitsforscher potenzielle Cyber-Jailbreaks für Fable 5 einreichen können.

Anthropic baut Zusammenarbeit mit US-Regierung aus

Anthropic kündigt zudem eine vertiefte Zusammenarbeit mit der US-Regierung an. Sie baut auf der gemeinsamen Arbeit an der Executive Order auf.

Das Unternehmen verpflichtet sich zu vier Maßnahmen: Erstens erhalten Regierungspartner vor der Veröffentlichung Zugang zu Modellen, die die Fähigkeitsgrenze in sicherheitsrelevanten Bereichen verschieben. Zweitens sollen entdeckte Jailbreaks oder Missbrauchsmuster schnell ausgetauscht werden. Drittens stellt Anthropic dedizierte Ressourcen und signifikante Rechenkapazitäten für gemeinsame Forschung bereit. Viertens arbeitet das Unternehmen an einem gemeinsamen Industriestandard für Frontier-Modell-Anbieter mit.

Anthropic fordert, dass alle Regeln in "starker Regulierung" festgeschrieben und gleichmäßig auf alle Entwickler von Frontier-Modellen angewandt werden. "Die Beteiligung der Regierung an KI-Veröffentlichungen erfordert einen dauerhaften, transparenten Prozess [...]", schreibt das Unternehmen.