"Sie haben uns über den Tisch gezogen": US-Regierung und Anthropic streiten über KI-Kontrolle

Regierungsvertreter werfen Anthropic wohl vor, Trumps Cyber-Verfügung übergangen und Fable 5 ohne explizite Freigabe veröffentlicht zu haben. Gespräche laufen, doch der Jailbreak-Vorwurf der Regierung offenbart primär deren eigene Wissenslücken.

"Sie haben uns über den Tisch gezogen." So hat laut Axios ein Regierungsbeamter den Konflikt zwischen der Trump-Regierung und Anthropic zusammengefasst. Wie von mir vermutet werfen Regierungsvertreter Anthropic vor, Trumps kürzlich erlassene Cyber-Verfügung übergangen zu haben.

Die Verfügung sah eine vermeintlich freiwillige Kontrolle von KI-Modellen durch die Regierung vor. Anthropic begrüßte den Vorschlag zwar, veröffentlichte Fable 5 aber ohne darauf zu warten, dass die vorgesehene Clearing-Stelle eingerichtet wird, die eine solche Freigabe hätte erteilen können.

Ein Regierungsbeamter wirft Anthropic zudem vor, das Unternehmen habe gewusst, dass ein Jailbreak passieren könnte. Der Hinweis auf diesen Jailbreak, dessen Vorhandensein und Gefährlichkeit nicht abschließend geklärt sind, soll unter anderem von Amazon gekommen sein.

Regierungsquellen kritisieren gegenüber Axios auch die Kommunikation zwischen den Parteien: "Sie sprechen einfach verschiedene Sprachen." Derzeit sollen Gespräche zwischen dem Handelsministerium und Anthropic-Mitarbeitern stattfinden, weitere Treffen mit CIA und Wissenschaftsberater Michael Kratsios sind geplant.

Cybersicherheits-Experten verteidigen Anthropic

Der Jailbreak-Vorwurf zeigt tatsächlich eher, dass die US-Regierung offenbar naiv und uninformiert an das Thema herangeht: Jeder, der sich intensiv mit KI-Modellen befasst, weiß, dass diese gehackt werden können. Bislang gibt es kein Gegenmittel. Die Frage ist eher nach dem Schweregrad und wie schnell Gegenmaßnahmen greifen.

Sollte die US-Regierung darauf bestehen, dass KI-Modelle "unhackbar" sein müssen, bevor sie international freigegeben werden, dürften zähe Verhandlungen folgen. Andererseits hat Anthropic keine einfache Verhandlungsposition: CEO Dario Amodei sagte schon 2023, dass Jailbreaks bei fortschrittlichen KI-Modellen "über Leben und Tod entscheiden" könnten, wenn die Umgehung von Sicherheitsrichtlinien in Wissenschaft, Technologie und Biologie funktioniere.

Parallel dazu haben über 100 Sicherheitsexperten und Führungskräfte aus der Tech-Branche einen offenen Brief an Handelsminister Lutnick und den nationalen Cyber-Direktor Cairncross veröffentlicht. Darin fordern sie die Aufhebung der Exportkontrollen gegen Fable und Mythos. Ihre Argumente: Anthropics Modelle seien zwar gut darin, Sicherheitslücken in Software zu finden, aber nicht einzigartig gut. Andere Modelle wie GPT-5.5, Opus, Sonnet und das chinesische Kimi 2.7 könnten das auch.

Anthropic habe zudem mehrere Schutzmaßnahmen in Fable eingebaut, die in der Sicherheits-Community am Starttag sogar als übertrieben belächelt wurden. Die Unterzeichner warnen, dass die Exportkontrollen die besten Werkzeuge ausgerechnet den Verteidigern wegnehmen, während chinesische Open-Weight-Modelle nur Monate hinter den besten US-Modellen zurückliegen.

Zu den Unterzeichnern gehören unter anderem Alex Stamos (Corridor), Rachel Tobac (SocialProof Security), Katie Moussouris (Luta Security), Dan Lorenc (Chainguard) und Joe Levy (Sophos).