Fable-5-Verbot: Angeblich warnte Amazon die US-Regierung vor Anthropics KI-Modell

Amazon-CEO Andy Jassy soll die Trump-Regierung auf Sicherheitsrisiken von Anthropics Fable-Modell hingewiesen haben.

Es war offenbar Amazon, das die Kettenreaktion gegen Anthropics fortschrittlichstes KI-Modell in Gang setzte. Laut Recherchen von The Information und Axios äußerte Amazon-CEO Andy Jassy zusammen mit anderen Tech-Führungskräften bei hochrangigen Vertretern der Trump-Regierung Bedenken über die Sicherheitsrisiken von Anthropics Mythos-Modell.

Am Donnerstagabend übermittelte Amazon der Regierung einen Bericht, der zeigen soll, wie sich Teile des Fable-Modells per Jailbreak freischalten lassen. Bemerkenswert dabei ist, dass Amazon einer der wichtigsten Investoren von Anthropic ist. Das Unternehmen nutzt unter anderem Amazons eigene KI‑Chips für das Training und den Betrieb seiner Modelle. Dass ein Großinvestor sein eigenes Portfolio-Unternehmen bei der Regierung meldet, ist, milde ausgedrückt, ein ungewöhnlicher Vorgang.

"Als führender Cloud-Anbieter, der eine große Zahl privater und öffentlicher Kunden betreut, ist es nicht ungewöhnlich, dass Regierungen unseren Rat zu potenziellen Sicherheitsrisiken einholen", kommentiert ein Amazon-Sprecher das Vorgehen.

Mindestens fünf weitere Unternehmen meldeten sich

Neben Amazon wandten sich laut Axios mindestens fünf weitere Unternehmen am Donnerstagabend und Freitagmorgen an verschiedene hochrangige Regierungsvertreter. Daraufhin berief der nationale Cyberdirektor Sean Cairncross ein Treffen mit hochrangigen Beamten des Weißen Hauses ein.

Zunächst versuchte die Regierung stundenlang, Anthropic dazu zu bewegen, das Modell freiwillig vom Markt zu nehmen. Das Unternehmen weigerte sich. Erst um 17:20 Uhr ET verschickte das Weiße Haus den offiziellen Brief mit der Exportkontrollanordnung und setzte ein Zeitfenster von lediglich 90 Minuten. Um 22:00 Uhr ET wurde das Modell von Anthropic abgeschaltet.

Die Cybersecurity-Expertin Katie Moussouris, der Anthropic den Amazon-Bericht zur Begutachtung vorgelegt hatte, hält die Regierungsreaktion für völlig überzogen. Es habe sich nicht einmal um einen echten Jailbreak gehandelt, sondern um sogenanntes "Defense Oriented Prompting" (DOP), eine Technik, die Verteidiger verwenden. "Wenn nationale Sicherheit das Ziel ist, ist das ein Eigentor gegen uns", schreibt sie bei LinkedIn.

Machtdemonstration des Weißen Hauses

Dass die Eskalation womöglich weniger mit dem konkreten Sicherheitsrisiko als mit dem Verhältnis zwischen Anthropic und der US-Regierung zu tun hat, legt eine Aussage einer Quelle gegenüber Axios nahe. Demnach störte die US-Regierung ein "Mangel an Ernsthaftigkeit" bei Anthropics Umgang mit dem Fable-Release. Die Exportbeschränkung folgte erst, nachdem Anthropic eine vorherige Aufforderung zur freiwilligen Rücknahme ignoriert hatte.

"Unternehmen werden sich nicht mit dem Weißen Haus anlegen. Das ist der eigentliche Effekt", sagte eine mit der Situation vertraute Person gegenüber Axios.

Die US-Regierung hatte kurz zuvor eine Executive Order zu einer offenbar doch nicht ganz so freiwilligen Sicherheitskontrolle veröffentlicht, die Anthropic zwar begrüßte, aber offenbar dennoch Fable noch vor der Einrichtung der Institution veröffentlichte. Laut The Information soll die Exportbeschränkung "wahrscheinlich nicht" auf andere KI-Labore ausgeweitet werden.

Anthropics Angst-Marketing als Bumerang greift zu kurz

Im Netz liest sich die Geschichte an vielen Stellen mit einer gewissen Ironie. Einige Beobachter sehen in der Eskalation ein Resultat von Anthropics eigenem, teils aggressivem Marketing rund um die angeblichen und wohl tatsächlich vorhandenen Cybersecurity-Fähigkeiten des Mythos-Modells. Wer die Gefährlichkeit der eigenen Technologie betont, darf sich nicht wundern, wenn die Regierung genau das ernst nimmt, heißt es. Selbst der Name "Fable" passt ins Bild: Eine Fabel ist eine kurze, belehrende Erzählung mit einer Lehre oder Moral.

Diese Perspektive ist nicht verkehrt, sie greift allerdings zu kurz. Was hier stattfand, ist ein massiver Eingriff der US-Regierung in die Privatwirtschaft, der darauf abzielt, eine der leistungsfähigsten KI-Technologien unter staatliche Kontrolle zu bringen und andere Länder gezielt vom Zugang auszuschließen.

Anthropic mag die Eskalation durch das eigene Sicherheitsnarrativ begünstigt haben. Die Tragweite und Unverhältnismäßigkeit der Reaktion stehen jedoch auf einem anderen Blatt, zumal sich Anthropic und die US-Regierung in den vergangenen Monaten immer wieder öffentlich aneinander gerieben haben und man eine erneute politisch motivierte Gängelung in Betracht ziehen muss.