KI für Massenüberwachung und autonome Waffen: Streit zwischen Anthropic und Pentagon spitzt sich zu

Anthropic-CEO Dario Amodei hat in einem öffentlichen Statement die Position des Unternehmens bekräftigt.

Anthropic halte an seinen zwei roten Linien fest: keine massenhafte Inlandsüberwachung (das heißt auch, massenhafte Auslandsüberwachung ist offenbar okay) und keine vollautonomen Waffen.

Amodei betont, dass Anthropic als erstes KI-Unternehmen seine Modelle in geheimen Regierungsnetzwerken, nationalen Laboren und für Sicherheitskunden bereitgestellt habe. Claude werde bereits umfassend für Geheimdienstanalysen, Simulationen, Einsatzplanung und Cyberoperationen eingesetzt.

Bei autonomen Waffen argumentiert Amodei, dass heutige KI-Systeme schlicht nicht zuverlässig genug seien, um Menschen vollständig aus der Entscheidungskette zu nehmen. Anthropic habe dem Pentagon angeboten, gemeinsam an der Zuverlässigkeit zu forschen. Das Angebot sei abgelehnt worden.

Bei der Inlandsüberwachung warnt Amodei, dass KI aus verstreuten, einzeln harmlosen Daten ein umfassendes Bild jedes Bürgers erstellen könne, automatisch und im großen Stil.

Amodei weist zudem darauf hin, dass die Drohungen des Pentagons widersprüchlich seien: Anthropic gleichzeitig als Lieferkettenrisiko einzustufen und per Defense Production Act als unverzichtbar für die nationale Sicherheit zu behandeln, schließe einander aus. Trotz der Drohungen ändere Anthropic seine Position nicht. Sollte das Pentagon Anthropic von seinen Systemen entfernen, werde man einen reibungslosen Übergang zu einem anderen Anbieter ermöglichen.

Anthropic habe zudem auf mehrere hundert Millionen Dollar Umsatz verzichtet, um chinesischen Firmen mit Verbindungen zur Kommunistischen Partei den Zugang zu Claude zu entziehen, und setze sich für strenge Exportkontrollen bei Chips ein.

Hier vertritt Anthropic natürlich auch eigene Interessen: Exportkontrollen für Chips schwächen die chinesische Konkurrenz. Und wenn chinesische Firmen Claude nutzen, um eigene Modelle zu entwickeln, schadet das langfristig Anthropics Geschäft. Der Verzicht auf diese Einnahmen ist also auch Selbstschutz.

Pentagon-Zugeständnisse reichen Anthropic nicht

Pentagon-Technologiechef Emil Michael erklärte gegenüber CBS, das Militär habe "sehr gute Zugeständnisse" gemacht: Man habe angeboten, die bestehenden Gesetze gegen Inlandsüberwachung und die Pentagon-Richtlinien zu autonomen Waffen schriftlich anzuerkennen. Zudem habe man Anthropic einen Sitz im KI-Ethikrat des Militärs angeboten.

Anthropic habe die Zugeständnisse jedoch als unzureichend bezeichnet, woraufhin Michael Anthropic-CEO Amodei bei X als "Lügner" mit einem  "Gott-Komplex" bezeichnete.

Auf die Frage, warum das Pentagon nicht explizit zusichern wolle, Anthropics Modell nicht für Massenüberwachung oder vollautonome Waffenentscheidungen einzusetzen, sagte Michael, dies sei bereits durch geltendes Recht und Pentagon-Richtlinien verboten. "Man muss seinem Militär vertrauen, das Richtige zu tun", so Michael.

Gleichzeitig betonte er, man müsse auf die Zukunft und auf Chinas KI-Einsatz vorbereitet sein: "Wir werden einem Unternehmen niemals schriftlich zusichern, dass wir uns nicht verteidigen können." Die Frist für Anthropic läuft am Freitag um 17:01 Uhr ab.

Kann das Pentagon Anthropic zu "WarClaude" zwingen?

Der Rechtswissenschaftler Alan Z. Rozenshtein analysiert auf Lawfare, was das Pentagon mit dem Defense Production Act (DPA) tatsächlich erzwingen kann. Das Gesetz stammt aus dem Koreakrieg und gibt dem Präsidenten weitreichende Befugnisse, Unternehmen im Interesse der nationalen Verteidigung zu Lieferungen zu zwingen.

Laut Rozenshtein hängt die rechtliche Bewertung davon ab, was genau das Pentagon verlangt. Zwei Szenarien sind denkbar: Erstens könnte das Pentagon fordern, dass Anthropic Claude ohne vertragliche Nutzungsbeschränkungen liefert, also dasselbe Modell, nur ohne die Klauseln gegen Massenüberwachung und autonome Waffen. Hier hätte die Regierung gute Argumente, da das Produkt selbst unverändert bliebe.

Zweitens könnte das Pentagon verlangen, dass Anthropic Claude komplett neu trainiert und die Sicherheitsvorkehrungen aus dem Modell selbst entfernt. Das wäre laut Rozenshtein deutlich schwerer durchzusetzen, da es faktisch ein neues Produkt wäre und das Gesetz unklar ist, ob es Unternehmen zwingen kann, Produkte herzustellen, die sie gar nicht anbieten.

Ein erzwungenes Neutraining würde zudem Fragen zum Ersten Verfassungszusatz aufwerfen: Wenn Trainingsentscheidungen als redaktionelle Entscheidungen gelten, könnte der Staat Anthropic zwingen, Werte auszudrücken, die das Unternehmen ablehnt.

Rozenshtein weist auf einen Widerspruch hin: Das Pentagon könne Anthropic nicht gleichzeitig als Sicherheitsrisiko einstufen und per DPA als unverzichtbar für die nationale Verteidigung behandeln. Bei Weigerung drohen Anthropic strafrechtliche Konsequenzen. Der wahrscheinlichste Weg wäre laut Rozenshtein daher, zunächst unter Protest zu gehorchen und sofort gerichtlich dagegen vorzugehen.