Pentagon und Anthropic streiten über KI-Einsatz für autonome Waffen

Das US-Verteidigungsministerium will KI-Technologie ohne Einschränkungen nutzen. Anthropic fordert Garantien gegen autonome Waffensteuerung und Inlandsüberwachung. Ein 200-Millionen-Dollar-Vertrag hängt in der Schwebe.

Das US-Verteidigungsministerium und das KI-Unternehmen Anthropic befinden sich in einem Konflikt über den militärischen Einsatz von KI-Technologie, berichtet Reuters unter Berufung auf mehrere mit der Angelegenheit vertraute Personen. Im Kern geht es um Schutzmaßnahmen: Anthropic verlangt Garantien, dass seine KI-Werkzeuge nicht für autonome Waffensteuerung ohne ausreichende menschliche Kontrolle oder zur Überwachung amerikanischer Bürger verwendet werden.

Das Pentagon, das die Trump-Regierung in "Department of War" umbenannt hat, lehnt diese Einschränkungen ab. Laut einem Memo vom 9. Januar zur KI-Strategie besteht das Ministerium darauf, kommerzielle KI-Technologie unabhängig von den Nutzungsrichtlinien der Hersteller einsetzen zu können, solange US-Gesetze eingehalten werden. Die Verhandlungen über einen Vertrag im Wert von bis zu 200 Millionen Dollar sind derzeit festgefahren.

Anthropic tanzt auf zwei Hochzeiten

Anthropic-CEO Dario Amodei schrieb diese Woche in einem Blogbeitrag, KI solle die nationale Verteidigung "auf alle Arten unterstützen, außer jenen, die uns unseren autokratischen Gegnern ähnlicher machen würden". Er kritisierte auch die tödlichen Schüsse auf US-Bürger bei Protesten gegen Einwanderungsmaßnahmen in Minneapolis als "Horror". Diese Vorfälle haben laut Reuters die Bedenken einiger im Silicon Valley über den staatlichen Einsatz ihrer Werkzeuge für mögliche Gewaltanwendung verstärkt. Anthropic hat Verträge mit Palantir abgeschlossen, das wiederum direkt mit der in die Vorfälle verwickelten US-Behörde ICE zusammenarbeitet.

Das Pentagon bräuchte jedoch wahrscheinlich Anthropics Kooperation, da die Modelle des Unternehmens darauf trainiert sind, potenziell schädliche Handlungen zu vermeiden, und Anthropic-Mitarbeiter die KI für das Pentagon anpassen müssten. Der Streit kommt zu einem heiklen Zeitpunkt für Anthropic, das einen Börsengang vorbereitet und laut Reuters erhebliche Ressourcen in das Geschäft mit der nationalen Sicherheit investiert hat.