Google unterzeichnet KI-Deal mit dem Pentagon und ignoriert Protest von über 600 Mitarbeitern

Mehr als 600 Google-Angestellte forderten CEO Sundar Pichai auf, klassifizierte KI-Arbeit für das US-Militär abzulehnen. Am selben Tag unterzeichnete Google den Vertrag. Juristen halten die Sicherheitsklauseln darin für wirkungslos.

Google hat einen Vertrag mit dem US-Verteidigungsministerium unterzeichnet, der dem Pentagon erlaubt, Googles KI-Modelle für klassifizierte Aufgaben einzusetzen. Das berichtet The Information unter Berufung auf eine eingeweihte Person. Der Deal gestattet dem Pentagon die Nutzung für "jeden rechtmäßigen Regierungszweck". Ein Sprecher von Google Public Sector bezeichnete den Vertrag als Ergänzung eines bestehenden Abkommens vom November, das bisher nur nicht-klassifizierte Einsätze abdeckte.

Die Unterzeichnung fiel auf denselben Tag, an dem mehr als 600 Google-Mitarbeiter einen offenen Brief an CEO Sundar Pichai richteten. Viele der Unterzeichner stammen laut Washington Post aus dem KI-Forschungslabor DeepMind. Sie forderten, jegliche klassifizierte Zusammenarbeit mit dem Pentagon abzulehnen.

"Wir wollen, dass KI der Menschheit nützt, und nicht, dass sie auf unmenschliche oder extrem schädliche Weise eingesetzt wird", schrieben die Angestellten. Klassifizierte Aufträge verhinderten, dass Google-Vertreter überhaupt erfahren, wie die Technologie verwendet wird. "Die einzige Möglichkeit sicherzustellen, dass Google nicht mit solchen Schäden in Verbindung gebracht wird, ist die Ablehnung jeglicher klassifizierter Arbeitsaufträge", heißt es in dem Brief weiter.

Google erklärte, man bleibe dem Konsens verpflichtet, dass KI nicht für "inländische Massenüberwachung oder autonome Bewaffnung ohne angemessene menschliche Aufsicht" eingesetzt werden solle.

Juristen halten Sicherheitsklauseln für rechtlich wirkungslos

Der Vertrag enthält zwar die Formulierung, das KI-System sei "nicht vorgesehen für und sollte nicht verwendet werden für inländische Massenüberwachung oder autonome Waffen ohne angemessene menschliche Aufsicht und Kontrolle". Zugleich heißt es laut The Information an anderer Stelle: "Dieses Abkommen verleiht kein Recht, rechtmäßige operative Entscheidungen der Regierung zu kontrollieren oder ein Veto dagegen einzulegen."

Charlie Bullock, Jurist am Institute for Law and AI, hält diese Formulierung für rechtlich wirkungslos: Sie drücke lediglich aus, dass ein solcher Einsatz unerwünscht wäre, er stelle aber keinen Vertragsbruch dar. Amos Toh vom Brennan Center der NYU ergänzt, "angemessene menschliche Aufsicht" bedeute nicht zwingend, dass ein Mensch zwischen Zielidentifikation und Schussbefehl eingebunden sein müsse. Das Pentagon habe den Einsatz vollautonomer Waffensysteme nicht ausgeschlossen.

Googles Vertragsbedingungen räumen dem Pentagon offenbar mehr Spielraum ein als vergleichbare Vereinbarungen: OpenAI behielt bei seinem im Februar geschlossenen Abkommen laut eigenem Blogpost die volle Kontrolle über seinen "Safety Stack". Google verpflichtet sich laut The Information hingegen, seine Sicherheitsfilter auf Anfrage der Regierung anzupassen. Neben Google und OpenAI verfügt auch Elon Musks xAI über einen klassifizierten KI-Vertrag mit dem Pentagon.

Vor kurzem war Anthropic im Februar vom Pentagon ausgeschlossen worden, weil das Unternehmen vertragliche Garantien gegen Massenüberwachung und autonome Waffen verlangt hatte. Anthropic klagt derzeit gegen diese Entscheidung. Damals forderten über 900 Google-Angestellte öffentlich, Anthropics rote Linien zu unterstützen. Bereits 2018 hatte Google nach dem Protest tausender Mitarbeiter seinen Project-Maven-Vertrag mit dem Pentagon nicht verlängert und sich verpflichtet, KI nie für Waffen oder Überwachung einzusetzen. Im vergangenen Jahr strich das Unternehmen diese Selbstbeschränkungen.

Project Maven lebte weiter und wird heute von Palantir vertrieben. Es kam unter anderem zur Zielsuche im Iran-Krieg zum Einsatz – unterstützt von Anthropics Claude-Modell.