Nach Leaks und massiver Kritik: OpenAI ergänzt Pentagon-Vertrag um Schutzklauseln

Nachdem OpenAI Anthropics Pentagon-Deal übernommen hat, wird die ChatGPT-Firma intern und extern scharf kritisiert.

Auch OpenAI-Angestellte äußern bei X öffentlich Zweifel an dem Deal (Hintergrund). Manche ChatGPT-Nutzer kündigten ihren Account und wechselten zu Anthropics Claude, das es im Apple App Store auf Platz 1 schaffte. Ein Wirkungstreffer.

Jetzt will OpenAI seinen Vertrag mit dem US-Verteidigungsministerium (DoW) um klare Schutzklauseln ergänzen. CEO Sam Altman veröffentlicht auf X einen zuerst intern veröffentlichten Beitrag mit den Details.

Die wichtigste Ergänzung: Das KI-System darf nicht absichtlich zur Überwachung von US-Bürgern eingesetzt werden, auch nicht nachgelagert als Analyse-Tool nach dem Kauf kommerzieller personenbezogener Daten.

Das Verteidigungsministerium bestätigt zudem, dass Geheimdienste wie die NSA die OpenAI-Dienste nicht nutzen dürfen. Dafür wäre ein separater Vertrag nötig.

Zudem betont Altman, dass die Technologie für viele Einsatzbereiche bisher nicht bereit sei und OpenAI die nötigen Abwägungen für einen sicheren Einsatz noch nicht vollständig verstehe. Man werde diese Fragen langsam und mit technischen Schutzmaßnahmen gemeinsam mit dem Verteidigungsministerium klären. Grundsätzlich wolle OpenAI über demokratische Prozesse arbeiten und würde verfassungswidrige Anordnungen verweigern.

Altman räumt ein, dass die ursprüngliche Bekanntgabe am Freitag überstürzt und schlecht kommuniziert war, und spricht sich erneut dafür aus, dass Anthropic nicht als sicherheitskritischer Anbieter (SCR) eingestuft wird und dieselben Vertragsbedingungen erhalten sollte.

OpenAI reagiert auf wachsweichen Pentagon-Deal

OpenAI-Forscher Noam Brown, der Kopf hinter dem Durchbruch mit Reasoning-Modellen im vergangenen Jahr, unterstützt die Nachbesserungen öffentlich auf X. Er betont, die ursprüngliche Vertragssprache habe offene Fragen gelassen, insbesondere zu neuen Überwachungsmöglichkeiten durch KI. Die Welt solle sich nicht auf das Vertrauen in KI-Firmen oder Geheimdienste verlassen müssen, schreibt Brown.

Stattdessen müssten diese Lücken über demokratische Prozesse geschlossen werden, bevor ein Einsatz bei Geheimdiensten erfolge. Brown warnt vor einem schleichenden Gewöhnungseffekt, bei dem demokratische Prozesse für wichtige politische Entscheidungen umgangen werden.

Er kündigt zudem an, sich persönlich stärker in die KI-Politik bei OpenAI einzubringen – gerade angesichts der schnellen Fortschritte in der Forschung sei es wichtig, dass Forscher in politische Entscheidungen eingebunden werden.

Dass OpenAI hier so hart auf die Bremse tritt, dürfte auch zahlreichen Leaks übers Wochenende geschuldet sein. Diese beschreiben, wie die KI-Firma den Deal mit dem Pentagon aktiv vorangetrieben hat, während Anthropic noch verhandelte.

Laut New York Times rief Altman Pentagons Technologiechef Emil Michael bereits einen Tag nach dessen Ultimatum an Anthropic an. Innerhalb eines Tages stand ein Rahmenwerk. OpenAI akzeptierte, dass seine KI für "alle rechtmäßigen Zwecke" eingesetzt werden kann, obwohl Altman zuvor öffentlich Solidarität mit Anthropic signalisiert und ebenfalls den Einsatz für Massenüberwachung in den USA und in autonomen Waffen abgelehnt hatte.