Angst erzeugt Aufmerksamkeit, und OpenAI weiß diesen Effekt regelmäßig zu nutzen. Doch vor Gericht will das Unternehmen einen KI-Experten als Untergangspropheten diskreditieren, dessen KI-Warnungen der eigene CEO Sam Altman jahrelang selbst verbreitet hat, als sie noch der eigenen Sache dienten.
OpenAI hat der kanadischen Regierung in einem Schreiben an KI-Minister Evan Solomon zugesagt, seine Sicherheitsprotokolle zu verschärfen. Anlass ist eine tödliche Schießerei an einer Schule in Tumbler Ridge, British Columbia, bei der acht Menschen starben. Der Verdächtige, Jesse Van Rootselaar, hatte zuvor mit ChatGPT interagiert. OpenAI-Angestellte stuften die Interaktionen als mögliche Warnung vor realer Gewalt ein. Das Unternehmen sperrte das Konto, informierte aber nicht die Polizei.
Laut Wall Street Journal will OpenAI nun flexiblere Kriterien für die Weitergabe von Kontodaten an Behörden einführen, direkte Kontakte zur kanadischen Polizei aufbauen und seine Systeme zur Umgehungserkennung verbessern. OpenAI-Vizepräsidentin Ann O'Leary sagte, man hätte das Konto nach den neuen Regeln gemeldet. Kanadas Justizminister Sean Fraser drohte mit neuen KI-Regulierungen, sollte OpenAI nicht schnell handeln.
Große Sprachmodelle lernen aus Webdaten. Doch welche Seiten im Trainingsdatensatz landen, hängt stark vom HTML-Extraktor ab. Forscher bei Apple, Stanford und der University of Washington zeigen, dass drei gängige Werkzeuge überraschend unterschiedliche Teile des Webs erschließen: Nur 39 Prozent der Seiten überleben bei mehr als einem Extraktor.
Anthropic will das US-Verteidigungsministerium verklagen. Kriegsminister Pete Hegseth will das KI-Unternehmen als Lieferkettenrisiko einstufen, eine Maßnahme, die bisher nur gegen ausländische Gegner der USA eingesetzt wurde. Laut Anthropic ist diese Einordnung gegen das Gesetz, und man werde jede Anschuldigung vor Gericht anfechten.
Wir glauben, dass diese Einstufung sowohl rechtlich unhaltbar ist als auch einen gefährlichen Präzedenzfall für jedes amerikanische Unternehmen schaffen würde, das mit der Regierung verhandelt.
Anthropic
Hegseth hatte zudem gesagt, dass auch Militärzulieferer keine Geschäfte mehr mit Anthropic machen dürften. Laut Anthropic fehlt ihm dafür die gesetzliche Grundlage: Die Einstufung nach 10 USC 3252 betreffe nur die Nutzung von Claude in direkten Aufträgen des Kriegsministeriums. Für Privatkunden, kommerzielle Verträge und den Zugang über API oder claude.ai ändere sich nichts.
Auslöser des Konflikts ist ein gescheiterter Verhandlungsprozess: Anthropic weigert sich, Claude für massenhafte Inlandsüberwachung und vollautonome Waffen freizugeben. Heutige KI-Modelle seien dafür zu unzuverlässig, Massenüberwachung verletze Grundrechte. OpenAI hat den Deal übernommen.
OpenAI hat eine Vereinbarung mit dem Pentagon getroffen, nur Stunden nachdem Anthropic von Regierungsaufträgen ausgeschlossen wurde. Angeblich agiert OpenAI dabei nach denselben Sicherheitsprinzipien wie Anthropic. Dennoch muss es Unterschiede geben, die aus den bisherigen Ankündigungen nicht eindeutig hervorgehen.
Anthropics Streit mit dem Pentagon geht auch an Google und OpenAI nicht spurlos vorbei. Mehr als 100 Google-KI-Mitarbeiter haben laut der New York Times einen Brief an Jeff Dean, den Chefwissenschaftler von Google Deepmind, geschickt. Dean hatte sich schon zuvor zugunsten von Anthropic ausgesprochen.
Darin fordern sie, dass Google dieselben roten Linien wie Anthropic zieht: keine Überwachung amerikanischer Bürger und keine autonomen Waffen ohne menschliche Beteiligung durch das KI-Modell Gemini. Zusätzlich veröffentlichten fast 50 OpenAI- und 175 Google-Mitarbeiter einen offenen Brief, der die Verhandlungstaktik des Pentagons kritisiert.
Wir hoffen, dass unsere Führungskräfte ihre Differenzen beiseitelegen und gemeinsam weiterhin die aktuellen Forderungen des Kriegsministeriums ablehnen, unsere Modelle für die inländische Massenüberwachung und das autonome Töten von Menschen ohne menschliche Aufsicht einsetzen zu dürfen.
Zitat aus dem offenen Brief "We will not be divided"
Parallel dazu teilte OpenAI-Chef Sam Altman laut dem Wall Street Journal seinen Angestellten mit, dass OpenAI an einem eigenen Vertrag mit dem Pentagon arbeite. Dieser solle die gleichen Sicherheitsleitplanken beibehalten, die Anthropic fordert. Altman hofft, eine Lösung zu finden, die auch für andere KI-Unternehmen funktioniert.
