Das US-amerikanische National Institute of Standards and Technology (NIST) hat Vereinbarungen mit Anthropic und OpenAI getroffen, um gemeinsam an der Erforschung, Prüfung und Bewertung der Sicherheit künstlicher Intelligenz zu arbeiten. Die Vereinbarungen zielen darauf ab, sichere und vertrauenswürdige KI-Innovationen zu fördern.
Die Absichtserklärungen mit den beiden Unternehmen schaffen laut NIST den Rahmen für den Zugang des US AI Safety Institute zu wichtigen neuen Modellen der Unternehmen vor und nach der Veröffentlichung. Die Vereinbarungen ermöglichen eine gemeinsame Forschung zur Bewertung von Sicherheitsfähigkeiten und -risiken sowie von Methoden zur Eindämmung dieser Risiken.
"Sicherheit ist entscheidend, um bahnbrechende technologische Innovationen voranzutreiben. [...] Diese Vereinbarungen sind nur der Anfang, aber sie sind ein wichtiger Meilenstein auf dem Weg zu einer verantwortungsvollen Gestaltung der Zukunft der KI", sagt Elizabeth Kelly, Direktorin des U.S. AI Safety Institute.
Darüber hinaus plant das U.S. AI Safety Institute, Anthropic und OpenAI Feedback zu möglichen Sicherheitsverbesserungen ihrer Modelle zu geben, in enger Zusammenarbeit mit seinen Partnern am U.K. AI Safety Institute.
Das U.S. AI Safety Institute baut auf der mehr als 120-jährigen Tradition des NIST auf, Technologien und Standards weiterzuentwickeln. Die Bewertungen im Rahmen der Vereinbarungen mit Anthropic und OpenAI sollen die Arbeit des NIST im Bereich der KI vorantreiben und auf der KI-Verordnung der Biden-Harris-Regierung sowie freiwilligen Verpflichtungen führender KI-Unternehmen aufbauen.
Anthropic und OpenAI sind bei KI-Sicherheit auf Kollisionskurs
Obwohl das NIST hier die beiden großen amerikanischen KI-Start-ups gemeinsam anspricht, scheint die Marktrealität, zumindest was die Sicherheit betrifft, eher zugunsten von Anthropic auszufallen.
Zuletzt verließen zahlreiche Sicherheitsforscher OpenAI und heuerten teilweise bei Anthropic an, insbesondere die beiden hochrangigen Experten Jan Leike, ehemaliger Super-KI-Sicherheitsforscher bei OpenAI, und OpenAI-Mitbegründer John Schulman.
Anthropic unterstützt auch den kalifornischen Gesetzesentwurf SB 1047, der die Gefahren von hoch entwickelter KI eindämmen soll. OpenAI lehnt das Gesetz ab, da diese Fragen auf nationaler Ebene geregelt werden sollten.
Insofern ist die Kooperation von OpenAI mit dem NIST auch eine Stellungnahme in der kalifornischen Debatte. OpenAI CEO Sam Altman begrüßt die Zusammenarbeit mit dem NIST auf X. Es sei aus "vielen Gründen" wichtig, dass dies auf nationaler Ebene geschehe.
