OpenAI und das Los Alamos National Laboratory (LANL) wollen gemeinsam erforschen, wie KI-Modelle von Wissenschaftlern im Labor sicher eingesetzt werden können.
Ziel der Partnerschaft ist es laut OpenAI, zu verstehen, wie multimodale KI-Modelle wie GPT-4o, die fortschrittliche Bild- und Sprachfunktionen bieten, von Wissenschaftlern in Laborumgebungen sicher eingesetzt werden können, um die biowissenschaftliche Forschung voranzutreiben.
Die Kooperation folgt einer Executive Order des Weißen Hauses zur sicheren Entwicklung und Nutzung von KI. Darin werden die nationalen Labore des US-Energieministeriums aufgefordert, die Fähigkeiten von Frontier-KI-Modellen, einschließlich biologischer Fähigkeiten, zu evaluieren.
Im Rahmen der Partnerschaft wird eine Evaluierungsstudie durchgeführt. Anfänger und Fortgeschrittene lösen im Labor experimentelle Standardaufgaben, die als "Stellvertreter für komplexere Aufgaben" dienen, die sowohl im militärischen als auch im zivilen Bereich eine Rolle spielen können.
Die Studie baut auf bestehenden Arbeiten von OpenAI zu biologischen Bedrohungsrisiken auf und folgt dem "Preparedness Framework", das den Ansatz von OpenAI zur Überwachung, Bewertung, Vorhersage und Abwehr von Modellrisiken beschreibt.
Mira Murati, CTO von OpenAI, bezeichnete die Partnerschaft als "natürliche Weiterentwicklung unserer Mission, die wissenschaftliche Forschung voranzutreiben und gleichzeitig Risiken zu verstehen und zu mindern".
Das Los Alamos National Laboratory (LANL) ist eines der führenden nationalen Laboratorien der USA und bekannt für seine Forschung im Bereich der Kernwaffen. Es wurde 1943 als geheime Einrichtung zur Entwicklung der ersten Atombombe im Rahmen des Manhattan-Projekts gegründet.
OpenAI hofft, dass die Partnerschaft dazu beitragen wird, neue Standards für die Sicherheit und Effizienz von KI in der Wissenschaft zu setzen.
Kritiker dürften befürchten, dass die KI-Forschung im Bereich der Biowissenschaften, insbesondere im Zusammenhang mit Biobedrohungen, missbraucht werden könnte, um etwa biologische Waffen zu entwickeln.
OpenAI hat sich erst vor Kurzem für militärische Kooperationen geöffnet. Jetzt heißt es, dass KI-Technologie von OpenAI nicht dazu verwendet werden darf, Schaden anzurichten. Darunter fällt auch die Entwicklung von Waffen. Ein bekanntes OpenAI-Projekt im militärischen Bereich beschäftigt sich mit Cybersicherheit. Zudem sitzt der ehemalige NSA-Chef im OpenAI-Vorstand.
