Post für OpenAI CEO Sam Altman: US-Regierung fragt zur KI-Sicherheit nach

Einige Forscher, wie der ehemalige Super-KI-Sicherheitschef Jan Leike, wandten sich mit scharfer Kritik direkt an die Öffentlichkeit. So würde OpenAI die Veröffentlichung von Produkten auf Kosten der Sicherheit vorantreiben.

Das neue KI-Modell GPT-4o sei nur eine Woche in der Sicherheitsprüfung gewesen. Es kann durch die Formulierung von Prompts in der Vergangenheitsform dazu gebracht werden, kritische Inhalte wie die Bauanleitung für eine Bombe zu generieren.

Die Senatoren weisen darauf hin, dass OpenAI sich öffentlich zu einer sicheren und verantwortungsvollen Entwicklung von KI bekannt und entsprechende Selbstverpflichtungen gegenüber der Biden-Administration abgegeben habe. Zudem arbeite OpenAI mit US-Behörden zusammen, um KI-gestützte Cybersicherheitstools zum Schutz kritischer Infrastrukturen zu entwickeln.

Die Öffentlichkeit müsse darauf vertrauen können, dass OpenAI seine Systeme sicher entwickelt. Dies betreffe die Integrität der Unternehmensführung und der Sicherheitstests ebenso wie die Beschäftigungspraktiken, die Einhaltung öffentlicher Versprechen und die Cybersicherheitsrichtlinien.

Möglicherweise als Reaktion auf den Brief veröffentlicht OpenAI bei X einige Stellungnahmen, in denen auf das kürzlich gegründete Safety and Security Committee, die durchgesickerten und damit offiziell bestätigten Schritte bis zur AGI, das Preparedness Framework und den Prozess der Überarbeitung der kritisierten Arbeitsverträge verwiesen wird, die Rechte ehemalige Mitarbeitender als Whistleblower einschränken sollen.