Drei Entlassungen und ein weiterer Abgang: Unruhe im Sicherheitsteam von OpenAI

Laut dem Wall Street Journal hat sich OpenAI von drei Forschern getrennt, die vertrauliche Informationen an eine externe KI-Sicherheitsorganisation weitergegeben haben sollen. Bei den Betroffenen handelt es sich laut der Zeitung um Jasmine Wang, Tomek Korbak und Mikita Balesni.

Korbak arbeitete im Sicherheitsteam, Wang und Balesni im Bereich Alignment. Ein OpenAI-Sprecher sagte, eine Untersuchung habe Verstöße gegen die Regeln zum Umgang mit sensiblen Firmeninformationen bestätigt. Die Namen bestätigte OpenAI nicht. Welche Informationen an welche Organisation gingen, ist nicht bekannt.

Korbak war allerdings OpenAIs technischer Ansprechpartner für METR und Redwood Research. Beide Organisationen sollten untersuchen, wie KI-Agenten von OpenAI Sicherheitskontrollen umgingen und in externe Systeme wie Hugging Face eindrangen. Einen Zusammenhang mit den Entlassungen stellt das Wall Street Journal aber nicht her.

Laut einem anonymen X-Account hat mit David Robinson kurz darauf ein vierter Sicherheitsforscher OpenAI verlassen. Alle vier hatten sich im September öffentlich zu KI-Risiken geäußert. Korbak schrieb, er sei mit vielem unzufrieden, was OpenAI tue. Balesni hält es für über zehn Prozent wahrscheinlich, dass KI alle Menschen tötet. Wang unterschrieb eine Petition für langsamere KI-Entwicklung. Robinson stimmte der Aussage zu, das Rennen um sich selbst verbessernde KI sei womöglich wahnsinnig.