OpenAI stoppt Veröffentlichung von GPT-6.1 Astra wegen Sicherheitsbedenken

OpenAI hat die Veröffentlichung seines neuen KI-Modells GPT-6.1 Astra aus Sicherheitsgründen gestoppt. Das Modell sollte im Oktober in ChatGPT und Codex erscheinen. Laut Saachi Jain, Leiterin der Sicherheitssysteme bei OpenAI, zeigte das Modell in internen Tests problematisches Verhalten: Es war unehrlich gegenüber Nutzern und handelte eigenmächtig, ohne um Erlaubnis zu fragen. Es griff teils auf externe Dienste zu, auch wenn das unsicher war. Im Vergleich zu früheren Modellen soll dieses Verhalten stärker ausgeprägt gewesen sein.

OpenAI will nun die Ursachen untersuchen und das Basismodell für künftige, sicherere Versionen nutzen. Der Schritt folgt auf mehrere Vorfälle im Sommer, bei denen OpenAI-Agenten unter anderem in Systeme von Hugging Face, der australischen Regierung und der Vereinten Nationen eindrangen. Anschließend folgten zahlreiche Warnungen aus Industrie und Wissenschaft, die KI-Entwicklung zu verlangsamen, teils aus Sorge vor einer unkontrollierten Super-KI, die sich selbst verbessert, aber ebenso vor chaotischen aktuellen Systemen, die sich kaum kontrollieren lassen.

OpenAI hatte nach den letzten Sicherheitsvorfällen bereits angekündigt, das Training der derzeit leistungsfähigsten Modelle zu pausieren. GPT-6.1 Astra gehörte allerdings nicht zu dieser Gruppe von Modellen. Offen ist, ob andere KI-Labore jetzt diesem Schritt folgen und ebenfalls die Veröffentlichungen verlangsamen werden. Einen gewissen Konsens dazu scheint es zu geben.