OpenAI-CEO Sam Altman warnt vor "YOLO"-Mentalität bei KI-Agenten

OpenAI-CEO Sam Altman warnt vor schleichender Sicherheitskrise durch "YOLO"-Mentalität bei KI-Agenten. Außerdem will die Firma langsamer einstellen.

"Die allgemeine Sorge, die ich habe, ist, dass die Leistungsfähigkeit und der Komfort dieser Systeme so hoch sind und die Fehler vielleicht katastrophal sind […], aber die Fehlerraten so niedrig sind, dass wir in dieses 'Weißt du was, YOLO, hoffentlich geht es gut' hineinrutschen", warnt OpenAI-CEO Sam Altman in einer Fragerunde mit Entwicklern.

Er beobachte selbst bei sich, dass er KI-Agenten trotz anfänglicher Skepsis schnell vollen Zugriff auf seinen Computer gewährt habe, weil sie meistens vernünftig handelten. Anderen Nutzern würde es sicher ähnlich gehen. Altman befürchtet, dass die Gesellschaft durch diese Bequemlichkeit in eine Krise "schlafwandelt", in der wir komplexen Modellen vertrauen, ohne die nötige Sicherheitsinfrastruktur aufgebaut zu haben.

Mit steigender Fähigkeit der Modelle könnten Sicherheitslücken entstehen oder Alignment-Probleme über Wochen oder Monate unbemerkt bleiben. Eine "Big Picture Security Infrastructure" fehle bislang. Das wäre laut Altman "eine großartige Start-up-Idee".

Ein OpenAI-Entwickler hatte zuvor bei X geschrieben, dass er nur noch KI seinen Code schreiben lasse. Er gehe davon aus, dass es bei Unternehmen ähnlich läuft und diese bald die Kontrolle über ihre Codebasen verlieren. Daraus könnten gravierende Sicherheitsprobleme resultieren, die aber letztlich gelöst würden.

OpenAI will langsamer wachsen und ein besseres Schreibmodell liefern

Eine konkrete Unternehmensnachricht: OpenAI plant erstmals, das Wachstum der Belegschaft zu verlangsamen. Man erwarte, mit weniger Menschen viel mehr erreichen zu können. Man wolle nicht aggressiv wachsen, um dann festzustellen, dass KI vieles übernehmen könne, und unangenehme Gespräche führen zu müssen. Kritisch ließe sich anmerken, dass Altman damit eine KI-kompatible Erzählung gefunden hat, um die immensen Personalkosten in Schach zu halten.

Im Talk räumte Altman auch ein, dass GPT-5 beim redaktionellen oder literarischen Schreiben ein Rückschritt gegenüber GPT-4.5 sei, da man sich seit dem Aufkommen von Reasoning-Modellen auf Logik und Code fokussiert habe. Die Zukunft liege jedoch bei sehr guten Allzweckmodellen. Selbst wenn man ein Modell wolle, das großartig im Coding sei, solle es auch elegant schreiben können. Intelligenz sei vielseitig einsetzbar, so Altman.