OpenAI-Chef Altman will KI-Entwicklung drosseln, aber nicht stoppen

OpenAI-CEO Sam Altman bekräftigt seine Forderung nach einer Verlangsamung der KI‑Entwicklung. Altman fordert einen einheitlichen bundesweiten Rahmen für Sicherheitsanforderungen bei fortschrittlicher KI, betont aber, dass die Branche nicht auf Gesetze warten müsse. OpenAI formuliere inzwischen vorab explizite Sicherheitsnachweise vor KI-Trainingsläufen, die die Fähigkeiten deutlich steigern könnten. Altman ruft andere Unternehmen auf, gemeinsame Standards für Sicherheit und Überwachung zu entwickeln. Mit "Drosseln" meine er nicht "Stoppen": Der Fortschritt werde rasant weitergehen, aber langsamer als technisch möglich.

Das Drosseln wird diese Kosten wert sein; kein noch so großer amerikanischer Wettbewerbsdruck sollte Leichtsinn rechtfertigen oder zulassen, dass die Fähigkeiten der Modelle der Ausrichtung und Überwachung davonlaufen.

Sam Altman, OpenAI

Die Welt müsse darauf vertrauen können, dass amerikanische KI-Unternehmen verantwortungsvoll handeln, besonders angesichts des steileren Fortschritts. Für internationale Koordination benötige man die Hilfe der US‑Regierung. Über das Wochenende hatten sich Anthropic-CEO Dario Amodei, Ex-Deepmind-CEO Demis Hassabis, Microsoft-Chef Satya Nadella und Elon Musk ebenfalls für eine besser kontrollierte KI-Entwicklung ausgesprochen.

Laut The Information laufen zwischen OpenAI, Anthropic und Google schon seit Monaten Hintergrundgespräche über eine Selbstregulierung der KI-Industrie, insbesondere durch eine unabhängige Kontrollinstanz. Meta war offenbar bislang nicht in die Gespräche nicht involviert. Kleinere Anbieter wie Cohere befürchten eine Kartellbildung.