KI-Entwicklung verlangsamen: OpenAI-Chef Sam Altman und Elon Musk pflichten Anthropic-CEO bei

Auch OpenAI-CEO Sam Altman und Elon Musk sprechen sich für eine KI-Verlangsamung aus. Altman, Musk und Demis Hassabis stimmten zumindest teilweise Anthropic-CEO Dario Amodeis Vorschlägen zu, insbesondere der Forderung nach unabhängiger Überwachung in den Laboren. Musk hatte sich schon vor Jahren als KI-Doomer geoutet.

OpenAI wird laut Altman zudem in diesem Jahr aus Sicherheitsgründen nicht an die Börse gehen, sagte er gegenüber Fortune. Das hatte er schon im Juni intern mitgeteilt. Eine Lesart: OpenAIs Zahlen passen für den Börsengang schlicht nicht, speziell im Vergleich zu Anthropic; freilich kann beides stimmen.

Dass die KI-Branche keinen grundlegenden Konsens hat, zeigt ein Beitrag des Google-Forschers Peyman Milanfar. Selbstverbessernde KI (RSI) sei eine naive Annahme, da die Rückkopplungsschleifen instabil seien. Je stärker sich ein System optimiere, desto tiefer gerate es in Lücken. Verlässliche Evidenz komme nur aus dem Kontakt mit der realen Welt, nicht aus Benchmarks. Amodeis "Speedlimit" brauche es daher nicht: "Systeme, die sich zuverlässig selbst verbessern, werden reguliert, gedämpft, langsam und durch Margen begrenzt sein, die verschwenderisch wirken. Denn Stabilität ist die Geschwindigkeitsbegrenzung."