Neue Details zum Drama um Sam Altmans Entlassung bei OpenAI zeigen: Investor Peter Thiel warnte den CEO schon Wochen vorher vor internen Konflikten. Die Spannungen zwischen KI-Sicherheit und wirtschaftlichen Interessen waren größer als bisher bekannt.
Laut einem ausführlichen Bericht des Wall Street Journal, basierend auf dem Buch "The Optimist: Sam Altman, OpenAI, and the Race to Invent the Future" der WSJ-Reporterin Keach Hagey, warnte der Tech-Investor Peter Thiel OpenAI-CEO Sam Altman bereits im November 2023 vor einem drohenden Konflikt, kurz vor dessen Rauswurf.
Bei einem Dinner in Los Angeles machte Thiel, der als Altmans Mentor gilt, deutlich, dass die "Effective Altruism"-Bewegung (EA) innerhalb von OpenAI zu einem Problem werden könnte.
"Du verstehst nicht, wie Eliezer die Hälfte deiner Mitarbeiter so programmiert hat, dass sie an dieses Zeug glauben", zitiert das WSJ Thiels Warnung an Altman. Thiel bezog sich dabei auf den KI-Forscher Eliezer Yudkowsky, den er früher finanziell unterstützt hatte und der öffentlich vor den Gefahren künstlicher Intelligenz warnte.
Altman tat bei dem Dinner Thiels Warnungen vor einer Übernahme durch die "AI safety people" mit einem Verweis auf Elon Musk ab, der OpenAI 2018 in Unfrieden verließ. Musk und Yudkowsky warnten immer wieder vor einer für die Menschheit existenziellen Bedrohung durch fortschrittliche KI. Auch die Gründung von Anthropic 2021 durch sieben ehemalige OpenAI-Angestellte soll auf Meinungsverschiedenheiten beim Thema KI-Sicherheit zurückgehen.
2024 kam es dann bei OpenAI zu einem großen Aderlass im Bereich der KI-Sicherheit. Zu den prominentesten Abgängen zählen Chefwissenschaftler Ilya Sutskever und Jan Leike, die das "Superalignment"-Team für die Ausrichtung einer möglichen Super-KI leiteten.
Angeblich gab es fundamentale Meinungsverschiedenheiten über den Umgang mit Risiken einer möglichen Superintelligenz. Jan Leike kritisierte öffentlich, dass OpenAI die Sicherheitsaufgaben nicht ernst genug nehme. Das Sicherheitsteam hätte "gegen den Wind segeln" und um Rechenleistung kämpfen müssen.
Tiefgreifende Vertrauenskrise im Management
Die Spannungen innerhalb von OpenAI waren offenbar größer als bisher bekannt. Dem WSJ zufolge sammelten die CTO Mira Murati und der Chefwissenschaftler Ilya Sutskever über Monate Beweise für Altmans problematischen Führungsstil. Sie dokumentierte, wie Altman Mitarbeiter gegeneinander ausspielte und wichtige Sicherheitsrichtlinien umging.
Bei der Einführung von GPT-4-Turbo soll Altman dem Board falsche Informationen über Sicherheitsprüfungen vorgelegt haben. Auch die Struktur des OpenAI Start-up Funds, der sich in Altmans Privatbesitz befand, wurde dem Board verschwiegen.
Als Murati diese Probleme direkt bei Altman ansprach, reagierte dieser dem WSJ zufolge mit einer ungewöhnlichen Maßnahme: Er brachte wochenlang die Personalchefin zu ihren Einzelgesprächen mit, bis Murati schließlich erklärte, sie werde ihr Feedback nicht mit dem Board teilen.
Bei GPT-4o - das nach dem OpenAI-Drama im Mai 2024 veröffentlicht wurde - gab es ebenfalls Berichte über überhastete Sicherheitstests.
Dramatische Tage nach monatelanger Vorbereitung
Die Entscheidung zur Entlassung Altmans fiel dem WSJ zufolge in geheimen Videocalls von vier der sechs Board-Mitglieder. Neben den unabhängigen Direktoren war auch Mitgründer Ilya Sutskever involviert, der zwei umfangreiche Dokumente über Altmans Fehlverhalten zusammengestellt hatte.
Problematisch war zudem die Machtdynamik zwischen Altman und seinem engen Verbündeten Greg Brockman. Laut Murati untergrub Brockman ihre Autorität, indem er sich bei Konflikten direkt an Altman wandte, anstatt an sie. Das verstärkte offenbar Muratis Eindruck eines toxischen Führungsstils.
Die Board-Mitglieder entschieden daher, auch Brockman zu entlassen, da sie wussten, dass Murati als Interims-CEO nicht effektiv arbeiten könnte, wenn sie Brockman unterstellt wäre. Um Murati als Quelle zu schützen, beschränkte sich die öffentliche Begründung damals auf die Angabe, dass Altman "nicht immer offen und ehrlich" gewesen sei.
Als jedoch fast die gesamte Belegschaft mit Kündigung drohte, wurden Altman und Brockman schnell zurückgeholt - auch Murati und Sutskever unterschrieben den entsprechenden Brief, obwohl sie zuvor die Haupttreiber seiner Entlassung waren. Sutskever soll überrascht gewesen sein, dass die Belegschaft Altman zurückwollte - seine Erwartung war, dass sie sich über den Rauswurf freuen würde.
Muratis frühere Aussage, sie habe nichts mit dem Rauswurf von Sam Altman zu tun gehabt, steht im Widerspruch zur Darstellung des WSJ. Das systematische Sammeln von Beweisen gegen Altman spricht für eine aktive Beteiligung. Schon vor dem WSJ-Bericht gab es Insider-Informationen, dass das Thema KI-Sicherheit zu Altmans Entlassung führte. Murati und Sutskever haben mittlerweile eigene KI-Start-ups gegründet.
