- Einschätzung von Nando de Freitas ergänzt
Update vom 23. November 2024:
Der ehemalige DeepMind-Spitzenforscher Nando de Freitas hat auf der Plattform X die in den E-Mails enthaltenen Vorwürfe gegen DeepMind scharf zurückgewiesen. "Das meiste, was in diesen Briefen über DeepMind gesagt wird, ist absoluter Unsinn. Wir waren einfach Wissenschaftler, die versuchten, Intelligenz zu verstehen und Gutes damit zu bewirken", schreibt de Freitas.
Der Forscher, der damals direkt an DeepMind-Chef Demis Hassabis berichtete, wirft Musk und der OpenAI-Führung vor, DeepMinds Offenheit missbraucht zu haben: "Wir öffneten unsere Labore für all diese Leute, besonders für Elon, und sie missbrauchten unsere Offenheit."
De Freitas sieht in den nun veröffentlichten E-Mails ein Argument für mehr Offenheit in der KI-Entwicklung: "Die Menschen müssen entscheiden, nicht ein paar Milliardäre, die mit Wissenschaftlern spielen."
Sutskever habe richtig gelegen, als er warnte, dass die Wissenschaftler zwar das Training, die Ideen und den Code geliefert hätten, ihre einzige verbleibende Macht aber der Protest in Apps sei, die denselben Milliardären gehörten, so De Freitas. Er arbeitete mehr als zehn Jahre bei Deepmind und ist aktuell VP bei Microsoft AI.
Ursprünglicher Artikel vom 17. November 2024:
Elon Musk wollte nicht, dass OpenAI Microsofts "Marketing-Schlampe" wird
Neue E-Mails aus dem Rechtsstreit zwischen Elon Musk und Sam Altman offenbaren die Geschichte hinter Musks Ausstieg bei OpenAI - von idealistischen Anfängen bis zum abrupten Ende.
Neu veröffentlichte E-Mails aus einem laufenden Rechtsstreit zwischen Elon Musk und OpenAI-CEO Sam Altman dokumentieren erstmals detailliert die Spannungen, die zum Bruch zwischen dem Tech-Milliardär und dem von ihm mitgegründeten KI-Unternehmen führten.
Die Korrespondenz zeigt, dass Musk von Beginn an von der Sorge getrieben war, Google und dessen KI-Labor DeepMind könnten eine zu dominante Position einnehmen.
"Deepmind bereitet mir extreme mentale Belastung. Wenn sie gewinnen, wird es wirklich schlechte Nachrichten sein mit ihrer Ein-Geist-beherrscht-die-Welt-Philosophie", schrieb Musk im Februar 2016 an OpenAI-Mitgründer Greg Brockman.
Musk und Altman gründeten OpenAI Ende 2015 als gemeinnützige Organisation mit dem Ziel, künstliche Intelligenz zum Wohle der Menschheit zu entwickeln. "Wenn es ohnehin passieren wird, wäre es gut, wenn jemand anderes als Google es zuerst schafft", schrieb Sam Altman im Mai 2015 an Elon Musk.
Musk wollte OpenAI nicht wie Microsofts "Marketing-Schlampe" aussehen lassen
Ein erster größerer Konflikt bahnte sich im September 2016 an, als OpenAI mit Microsoft über Rechenkapazitäten verhandelte. Microsoft bot Ressourcen im Wert von 60 Millionen Dollar für 10 Millionen Dollar an, verlangte aber im Gegenzug, dass OpenAI Microsofts KI-Plattform CNTK "evaluiert" und "evangelisiert".
Schließlich einigten sich die Parteien auf eine Zahlung von 50 Millionen Dollar ohne weitere Bedingungen.
Musk stimmte zu, wenn Microsoft den Deal nicht für PR-Zwecke nutzen würde: "Es wäre weit mehr als 50 Millionen Dollar wert, nicht wie Microsofts Marketing-Schlampe auszusehen", schrieb Musk an OpenAIs damaligen Stabschef Sam Teller.
Sutskever und Brockman kritisieren Machtstreben von Musk und Altman
Die Situation spitzte sich 2017 zu, als die OpenAI-Führung um Ilya Sutskever und Greg Brockman in einer E-Mail mit dem Titel "Ehrliche Gedanken" Bedenken äußerte, Musk könnte als CEO einer geplanten gewinnorientierten Tochtergesellschaft "unilaterale absolute Kontrolle" über eine mögliche künstliche Superintelligenz (AGI) erlangen.
Laut OpenAI wollte Musk bei einer Umwandlung in eine For-Profit-Struktur die Aktienmehrheit, die anfängliche Kontrolle über den Vorstand und die Position des CEO.
Die gegenwärtige Struktur bietet dir einen Weg, an dessen Ende du die absolute einseitige Kontrolle über die AGI haben wirst. Obwohl du gesagt hast, dass du die endgültige AGI nicht kontrollieren willst, hast du uns während der Verhandlungen gezeigt, dass du die absolute Kontrolle sehr wichtig nimmst.
Du hast zum Beispiel gesagt, dass du CEO des neuen Unternehmens sein musst, damit jeder weiß, dass du derjenige bist, der das Sagen hast, obwohl du auch gesagt hast, dass du es hasst, CEO zu sein, und dass du es vorziehst, nicht CEO zu sein.
Zitat aus der Email von Ilya Sutskever und Greg Brockman an Elon Musk, 20. September 2017
Musk, der OpenAI mitgegründet hatte, um genau solche Machtkonzentrationen zu verhindern, reagierte mit einem Ultimatum an Sutskever und Brockman, die er schon zuvor loswerden wollte: "Leute, ich habe genug. Das ist der letzte Strohhalm. Entweder macht ihr etwas auf eigene Faust oder macht mit OpenAI als gemeinnütziger Organisation weiter."
Sutskever und Brockman äußerten in derselben E-Mail auch Misstrauen gegenüber Sam Altmans Ambitionen, CEO von OpenAI zu werden. Ihnen sei nicht klar, warum ihm der CEO-Titel so wichtig sei, seine Motivation sei nicht transparent, womöglich gebe es politische Motive.
Sutskever war im November 2024 an Altmans zwischenzeitlichem Rauswurf beteiligt und verließ OpenAI im Mai 2024, um sein eigenes ASI-Start-up zu gründen. Brockman arbeitet wieder bei OpenAI.
Der endgültige Bruch
Anfang 2018 verschärfte sich Musks Kritik an OpenAIs Strategie weiter. Das Unternehmen sei im Vergleich zu Google auf einem "Weg des sicheren Scheiterns". Auch einen Vorschlag von Sam Altman für ein ICO (Initial Coin Offering, Krypto) zur Finanzierung lehnte er als "massiven Glaubwürdigkeitsverlust" ab.
Als letzten Ausweg schlug der Tech-Milliardär vor, OpenAI solle sich Tesla anschließen - der "einzige Weg, der auch nur ansatzweise mit Google mithalten könnte." So bestünde wenigstens eine Chance größer als Null, gegen Google anzukommen.
Der Vorschlag von Tesla Anfang Februar scheiterte an der Ablehnung durch OpenAI. Kurz darauf, im Februar 2018, trat Musk aus dem Vorstand von OpenAI zurück. OpenAI erklärte damals, Musks Rücktritt habe mit der Vermeidung von Interessenkonflikten in seiner Rolle als CEO von Tesla zu tun. Angesichts der zahlreichen Spannungen zwischen den Parteien erscheint diese Erklärung heute stark beschönigend.
Als OpenAI im März 2019 ein gewinnorientiertes Unternehmen gründete, um Milliarden in Rechenzentren und Talente zu investieren, gab es erneut E-Mail-Kontakt zwischen den Parteien. Dabei betonte Musk, dass aus der Ankündigung der Umstrukturierung klar hervorgehen müsse, dass er kein finanzielles Interesse an OpenAI habe.
Die Spannungen zwischen Musk und OpenAI halten bis heute an: Musk wirft OpenAI vor, es würde von Microsoft kontrolliert, und verklagt das Unternehmen wegen der nachträglichen Umwandlung in eine gewinnorientierte Organisation. Mit seinem neuen Start-up xAI will Musk bis Ende 2024 das bisher leistungsstärkste KI-Modell auf den Markt bringen und OpenAI übertreffen.
Die E-Mails stammen aus Gerichtsdokumenten im Rechtsstreit zwischen Elon Musk und Sam Altman. Sie wurden im Rahmen des Verfahrens veröffentlicht. Ein Autor der Plattform LessWrong hat sie zusammengestellt.
