Igor Babuschkin, Mitgründer von Elon Musks KI-Start-up xAI, zieht sich zurück und gründet einen eigenen Fonds für KI-Sicherheit. Sein Abschied folgt auf mehrere Kontroversen rund um xAIs KI-Produkt Grok.
Igor Babuschkin, Mitgründer des von Elon Musk gegründeten KI-Start-ups xAI, hat seinen Rücktritt bekannt gegeben. In einem Beitrag auf X erklärte Babuschkin, dass er das Unternehmen verlassen habe, um mit „Babuschkin Ventures“ einen eigenen Risikokapitalfonds zu starten. Der Fonds soll Start-ups unterstützen, die sich mit KI-Sicherheit und agentischen Systemen befassen.
Babuschkin war bei xAI maßgeblich für Engineering, Infrastruktur und angewandte KI-Projekte verantwortlich. Er habe, so schreibt er, viele der frühen Tools entwickelt, die für Trainingsprozesse notwendig waren. Besonders hebt er den Aufbau des „Memphis Superclusters“ hervor – eines KI-Supercomputers, der laut Babuschkin in nur 120 Tagen entstand. Die Umsetzung sei nur durch „manischen“ Einsatz und ein hohes Maß an Teamgeist möglich gewesen.
xAI Kontroversen und ein Familienfoto
Babuschkin betont in seinem Abschied, dass er sich künftig verstärkt der Entwicklung sicherer und menschengerechter KI widmen wolle. Besonders prägend sei für ihn ein Gespräch mit Max Tegmark, Gründer des Future of Life Institute, gewesen. Bei einem gemeinsamen Abendessen habe Tegmark ihm ein Foto seiner beiden jungen Söhne gezeigt und die Frage aufgeworfen, wie sich KI so gestalten lasse, dass kommende Generationen in einer sicheren und förderlichen Umgebung aufwachsen können. Tegmark ist einer der zentralen Forscher, die kurz nach der Veröffentlichung von GPT-4 einen Aufruf zu einer Pause im KI-Training gestartet haben.
Diese persönliche Begegnung habe Babuschkin nach eigenen Angaben tief bewegt und ihm vor Augen geführt, wie entscheidend die Verantwortung bei der Gestaltung fortschrittlicher KI-Systeme ist. Daher will er mit Babuschkin Ventures gezielt Forschung und Start-ups fördern, die sich mit Sicherheitsaspekten und ethischen Herausforderungen intelligenter, agentischer Systeme beschäftigen, um einen Beitrag zur positiven gesellschaftlichen Entwicklung zu leisten.
Sein Abschied erfolgt in einem schwierigen Moment für xAI: In den vergangenen Monaten geriet das Unternehmen in die Kritik, nachdem der firmeneigene Chatbot „Grok“ mehrfach kontroverse Aussagen tätigte. Zuletzt sorgte eine neue Funktion für Aufsehen, mit der Nutzer KI-generierte Nacktvideos prominenter Personen erstellen konnten.
Eine direkte Verbindung zwischen seinem Rücktritt und den jüngsten Skandalen bei xAI stellt Babuschkin nicht her. Der zeitliche Kontext legt jedoch nahe, dass interne Spannungen und ethische Fragen bei xAI eine Rolle gespielt haben könnten. Das Unternehmen stand zuletzt auch aus Reihen von Sicherheitsforschern in der Kritik, weil es anders als die Konkurrenz keine Model- bzw. System-Karten veröffentlicht, in denen KI-Unternehmen genauer über ihre Sicherheitstests auskunft geben.
Vor der Gründung von xAI arbeitete Babuschkin bei OpenAI und DeepMind. Dort war er u. a. technischer Leiter beim Projekt AlphaStar, einem KI-System, das professionelle StarCraft-Spieler besiegte.
