Ilya Sutskever, Mitbegründer und langjähriger leitender Wissenschaftler von OpenAI, hat zusammen mit zwei Partnern das Start-up Safe Superintelligence Inc. gegründet. Das ehrgeizige Ziel: die Entwicklung einer sicheren Superintelligenz.
Dafür hat sich Ilya Sutskever mit dem Investor Daniel Gross und dem ehemaligen OpenAI-Ingenieur Daniel Levy zusammengetan - das neue Unternehmen heißt entsprechend seiner Mission "Safe Superintelligence Inc" (SSI).
Das Unternehmen mit Sitz in Palo Alto und Tel Aviv hat sich zum Ziel gesetzt, das nach eigenen Angaben "wichtigste technische Problem unserer Zeit" zu lösen: die Entwicklung einer sicheren Superintelligenz. Dazu will es nach eigenen Angaben ein schlankes Team der weltweit besten Ingenieure und Forscher rekrutieren.
"SSI ist unsere Mission, unser Name und unsere gesamte Produkt-Roadmap, denn das ist unser einziger Fokus", heißt es in der Ankündigung. "Unser Team, unsere Investoren und unser Geschäftsmodell sind alle auf SSI ausgerichtet."
Das Unternehmen will Sicherheit und Fähigkeiten der KI parallel vorantreiben und dabei revolutionäre Durchbrüche in Technik und Wissenschaft erzielen. "Wir planen, die Fähigkeiten so schnell wie möglich voranzutreiben und gleichzeitig sicherzustellen, dass unsere Sicherheit immer einen Schritt voraus ist", so die Gründer. SSI soll das einzige Forschungs- und Entwicklungsthema sein.
Sutskever hatte OpenAI Mitte Mai nach fast zehn Jahren verlassen. Mit ihm gingen zahlreiche Sicherheitsforscher. OpenAI-CEO Sam Altman löste auch das Super-KI-Sicherheitsteam auf, das Sutskever geleitet hatte.
Als Vorstandsmitglied von OpenAI war Sutskever im November 2023 am vorübergehenden Rauswurf von OpenAI-CEO Sam Altman beteiligt. Medien- und Insiderberichten zufolge soll er zuvor Bedenken über die von Altman forcierte schnelle Kommerzialisierung und die damit verbundenen Sicherheitsrisiken geäußert haben. Nun scheint der KI-Pionier, der 2012 zu den Autoren des bahnbrechenden AlexNet-Papiers gehörte, diesen Bedenken mit einem eigenen Unternehmen begegnen zu wollen.
