Die Welt braucht offenbar ein weiteres Start-up, das Superintelligenz entwickeln will.
Das Start-up Reflection AI hat sich zum Ziel gesetzt, superintelligente autonome Systeme zu entwickeln. Laut der Website des Unternehmens ist die Lösung des Problems des autonomen Programmierens der Schlüssel zu einer allgemeinen Superintelligenz.
Wenn man ein superintelligentes autonomes Programmiersystem entwickelt, würden alle anderen Bereiche der computergestützten Arbeit folgen. Die Forschung von Reflection AI kombiniert Reinforcement Learning und Large Language Models. Das Team will die Autonomie von Sprachmodellen durch Reinforcement Learning verbessern, mit dem Ziel, dass ein Sprachmodell am Computer die gleiche Autonomie zeigt wie AlphaGo beim Go-Spiel.
Reflection AI ist hochkarätig besetzt: In den vergangenen zehn Jahren hat das Team einige der leistungsfähigsten KI-Systeme in beiden Bereichen entwickelt, darunter AlphaGo, AlphaZero und GPT-4.
Direkt zu Super-KI: Alles oder nichts
Neben Reflection AI will auch Safe Superintelligence (SSI) des ehemaligen OpenAI-Chefforschers Ilya Sutskever eine "sichere Superintelligenz" entwickeln. SSI soll derzeit über eine Finanzierungsrunde verhandeln, die das Unternehmen mit bis zu 30 Milliarden Dollar bewerten würde - ohne Aussicht auf baldige Umsätze.
Auch Reflection AI hat laut Bloomberg bereits 130 Millionen US-Dollar eingesammelt und liegt bei einer Bewertung von einer halben Milliarde US-Dollar. Zu den Investoren gehören Reid Hoffman, der CEO von Scale AI Alexandr Wang, SV Angel und der VC-Arm von Nvidia.
Im Gegensatz zu anderen KI-Unternehmen wollen Reflection AI und SSI Superintelligenz möglichst direkt entwickeln, ohne den Umweg über kommerzielle Produkte. Sutskever verließ OpenAI im Mai 2024, vermutlich aufgrund des zunehmend kommerziellen Interesses im Kontrast zu seiner Vision.
Nicht alle sprechen von ASI
OpenAI hingegen sprach zuletzt wenig über eine Superintelligenz und distanziert sich auch vom Begriff der allgemeinen generellen Intelligenz (AGI), ein theoretisch weniger leistungsfähiges KI-System, das in erster Linie daran gemessen wird, wie viele Jobs es ersetzen kann. Diese AGI ist zwar immer noch OpenAIs erklärtes Ziel, aber sie soll nun allmählich entstehen, anstatt an einem bestimmten Zeitpunkt gemessen zu werden.
Ein weiteres KI-Startup, Thinking Machines Lab, wurde von der ehemaligen OpenAI-CTO Mira Murati gegründet. Das Unternehmen will KI-Systeme entwickeln, die technische Grenzen überschreiten und gleichzeitig möglichst vielen Menschen einen echten Nutzen bieten. Zum Gründungsteam gehören Forscher und Ingenieure, die an der Entwicklung von ChatGPT, Character.ai, Mistral und populären Open-Source-Projekten wie PyTorch und Segment Anything beteiligt waren.
Im Gegensatz zu Reflection AI und SSI spricht Thinking Machines Lab in seiner Ankündigung weder von einer Superintelligenz noch von einer allgemeinen generellen Intelligenz (AGI). Stattdessen setzt das Unternehmen auf Wissenschaftskooperation, Mensch-KI-Zusammenarbeit, anpassungsfähige KI-Systeme und eine empirische, iterative Herangehensweise an KI-Sicherheit. Thinking Machines plant, technische Blogbeiträge, Papers und Code zu veröffentlichen, um das Verständnis von KI in der Öffentlichkeit zu verbessern.
Das Unternehmen befindet sich laut Berichten in Gesprächen über eine Finanzierungsrunde in Höhe von 1 Milliarde Dollar, die das Unternehmen mit 9 Milliarden Dollar bewerten würde.
