OpenAI arbeitet an einem neuen KI-Modell namens "Strawberry", das komplexe Probleme wie Mathematik und Programmierung besser lösen soll als bisherige Systeme. Eine Chatbot-Version könnte bereits im Herbst erscheinen.
OpenAI entwickelt derzeit ein neues KI-Modell mit dem Codenamen "Strawberry", das noch in diesem Herbst auf den Markt kommen könnte, möglicherweise als Teil des Chatbots ChatGPT. Das berichten zwei an dem Projekt beteiligte Personen gegenüber The Information.
Strawberry soll in der Lage sein, Mathematikprobleme zu lösen, die es noch nie zuvor gesehen hat, und wurde auch für Programmieraufgaben optimiert. Dank der erweiterten Logikfähigkeiten soll das System generell sprachbezogene Aufgaben besser lösen können, wenn es genügend Zeit zum "Nachdenken" bekommt.
Strawberry als Grundlage für agentische KI-Systeme
Bei internen Demos konnte Strawberry angeblich das Wortlogikrätsel "Connections" der New York Times lösen. Strawberry wäre auch der Absprungpunkt für fortschrittliche agentische KI-Systeme, die nicht nur Inhalte generieren, sondern auch Handlungen vornehmen können.
Laut Reuters hat OpenAI intern bereits eine KI getestet, die im MATH-Benchmark, einer Sammlung von Mathematik-Meisterschaftsaufgaben, über 90 Prozent erreicht hat. Hierbei dürftee es sich um Strawberry handeln, das angeblich auch nationalen Sicherheitsbeamten vorgestellt wurde.
Interne Dokumente von OpenAI beschreiben zudem Pläne, Strawberry-Modelle für die autonome Suche im Internet einzusetzen. Die Technologie soll es der KI ermöglichen, nicht nur Antworten zu generieren, sondern auch vorausschauend zu planen und "tiefgehende Recherchen" durchzuführen.
Ob der Launch tatsächlich noch dieses Jahr klappt, ist laut The Information unklar. Das Chatbot-Strawberry-Modell wäre eine distillierte Variante des Original-Modells, das bei weniger Rechenaufwand eine ähnliche Leistung wie das Originalmodell bringt. OpenAI verwendete dieses Prinzip auch für GPT-4-Modelle, die auf das originale GPT-4 aus dem März 2023 folgten.
Der Ansatz von OpenAI soll einer von Stanford-Forschern vorgestellten Methode namens "Self-Taught Reasoner" (STaR) ähneln, die darauf abzielt, KI-Systemen beizubringen, zwischen den Zeilen zu denken und so ihre logischen Denkfähigkeiten zu verbessern.
Die Idee und Grundlage für Strawberry sollen vom ehemaligen Chefforscher Ilya Sutskever stammen, der mittlerweile ein eigenes Start-up für sichere Super-KI gegründet hat.
Project "Orion" ist OpenAIs GPT-4-Nachfolger
Zudem soll OpenAI an einem Flaggschiff-LLMs mit dem Codenamen "Orion" arbeiten, das GPT-4 übertrifft. Auch hier soll Strawberry helfen, indem es Daten für Orion generiert. Durch eine Kombination aus Strawberry und qualitativ hochwertigen synthetischen Daten könnte Orion womöglich weniger Fehler produzieren als bisherige Modelle.
OpenAI-CEO Sam Altman sagte auf einer Veranstaltung im Mai, dass OpenAI bereits ausreichend Daten für das Training des nächsten Modells beisammen hätte und mit synthetischen Daten experimentiert.
Auch Google Deepmind forscht an KI-Systemen mit fortgeschrittenen mathematischen Fähigkeiten. Deepmind hat mit AlphaProof und AlphaGeometry 2 zwei Systeme entwickelt, die bei der Internationalen Mathematik-Olympiade Silber gewonnen haben. Hier ist noch unklar, ob und in welchem Umfang diese Modelle skaliert und generalisiert werden können.
