Laut Microsoft-CTO Scott Stein war 2022 das spannendste KI-Jahr jemals. 2023 soll noch ereignisreicher werden. Ein Hinweis auf die Fähigkeiten von GPT-4?
In einem Rück- und Ausblick zum Stand der Künstlichen Intelligenz bezeichnet Scott das kommende Jahr als "das aufregendste Jahr, das die KI-Gemeinschaft je erlebt hat". Das ist insofern bemerkenswert, als Microsoft Hauptinvestor bei OpenAI ist, dem KI-Unternehmen, das mit GPT-3, DALL-E 2 und ChatGPT neue Standards bei der Kommerzialisierung großer KI-Modelle setzte.
GPT-4 soll gerüchteweise in den nächsten Monaten vorgestellt werden. In seiner Rolle als Microsoft CTO dürfte Stein ganz genau wissen, was das neue Sprachmodell leisten können wird. Sein vollmundiges Versprechen für 2023 könnte ein Hinweis sein, dass er von einem weiteren Entwicklungsschub ausgeht.
Zudem sagt Stein, dass eine weitere Skalierung von KI-Modellen noch mehr und bessere Leistungen hervorbringen könnte - ein weiterer möglicher Hinweis auf die Beschaffenheit von GPT-4.
KI als Wissenschaftsbeschleuniger
Neben den Fortschritten bei generativer KI für Code, Text und Bild, die aus Steins Perspektive Produktivität und Kreativität fördern sowie Arbeitsabläufe verbessern können, hebt Stein den Nutzen Künstlicher Intelligenz für die Wissenschaft hervor.
Da all diese riesigen KI-Systeme weiter wachsen und sich weiterentwickeln, können wir meiner Meinung nach davon ausgehen, dass diese Fortschritte das Wesen der Arbeit grundlegend verändern wird, in manchen Szenarien mehr als in anderen, und in einigen Fällen werden sie eine ganze Reihe neuer Arbeitsplätze schaffen, die es vorher nicht gab.
Scott Stein
Für die Wissenschaft entwickelten KI-Modelle hätten die gleichen Skalierungseigenschaften wie große Sprachmodelle. Sie könnten die Leistung einer Anwendung "drastisch verändern", von der Strömungssimulation über die Molekulardynamik bis zur Arzneimittelentwicklung.
"Das sind immense Möglichkeiten. Das bedeutet bessere Medikamente, es bedeutet, dass wir vielleicht den Katalysator finden können, den wir noch nicht haben, um unser Kohlenstoffemissionsproblem zu lösen, es bedeutet, dass Wissenschaftler und andere Leute mit großen Ideen schneller arbeiten können, um die größten Herausforderungen der Gesellschaft zu lösen", schreibt Stein.
Auch andere KI-Unternehmen und Forschende sehen einen großen Nutzen von Künstlicher Intelligenz für wissenschaftlichen Fortschritt außerhalb der IT, etwa in der Physik oder für das Sprachenlernen.
Stein glaubt an Skalierung
Eine grundlegende Debatte in der KI-Gemeinschaft ist der fortlaufende Nutzen der Skalierung großer KI-Modelle. Bislang bewährte sich die Formel, dass größere KI-Modelle auch bessere und mehr Fähigkeiten entwickelten. Im Kontext der Skalierung ist insbesondere der Phasenübergang ein noch unerklärtes Phänomen, das zur Emergenz neuer Fähigkeiten führt.
"Es hat sich herausgestellt, dass Modelle, die mit mehr Daten und mehr Rechenleistung trainiert wurden, einfach eine viel reichhaltigere und allgemeinere Palette von Fähigkeiten haben", sagt Stein. Ein Ende "der Vorteile einer stärkeren Skalierung" sei nicht in Sicht. Für weitere Fortschritte benötige es höhere Rechenleistung, die effizienter genutzt werden müsse.
Als wichtige Faktoren für sichere KI nennt Stein verfeinerte Datensätze, Filter, die Blockierung von potenziell schädlichen Prompts und das bewusste stufenweise Veröffentlichen großer Modelle. Zudem benötige es einen Plan für den Umgang mit unvorhergesehenem Missbrauch nach dem Start eines Modells, etwa die Zugangsbeschränkung via API.
