OpenAI veröffentlicht fünf Leitprinzipien und rechtfertigt damit auch seine Infrastruktur-Strategie

Sam Altman hat fünf Prinzipien skizziert, die OpenAIs künftige Arbeit leiten sollen. Sie liefern zugleich eine Begründung für die teils ungewöhnlichen Geschäftsentscheidungen des Unternehmens.

In einem als "Our principles" überschriebenen Beitrag legt OpenAI-CEO Sam Altman fünf Leitsätze fest. Ein zentrales Motiv: Macht über Superintelligenz könne entweder bei wenigen Firmen konzentriert sein oder dezentral bei den Menschen liegen. OpenAI strebe Letzteres an.

Auffällig ist, was Altman nicht als Alternative formuliert: eine pluralistische Anbieterlandschaft. Es geht ihm um Zugang, also um Endnutzer, die mit AGI ausgestattet sind. OpenAI selbst kann in dieser Logik zentraler Anbieter bleiben und sich gleichzeitig als Vehikel der Dezentralisierung verstehen.

Das erste Prinzip, Demokratisierung, verbindet dann auch zwei Komponenten: Zugang zu KI für alle und Entscheidungen über KI durch demokratische Prozesse, nicht allein durch KI-Labore. Wie das in der Praxis aussehen soll, wenn KI-Labore über Super-PACs Millionen in die Lobbyarbeit stecken, bleibt offen. Es ist aber auch eine indirekte Kritik an den Konkurrenten Anthropic, der mit seinen roten Linien dem Pentagon ein Dorn im Auge war.

Das zweite Prinzip, Empowerment, räumt Nutzern weitreichende Autonomie ein, verknüpft mit der Absicht, katastrophale wie lokale Schäden und "korrosive gesellschaftliche Effekte" zu minimieren. Bei Unsicherheit will OpenAI vorsichtig agieren und Beschränkungen erst mit wachsender Evidenz lockern.

Mit dem dritten Prinzip, universellem Wohlstand, liefert Altman eine Begründung für Geschäftsentscheidungen, die laut eigener Aussage "merkwürdig" wirken: massive Rechenleistungs-Käufe trotz vergleichsweise geringer Einnahmen, vertikale Integration und der weltweite Bau von Rechenzentren. Die Argumentation: Die Kosten für KI-Infrastruktur müssten drastisch sinken. Altman deutet zudem an, dass Regierungen neue Wirtschaftsmodelle prüfen müssten, um Wertschöpfung breit zu verteilen.

Iteratives Deployment als eine Säule unter mehreren

Das vierte Prinzip, Resilienz, verlangt einen gesamtgesellschaftlichen Ansatz. Bei Pathogen-Risiken etwa brauche es Gegenmaßnahmen, die unabhängig vom konkreten Erreger wirken. Bei Cybersecurity den schnellen Einsatz von Modellen zur Absicherung von Open-Source-Software und kritischer Infrastruktur.

Iteratives Deployment, also das schrittweise Ausrollen neuer Fähigkeiten, sei dabei nur ein Element. Technisches Alignment und sichere Systeme blieben eigenständige Aufgaben.

Altman räumt ein, dass es daher Phasen geben könne, in denen OpenAI mit Regierungen, internationalen Agenturen und anderen AGI-Projekten kooperieren müsse, um Alignment-, Sicherheits- oder gesellschaftliche Probleme zu lösen, bevor weitergearbeitet werde. Mittel der OpenAI Foundation sollen diese Arbeit unterstützen.

Das fünfte Prinzip, Anpassungsfähigkeit, behält Kursänderungen ausdrücklich vor. Als denkbares Beispiel nennt Altman, dass künftig Empowerment gegen mehr Resilienz abgewogen werden müsse. Als Lehrstück führt er die Debatte um die Veröffentlichung der GPT-2-Gewichte an: Die damalige Sorge sei rückblickend unangebracht gewesen, habe aber die Strategie des iterativen Deployments hervorgebracht.

Die Prinzipien dürften auch eine indirekte Antwort auf die Kritik sein, der das Unternehmen im Rahmen des Pentagon-Deals ausgesetzt war. Am Ende des Beitrags lädt Altman entsprechend auch zur Kritik ein. OpenAI werde Fehler machen und korrigieren.