Nach Anthropic-CEO Dario Amodei schreibt nun auch OpenAI-CEO Sam Altman einen Blogbeitrag über AGI. Typisch technisch-analytisch, aber leider wenig visionär.
Im Oktober letzten Jahres veröffentlichte Amodei seinen Beitrag "Machines of Loving Grace", in dem der Anthropic-CEO seine umfassende Zukunftsvision darlegte. Der Text war umfangreich, spekulativ und interdisziplinär und behandelte neben technischen Aspekten auch soziale, politische und existenzielle Fragen. Altmans Text ist demgegenüber deutlich kürzer und konzentriert sich auf quantifizierbare Beobachtungen und die wirtschaftliche Skalierung von KI.
Seit Amodeis Aufsatz hat sich aber auch das politische Klima verändert: Trumps zweite Amtszeit, verschärfte Restriktionen für Chipexporte, das gigantische Infrastrukturprojekt Stargate und der Deepseek-Börsencrash. Altmans Essay ist daher auch als Beruhigungspille für Investoren zu verstehen: OpenAI ist weiter, KI-Hardware wird weiter gebraucht und der KI-Goldrausch geht weiter.
Altman sieht weiter exponentielles Wachstum
Ein deutlicher Unterschied: Altman spricht wie gewohnt von AGI, Amodei hingegen lehnt den Begriff explizit wegen seiner "Science Fiction Konnotationen" ab und spricht stattdessen von "Powerful AI". Weitere Unterschiede zeigen sich bei den Zeiträumen: Während Altman sich auf die unmittelbare Zukunft konzentriert und bereits für 2025 deutliche Veränderungen prognostiziert, skizziert Amodei eine Perspektive von fünf bis zehn Jahren nach dem Erreichen von "Powerful AI" - das er allerdings bereits 2026 für möglich hält. Beide sind sich einig, dass die Entwicklung exponentiell verläuft.
Um diese These zu untermauern, erläutert der OpenAI-Chef drei grundlegende ökonomische Gesetzmäßigkeiten, die den rasanten Fortschritt und die exponentielle Verbreitung von KI-Technologien vorantreiben:
- Die Intelligenz eines KI-Modells entspräche in etwa dem Logarithmus der für Training und Betrieb aufgewendeten Ressourcen wie Rechenleistung und Daten. Mit beliebig hohen Investitionen könnten kontinuierliche und vorhersehbare Gewinne erzielt werden.
- Die Kosten für ein bestimmtes KI-Niveau fielen alle 12 Monate um den Faktor 10, was die Nutzung enorm beschleunige. Altman verweist auf das Beispiel von GPT-4 zu GPT-4o, wo die Kosten pro Token von Anfang 2023 bis Mitte 2024 um den Faktor 150 gesunken sind - ein viel stärkerer Effekt als das Moore'sche Gesetz, das eine Verdoppelung der Computerleistung alle 18 Monate vorhersagt.
- Der sozioökonomische Wert von linear wachsender Intelligenz wachse superexponentiell. Es ist daher nicht zu erwarten, dass sich das exponentielle Wachstum der Investitionen in KI-Technologien in naher Zukunft verlangsamen wird.
Technisch gesehen sei der Weg klar, so Altman. Aber die öffentliche Ordnung und die kollektive Meinung darüber, wie KI in die Gesellschaft integriert werden soll, seien von entscheidender Bedeutung.
2035: Unbegrenztes Genie für alle
Beide CEOs teilen die Sorge vor wachsender Ungleichheit durch KI. Altman sieht die Gefahr eines Ungleichgewichts zwischen Kapital und Arbeit und schlägt ein "Compute Budget" für alle Menschen vor. Amodei widmet dem Thema ein ganzes Kapitel und fordert massive Anstrengungen, um die Vorteile der KI gerecht zu verteilen.
Altman ist der Ansicht, dass mit dem Fortschritt in Richtung KI der Trend in Richtung individuelle Befähigung gehen sollte. Andernfalls bestehe die Gefahr, dass autoritäre Regierungen KI nutzen, um die Bevölkerung durch Massenüberwachung und Autonomieverlust zu kontrollieren.
Sein Ziel: "Im Jahr 2035 sollte jeder in der Lage sein, eine intellektuelle Kapazität zu nutzen, die der aller Menschen im Jahr 2025 entspricht; jeder sollte Zugang zu unbegrenzter Genialität haben, die er nach seinen Vorstellungen einsetzen kann. Gegenwärtig gibt es viele Talente, denen die Mittel fehlen, um sich voll auszudrücken, und wenn wir das ändern, wird der daraus resultierende kreative Output der Welt für uns alle von enormem Nutzen sein."
Um der Gesellschaft und der Technologie Zeit zu geben, sich gemeinsam zu entwickeln, bringe OpenAI seine Produkte bewusst früh und häufig auf den Markt. Er deutet auch an, dass OpenAI in Zukunft wieder etwas offener werden könnte: "Viele von uns erwarten, dass wir den Menschen mehr Kontrolle über die Technologie geben müssen als bisher, einschließlich mehr Open-Source-Entwicklung, und akzeptieren, dass es einen Ausgleich zwischen Sicherheit und individueller Ermächtigung geben muss, der Kompromisse erfordert."
Das bringt laut Altman Risiken mit sich, die es aber wert sind, eingegangen zu werden: "Während wir niemals leichtsinnig sein wollen und es wahrscheinlich einige wichtige Entscheidungen und Einschränkungen im Zusammenhang mit AGI-Sicherheit geben wird, die unpopulär sein werden, glauben wir, dass es wichtig ist, mit der Annäherung an AGI tendenziell mehr in Richtung individueller Ermächtigung zu gehen."
Individualismus, Kollektivismus und AGI
Altmans technokratisch-pragmatische Antwort auf die wirtschaftlichen (und weiter gefassten gesellschaftlichen) Herausforderungen der AGI scheint daher ein stärkerer Individualismus zu sein, ein - auch durch politische Lösungen ermöglichter - breiter Zugang zu "unbegrenzter Genialität", die so verfügbar ist wie Elektrizität, und damit implizit auch die Hoffnung auf eine individualistisch geprägte Problemlösung. Auch wenn nicht klar ist, ob dieser Traum angesichts der immer stärkeren Verflechtung von OpenAI mit US-Regierungsinstitutionen und der zunehmenden Regulierung weltweit tatsächlich Wirklichkeit wird, klingt die Vision optimistisch und inspirierend. Sie ignoriert jedoch wesentliche Herausforderungen.
Intellektuelle Fähigkeiten können nicht automatisch in gesellschaftlichen Nutzen umgesetzt werden. Ideen stoßen oft auf Widerstände in politischen, wirtschaftlichen und kulturellen Institutionen. Die bloße Verfügbarkeit von "Genialität" garantiert also noch keine gerechte Transformation gesellschaftlicher Strukturen. Politische Maßnahmen sind daher wahrscheinlich notwendig, um sicherzustellen, dass der Nutzen von AGI breit gestreut wird. Denn Macht- und Wissensungleichgewichte können sich auch dann manifestieren, wenn nahezu jeder Zugang zu enormen intellektuellen Kapazitäten hat, solange strukturelle Ungleichheiten nicht angegangen werden. Ein nachhaltiger gesellschaftlicher Wandel erfordert daher nicht nur technische Innovationen, sondern auch eine Auseinandersetzung mit Fragen der Gerechtigkeit und Ressourcenverteilung.
Amodei hingegen diskutiert die Notwendigkeit einer grundlegenden Reorganisation der Wirtschaft - seine Vorschläge sind eher progressiv, mit Zügen von Transhumanismus, Technokratie, Utilitarismus und einigen egalitaristischen Gedanken. Staatliche Interventionen und internationale Kooperationen spielen in Amodeis Essay eine zentrale Rolle, etwa durch Maßnahmen wie ein bedingungsloses Grundeinkommen oder alternative Modelle der Ressourcenverteilung, wenn traditionelle Arbeitsmodelle durch KI obsolet werden. Ein weiterer Schwerpunkt liegt auf der Entwicklung der Weltwirtschaft, insbesondere in ärmeren Regionen, damit nicht nur die reichen Länder vom technologischen Fortschritt profitieren.
Dazu bedürfe es gezielter Strategien, um beispielsweise durch KI-gestützte Optimierung von Gesundheit, Bildung und Infrastruktur in Entwicklungsländern schnell aufzuholen und so globale Ungleichheiten zu verringern. Aber auch politische Maßnahmen zur Eindämmung negativer wirtschaftlicher Nebeneffekte seien notwendig. So sollen KI-Systeme dazu beitragen, ineffiziente oder korrupte Strukturen zu überwinden und eine gerechte Verteilung der neuen Ressourcen zu fördern.
Für Amodei ist dies nicht nur eine Frage der erfolgreichen Umsetzung der Einführung von KI - es ist für ihn auch zentral für den Erhalt der demokratischen Grundordnung: "Leider sehe ich keinen triftigen Grund zu der Annahme, dass KI Demokratie und Frieden strukturell fördern wird", so der Anthropic-CEO. Menschliche Konflikte seien von Gegensätzen geprägt, und KI könne prinzipiell sowohl den "Guten" als auch den "Bösen" helfen. Im Gegenteil seien einige strukturelle Faktoren besorgniserregend: KI werde wahrscheinlich bessere Propaganda und Überwachung ermöglichen - beides wichtige Werkzeuge im Arsenal von Autokraten. "Es liegt daher an uns als einzelnen Akteuren, die Dinge in die richtige Richtung zu lenken: Wenn wir wollen, dass KI Demokratie und individuelle Rechte fördert, müssen wir dafür kämpfen", so Amodei.
