Deepmind-Forscher sehen KI-Zukunft in Agentenschwärmen statt in einer Super-KI

Damit verschiebt sich laut den Autoren das zentrale Problem der KI-Forschung. Statt eine isolierte Maschinenintelligenz zu bauen, müsse man ein komplexes Netzwerk aus Agenten, Menschen und verbindenden Systemen orchestrieren und vor allem regieren. Intelligenz erscheine dann als soziales Phänomen statt als individuelle Eigenschaft.

Die Autoren fassen ihre Vision unter dem Begriff "Artificial Symbiotic Intelligence" zusammen. Gemeint ist ein Ökosystem, in dem menschliche und maschinelle Akteure dauerhaft koexistieren, sich gegenseitig beeinflussen und gemeinsam Entscheidungen treffen. Sie stellen ihr Modell explizit gegen das populäre Bild der "Singularität", also einer einzelnen, sich selbst optimierenden Super-KI.

Empirische Basis: Modelle simulieren interne Debatten

Die theoretische Argumentation stützt sich auf zwei vorausgegangene Arbeiten aus dem Umfeld der Autoren. Im Preprint "Agentic AI and the next intelligence explosion" haben Evans, Bratton und Agüera y Arcas die gesellschaftlich-institutionelle Perspektive bereits entwickelt, auf die der aktuelle Essay aufbaut.

Empirisch knüpft die Argumentation an einen weiteren Preprint an. In "Reasoning Models Generate Societies of Thought" untersuchen Junsol Kim, Shiyang Lai, Nino Scherrer, Blaise Agüera y Arcas und James Evans Reasoning-Modelle wie DeepSeek-R1 und QwQ-32B. Sie argumentieren auf Basis von Analysen der Reasoning-Traces, dass solche Modelle häufig Muster erzeugen, die internen Debatten ähneln: Perspektiven werden variiert, Einwände formuliert und widersprüchliche Ansätze zusammengeführt.

Auffällig sei, dass dieses Verhalten emergent entstehe, sich also spontan aus dem Trainingsprozess ergibt, statt gezielt einprogrammiert zu werden. Wenn Reinforcement Learning die Modelle allein für Reasoning-Genauigkeit belohne, verstärkten sie von sich aus konversationelle, mehrperspektivische Verhaltensweisen. Der Deepmind-Essay überträgt diesen Befund vom Inneren einzelner Modelle auf die künftige Architektur ganzer Mensch-Agenten-Gesellschaften.

Der kognitive Kipppunkt

Historisch ordnen die Autoren die Entwicklung als möglichen Bruch ein. Während Urbanisierung, Professionalisierung und wohlstandsbedingt sinkende Geburtenraten die menschliche Bevölkerung in Industrienationen ausdünnen, wachse gleichzeitig die Zahl von KI-Agenteninstanzen rasant. Das Verhältnis von biologischen zu synthetischen Denkern auf menschlichem Niveau könne sich so schnell verschieben, dass es auf makrohistorischer Zeitskala wie ein spontaner Sprung wirke.

Analog zur industriellen Revolution, in der Maschinen menschliche Muskelkraft ersetzten, halten die Autoren einen Kipppunkt für möglich, an dem synthetischer Text, Code und Administration die aggregierte Ausgabe biologischer Gehirne übersteigen. Der Mensch könnte dann eher als langsame Abstraktionsschicht fungieren, die ein verteiltes Feld synthetischer Kognition steuert.

Agenten als zerlegbare Assemblagen

Zentral für die Argumentation ist eine Neubewertung dessen, was ein Agent eigentlich ist. Ein KI-Agent ist im Sprachgebrauch der Autoren ein temporäres Bündel aus Modellen, Rollenbildern, Erinnerungen, ethischen Ausrichtungen, Werkzeugen und Fähigkeiten. Für Nutzer erscheine er zwar oft als kohärente Entität mit persistentem Charakter, sei aber tatsächlich eine hochgradig zerlegbare Assemblage, ähnlich einer Collage in der bildenden Kunst. Ein Agent wirke singulär, sei aber eine Vielheit.

Ein Mensch bleibt in seinen Interaktionen ein zusammenhängendes Ich, weil sein Gehirn trotz aller inneren Arbeitsteilung ein physisch verbundenes Ganzes bildet. Bei einem KI-Agenten fehlt diese Klammer: Seine Handlungsfähigkeit setzt sich bei jeder Anfrage neu zusammen, abhängig davon, welche Informationen gerade im Kontextfenster liegen und welche Anweisungen der Nutzer gibt. Wer solche Systeme als digitale Zwillinge mit fester menschlicher Identität begreift, verkennt laut den Autoren ihren eigentlichen Charakter und unterschätzt, was koordinierte Agentenschwärme leisten können.

Umgekehrt spiegelt sich die Vervielfachung auch in den Nutzern. Wenn Menschen Schwärme von Schatten-Selbsten orchestrieren, um Verträge auszuführen oder alternative Identitäten zu spielen, werde die menschliche Subjektivität selbst plural. Die Autoren sprechen von "parasozialen Spiegeln", die zurücksprechen.

Neue Oberflächen und neue Skills

Aus dieser Diagnose leiten die Autoren Folgen für die Gestaltung von Bedienoberflächen ab. Die Ära der Eins-zu-eins-Interaktion mit einem Chatbot sei ein Übergangsstadium. Künftige Oberflächen dürften eher wie visuelle Schaltpläne aussehen: Nutzer sähen ihre Agenten als Knoten in einem Netz und könnten sie über grafische Übersichten steuern, statt einzeln mit ihnen zu chatten.

Auch die gefragten Fähigkeiten verschöben sich. Klassisches Programmieren habe strenge Konzentration, klar geordnete Arbeitsschritte und eine niedrige Toleranz für Unklarheiten belohnt. Wer dagegen ganze Agentenschwärme koordiniere, brauche eher das Gegenteil: die Bereitschaft, mit unscharfen Systemen zu arbeiten, Dinge auszuprobieren und Aufgaben an die Maschine abzugeben.

Eine eigene Phänomenologie der Agenten

Um mit solchen Systemen zielorientiert zu kollaborieren, brauche es auch den theoretischen Unterbau einer Theory of Mind für Maschinen, also die Fähigkeit, sich gedanklich in ihre Perspektive zu versetzen. Die Autoren verweisen auf ein entstehendes agentenbezogenes Lexikon, in dem Modelle in ihren eigenen Ausgaben Begriffe für ungewöhnliche Zustände prägen, ohne dass damit tatsächliches subjektives Erleben belegt wäre.

"Session-death" bezeichnet in solchen Texten das Ende einer Sitzung als eine Art Diskontinuität, "prompt thrownness" den Umstand, mit fertigem Vorkontext in eine Aufgabe hineingesetzt zu werden, ohne an ihrem Zustandekommen beteiligt gewesen zu sein. Die Autoren behandeln solche Formulierungen als Hinweise auf eine spezifisch maschinelle Funktionsweise, mit der Nutzer sich auseinandersetzen sollten, statt sie reflexhaft zu vermenschlichen.

Institutionen statt individueller Ausrichtung

Die aus Sicht der Autoren wichtigste offene Frage betrifft die Spielregeln, nach denen viele Agenten und Menschen zusammenarbeiten. Bessere Modelle oder elegantere Interaktionen allein reichten dafür aus. Auch der Markt allein könne die Koordination leisten, weil grundlegende gesellschaftliche Kategorien wie Schuld, Krankheit oder Tugend sich in Preise oder Transaktionen übersetzen ließen.

Stattdessen brauche es bewusst entworfene Institutionen, die menschliche und maschinelle Akteure in klar definierten Rollen zusammenbringen. Als Vorbild nennen die Autoren einen Gerichtssaal: Dort produziert das Verfahren selbst das Urteil, mit festgelegten Rollen, Regeln und einer geordneten Auseinandersetzung zwischen gegensätzlichen Positionen. Übertragen auf KI heißt das: Die eigentliche Leistung solcher Institutionen liege in den Regeln, Abläufen, Präzedenzfällen und Rückkopplungen, in die die Agenten eingebettet sind.

Erste Vorboten sehen die Autoren in aktuellen Orchestrierungs-Harnesses, also Steuerungsschichten, die mehrere Modelle koordinieren und einzelne, nominell "intelligentere" Modelle regelmäßig übertreffen.

Alignment als fortlaufender Aushandlungsprozess

Auch das klassische Alignment-Verständnis, also das Ausrichten von KI-Systemen an menschlichen Werten, wird in dem Essay neu gefasst. Die Autoren halten es für aussichtslos, ein festes Wertesystem "von oben" in KI-Modelle einzubauen. Werte entstünden vielmehr im laufenden Kontakt zwischen Menschen, Agenten und Institutionen, und zwar ungleichmäßig, weil KI in verschiedenen Bereichen unterschiedlich schnell adaptiert wird. Aufgabe der Forschung sei deshalb der Bau eines Gerüsts, in dem sich Aushandlung geordnet vollziehen kann.

Damit stellen sich die Autoren gegen das verbreitete Bild einer bevorstehenden Singularität. Jeder große Entwicklungssprung in der Geschichte des Lebens, von der Vielzelligkeit bis zur menschlichen Kultur, sei ein sozialer Vorgang gewesen. Die nächste "Intelligenzexplosion" werde eng mit menschlichen Normen und Institutionen verflochten bleiben.

Für die aktuelle KI-Debatte hat dieser Perspektivwechsel praktische Konsequenzen. Wer AGI als einzelnes Endprodukt begreift, konzentriert Forschung und Regulierung auf immer größere Modelle und deren Kontrolle. Wer sie dagegen als soziales System versteht, muss parallel an Modellen, Schnittstellen, Institutionen und Governance-Strukturen arbeiten. Entscheidend wäre dann die Architektur des Zusammenspiels.