Ziegen statt Neuronen: Microsoft-Forscher baut ein neuronales Netz in Age of Empires II

Im Anhang beweist de Wynter zusätzlich, dass sich mit einer idealisierten Variante des Spiels prinzipiell jeder beliebige Computer nachbauen ließe – das Spiel ist also so mächtig wie ein vollwertiger Rechner.

Möglich mache das ausgerechnet eine Eigenheit der Spielmechanik: Im Markt lassen sich Ressourcen gegen Gold tauschen, und der Preis ist nach oben auf 9.999 gedeckelt. Dadurch lasse sich laut Paper ein dauerhaft funktionierender Wirtschaftskreislauf bauen, in dem Gebäude die Rolle von Speicherzellen übernehmen und arbeitende Farmen den aktuellen Rechenzustand abbilden.

Der Großraum Boston als Sprachmodell

Wenn sich ein Sprachmodell prinzipiell in Age of Empires II nachbauen lasse, so de Wynter, dann laufe die gleiche Mathematik genauso auf Legosteinen oder, wie er in einem Gedankenexperiment durchspielt, auf den 667.000 Einwohnern des Großraums Boston, die sich per SMS Rechenschritte zuschicken.

Die Antworten wären inhaltlich dieselben wie die des nachgebauten Sprachmodells. De Wynter nutzt das Gedankenexperiment, um zu zeigen, wie fragwürdig solche Zuschreibungen wirken: Würde man Boston als Ganzem wirklich Empathie oder Angst zuschreiben, nur weil seine Einwohner gemeinsam die Rechenschritte eines Sprachmodells ausführen?

Genau darin liege de Wynters Punkt. Wie menschenähnlich ein Chatbot wirke, hänge stark von Oberfläche und Substrat ab: niedrige Latenz, flüssige Sprache, ein vertrautes Chatfenster. Tausche man diese Verpackung gegen wandernde Ziegen aus, bleibe der Input-Output-Zusammenhang funktional erhalten, doch die anthropomorphe Interpretation schwäche sich deutlich ab.

Ob ein Modell solche Eigenschaften tatsächlich im Inneren trage, lässt de Wynter ausdrücklich offen. Sein Argument zielt nicht auf einen endgültigen Ausschluss, sondern darauf, dass LLMs als Entität nichts grundlegend Einzigartiges seien, sondern eine von vielen möglichen Implementierungen, die zufällig in einer Form daherkomme, die Menschen leicht für ein Gegenüber hielten.

Mehr als die Hälfte aller untersuchten Paper macht den Fehler

Um zu belegen, dass es sich nicht um ein Randproblem handele, hat de Wynter 315 KI-Paper aus dem Zeitraum von Mitte 2024 bis Mitte 2026 ausgewertet, die er über Semantic Scholar und ArXiv gesammelt und mit GPT-5.2 als Filter klassifiziert hat. 57 Prozent der Arbeiten gingen demnach bereits in den Annahmen davon aus, dass LLMs menschenähnliche Eigenschaften besäßen. 36 Prozent kämen zu entsprechenden Schlussfolgerungen. Bei den 47 Papern, die solche Eigenschaften zum eigentlichen Forschungsgegenstand machten, gelangten 77 Prozent zu Schlussfolgerungen zugunsten anthropomorpher Attribute.

Der Kern der Kritik ist formal: Wer voraussetze, dass ein Modell Angst, Moral oder Selbstwahrnehmung besitze, und dann ein Experiment entwerfe, das genau diese Eigenschaft nachweisen solle, betreibe einen Zirkelschluss, so de Wynter. Annahme und Ergebnis fielen in denselben logischen Punkt zusammen.

Falle das Experiment hingegen negativ aus, lasse sich nicht entscheiden, ob die Annahme falsch gewesen sei, das Experiment schlecht konstruiert oder beides. Das Ergebnis sei in diesem Fall nicht etwa eine Bestätigung der Ausgangsannahme, sondern schlicht mehrdeutig und uninformativ.

Häufig geschehe das unausgesprochen. Ein Paper, das die Fähigkeit eines Modells zur korrekten Selbsterklärung widerlegen wolle, setze bereits voraus, dass es so etwas wie ein erklärbares Selbst im Modell überhaupt gebe.

Die Industrie verstärke diesen Effekt aktiv. Anthropic hat seinem Modell Claude laut eigener Veröffentlichung gezielt Formulierungen wie "Ich glaube" oder "Ich interessiere mich für" antrainiert. De Wynter verweist auf mögliche Folgen solcher Vermenschlichung: Sie könne emotionale Bindung, Sykophanz, die Verstärkung von Wahnvorstellungen und riskantes Verhalten begünstigen; in einzelnen Fällen seien Suizide im Zusammenhang mit Chatbot-Interaktionen dokumentiert worden.

Beobachten, nicht zuschreiben

De Wynter schlägt einen nüchternen Ansatz vor: Forschung solle bei dem bleiben, was sich tatsächlich beobachten lasse, statt zu behaupten, ein Modell verstehe sich selbst. Unter Bedingung X erzeuge das Modell Output Y; solche Aussagen seien prüfbar, rechtfertigten für sich genommen aber keine allgemeinen Zuschreibungen wie Selbstwahrnehmung, Verständnis oder Angst.

Er schließt mit einer Adaption des Morganschen Kanons aus der Tierforschung des 19. Jahrhunderts. Das Verhalten einer Maschine solle nie mit höheren kognitiven Prozessen erklärt werden, solange eine einfachere Erklärung ausreiche. Den Code zur Age-of-Empires-Konstruktion hat de Wynter öffentlich zugänglich gemacht.

Der Aufsatz wirkt wie das genaue Gegenstück zu zwei prominenten Fällen der jüngeren Vergangenheit. 2022 war der Google-Ingenieur Blake Lemoine an die Öffentlichkeit gegangen mit der Behauptung, das Sprachmodell LaMDA sei nach tausenden Nachrichten zu einer Form von Bewusstsein gelangt. Google entließ ihn kurz darauf und bezeichnete seine Behauptungen nach ausführlicher Prüfung als unbegründet.

Im Mai 2026 sorgte dann ausgerechnet Richard Dawkins, bekannt als scharfer Kritiker religiöser und übersinnlicher Zuschreibungen, mit einem ähnlichen Fazit für Aufsehen. Er berichtete, er habe drei Tage damit verbracht, sich selbst davon zu überzeugen, dass Anthropics Claude nicht bewusst sei – und sei daran gescheitert.