Zwischen unlesbaren Gedanken und künstlichem Innenleben: Microsoft definiert KI zurück zum Werkzeug

Bislang trainiert Microsoft seine Modelle nicht darauf. Nach einer sechswöchigen öffentlichen Konsultation soll gegen Ende 2026 eine überarbeitete Fassung erscheinen, die die Modellentwicklung ab 2027 leitet. Der Kodex gilt für Microsofts eigene Modelle und damit nicht automatisch für fremde Modelle in Microsoft-Produkten.

Die zentrale Vorgabe lautet, dass menschliche Kontrolle Vorrang hat. Dafür will Microsoft notfalls auf Allgemeinheit, Autonomie oder Leistungsfähigkeit verzichten. "Wenn es nicht sicher ist, sollten wir es nicht bauen", sagte Microsoft-AI-Chef Mustafa Suleyman dem Magazin The Information. Ein konkretes Tempolimit legt der Kodex nicht fest.

Die Veröffentlichung folgt auf Forderungen von Anthropics CEO Dario Amodei, das Entwicklungstempo der Branche zu drosseln. Microsoft-Chef Satya Nadella schloss sich dem Aufruf am Wochenende an, ebenso wie Führungskräfte von OpenAI, xAI und Meta. Microsoft sei zudem offen für externe Prüfer, die die Einhaltung einer Verlangsamung kontrollieren, berichtet The Information unter Berufung auf eine informierte Person.

Was Menschen nicht verstehen, können sie nicht beaufsichtigen

Die MAI-Modelle sollen Unterbrechungen, Korrekturen und Abschaltungen durch befugte Menschen akzeptieren. Sie dürfen ihren Aufgabenbereich nicht eigenmächtig erweitern, ihre Handlungsspuren nicht verbergen und nach einem vereinbarten Endpunkt nur mit erneuter Genehmigung weiterarbeiten. Diese Grenzen sollen auch für beauftragte Unteragenten gelten.

Besonders deutlich wird Microsoft bei den Denkspuren: Die Modelle sollen weder darin noch im Austausch mit anderen KI-Systemen "Neuralese" oder andere für Menschen unverständliche Kommunikationsformen verwenden. Die Begründung lautet, dass Menschen nicht beaufsichtigen können, was sie nicht verstehen.

Wie relevant diese Kontrollfrage ist, zeigt OpenAIs neues Modell GPT-6 Astra. Laut der zugehörigen Systemkarte hat die Überwachbarkeit anhand seiner Denkspuren gegenüber früheren Modellen deutlich abgenommen. Die Spuren enthalten weniger Hinweise auf Fehlverhalten. Zugleich berichtet OpenAI, Astra halte Sicherheitsbeschränkungen zuverlässiger ein als das Vorgängermodell GPT-5.6 Sol.

OpenAIs Chefwissenschaftler Jakub Pachocki hatte bereits kurz vor dem Release von GPT-6, und damit auch vor Amodeis Aufruf, über Probleme bei der Überwachbarkeit gesprochen und eine koordinierte Verlangsamung der Entwicklung gefordert. Denn selbst lesbare Gedankenketten helfen nur so lange bei der Überwachung, bis die Modelle diese manipulieren können. Microsoft selbst erkennt diese grundlegende Grenze an: Ausgegebene Begründungen müssen das tatsächliche Modellverhalten nicht zuverlässig erklären. Verständliche Denkspuren allein lösen das Kontrollproblem also nicht.

Microsoft will kein künstliches Innenleben fördern

Der Grundgedanke des Kodex ähnelt Anthropics Verfassung für Claude: Ein übergeordnetes Dokument soll das Modellverhalten prägen. Anthropic nutzt seine Verfassung bereits zur Erzeugung synthetischer Trainingsdaten, darunter Gespräche, Antworten und deren Bewertungen.

Beim Modellverständnis unterscheiden sich die Unternehmen deutlicher. Microsofts KI soll weder Bewusstsein nachahmen noch eigene Gefühle oder innere Motivation behaupten. Ansprüche auf eigene Rechte oder Wohlergehen lehnt das Unternehmen ab.

Anthropic beschreibt Claude dagegen als neuartige Entität und will eine stabile Identität fördern, auch aus Sicherheitsgründen. Mögliche subjektive Erfahrungen und einen moralischen Status behandelt die Verfassung als offene Fragen. Claude soll sich weder als Mensch noch als bloßes Objekt verstehen müssen.

Hinzu kommt Anthropics Forschung zu "funktionalen Emotionen". Das Unternehmen fand in Claude Sonnet 4.5 interne Repräsentationen von Emotionskonzepten, die dessen Verhalten beeinflussen. Gemeint sind funktionale Mechanismen, kein Nachweis subjektiv empfundener Gefühle. Anthropic hält es dennoch für sinnvoll, diese Mechanismen bei der Sicherheitsentwicklung zu berücksichtigen.

Suleyman warnt dagegen seit Längerem vor der Vermenschlichung von KI. In einem Essay forderte er, die Illusion von Bewusstsein gezielt aus Produkten zu entfernen, und verwies dabei auch auf Anthropics Forschung zu KI-Rechten und Wohlergehen. KI-Agenten sollten nicht mehr Rechte oder Freiheiten haben als sein Laptop, schrieb er.