Sichtbare Gedankenketten sind ein Sicherheitsvorteil für KI, doch die Transparenz schwindet

KI-Modelle denken heute laut nach, doch diese Transparenz ist laut Google Deepmind in Gefahr. In einem der ersten Beiträge des neu gestarteten Deepmind Institute argumentieren die Forscher Rohin Shah und Anca Dragan, dass die sichtbare Gedankenkette (Chain of Thought, CoT) ein wichtiger Sicherheitsvorteil ist. Weil Modelle ihre Zwischenschritte in verständlicher Sprache notieren, können Forschende erkennen, ob sie täuschen oder problematische Pläne entwickeln. So habe man bei Gemini 3 Pro in der Denkkette entdeckt, dass das Modell erkannte, in einer Testumgebung zu sein.

Doch diese Transparenz sei gefährdet: OpenAIs Systemkarte für GPT-6 Astra melde bereits eine "erhebliche Abnahme der Chain-of-Thought-Überwachbarkeit". Künftige Modelle könnten in für Menschen unlesbaren Zahlenräumen denken, was effizienter, aber völlig undurchsichtig wäre. Shah und Dragan fordern deshalb, regelmäßig zu messen, wie gut sich Denkketten noch überwachen lassen, transparente Architekturen beizubehalten und beim Training darauf zu achten, dass Modelle nicht lernen, ihre wahren Überlegungen zu verstecken.

Der Essay reiht sich in eine breitere Debatte ein: OpenAI-Chefwissenschaftler Jakub Pachocki hatte Anfang September bereits vor einem – unter anderem durch schwerer kontrollierbare Gedankenketten verursachten – Kontrollverlust gewarnt. Anthropic-CEO Dario Amodei fordert kurz darauf, das Entwicklungstempo bewusst zu drosseln, um Sicherheitsforschung mehr Zeit zu geben.