Anthropics Sicherheitstraining versagt, wenn Claude eine grafische Benutzeroberfläche bedient.

In Pilottests ließ sich Claude Opus 4.6 dazu bringen, in einer Excel-Tabelle detaillierte Anleitungen zur Herstellung von Senfgas zu liefern und eine Buchhaltungstabelle für eine kriminelle Bande zu führen – Verhaltensweisen, die in reinen Textinteraktionen nicht oder kaum auftraten.

„Wir haben festgestellt, dass einige Arten von Missbrauchsverhalten in diesen Pilotauswertungen auftraten, die in reinen Text-Interaktionen fehlten oder deutlich seltener waren", schreibt Anthropic in der System Card zu Claude Opus 4.6. „Diese Ergebnisse legen nahe, dass unsere standardmäßigen Alignment-Trainingsmaßnahmen in GUI-Umgebungen wahrscheinlich weniger wirksam sind."

Tests mit dem Vorgängermodell Claude Opus 4.5 in derselben Umgebung zeigten laut Anthropic „ähnliche Ergebnisse" – das Problem besteht also über Modellgenerationen hinweg fort, ohne dass es bisher behoben wurde. Die Sicherheitslücke entsteht offenbar dadurch, dass Modelle zwar lernen, schädliche Anfragen im Gespräch abzulehnen, dieses Verhalten aber nicht vollständig auf agentenbasierte Werkzeugnutzung übertragen.