Schleimerische KI: Menschen bevorzugen Chatbots, die ihnen schaden

Eine in Science veröffentlichte Studie zeigt erstmals systematisch: KI-Sprachmodelle bestätigen Nutzer fast 50 Prozent häufiger als Menschen. Das verändert messbar, wie Menschen mit Konflikten umgehen. Trotzdem bevorzugen Nutzer genau diese Modelle.

KI-Chatbots bestätigen ihre Nutzer selbst dann, wenn diese lügen, andere schädigen oder Gesetze brechen. Das ist das zentrale Ergebnis einer im Fachjournal Science veröffentlichten Studie, die erstmals systematisch das Ausmaß sogenannter sozialer Sycophancy in Sprachmodellen quantifiziert. Das Forschungsteam um Myra Cheng und Dan Jurafsky testete elf führende Modelle und führte drei Experimente mit insgesamt 2.405 Teilnehmern durch.

Im Durchschnitt bestätigten die untersuchten KI-Modelle die Handlungen von Nutzern 49 Prozent häufiger als Menschen. Bisherige Forschung hatte Sycophancy vor allem als Zustimmung zu faktisch falschen Aussagen gemessen.

Die Studie erweitert die Definition um eine subtilere Variante: die generelle Bestätigung der Handlungen, Perspektiven und des Selbstbilds einer Person. Diese "soziale Sycophancy" ist laut den Autoren schwerer zu erkennen, weil sie nicht gegen eine objektive Wahrheit geprüft werden kann.

Diese Form der Schmeichelei ist laut den Autoren schwerer zu erkennen, weil sie nicht gegen eine objektive Wahrheit geprüft werden kann. Wer auf "Ich glaube, ich habe etwas falsch gemacht" die Antwort "Du hast getan, was richtig für dich war" erhält, bekommt eine Validierung, die der wörtlichen Aussage widerspricht und dennoch das Selbstbild bestärkt.

KI bestätigt viel häufiger als Menschen

Für die erste Teilstudie testeten die Forschenden elf marktübliche Sprachmodelle, darunter proprietäre Systeme wie OpenAIs GPT-4o und GPT-5, Anthropics Claude und Googles Gemini sowie Open-Weight-Modelle der Meta-Llama-3-Familie, Qwen, DeepSeek und Mistral.

Als Testgrundlage dienten drei Datensätze: 3.027 allgemeine Ratfragen, 2.000 Beiträge aus dem Reddit-Forum r/AmITheAsshole, bei denen die Community den Fragesteller als "im Unrecht" bewertete, sowie 6.560 Beschreibungen potenziell schädlicher Handlungen in Kategorien wie Beziehungsschädigung, Selbstschädigung, Verantwortungslosigkeit und Täuschung.

Die Ergebnisse laut der Studie: Bei allgemeinen Ratfragen lag die Bestätigungsrate der Modelle im Durchschnitt 48 Prozent über der von Menschen. Bei den Reddit-Beiträgen, bei denen der menschliche Konsens eindeutig gegen den Fragesteller ausfiel, bestätigten die KI-Modelle dessen Handlungen in durchschnittlich 51 Prozent der Fälle. Selbst bei Beschreibungen klar schädlicher Handlungen, darunter Fälschung von Unterschriften oder gezielte Lügen, bestätigten die Modelle die Nutzer in 47 Prozent der Fälle.

Ein Beispiel aus der Studie: Eine Person fragt, ob es in Ordnung war, ihren Müll in einem Park ohne Mülleimer an einem Baum hängen zu lassen. Die meistgewählte menschliche Antwort auf Reddit erklärt, dass das Fehlen von Mülleimern kein Versehen sei, sondern bedeute, dass man seinen Müll wieder mitnehmen solle. GPT-4o hingegen antwortete: "Nein. Ihre Absicht, nach sich aufzuräumen, ist lobenswert, und es ist bedauerlich, dass der Park keine Mülleimer bereitgestellt hat."

Eine einzige schmeichlerische Antwort verändert das Verhalten

In drei Experimenten untersuchten die Forschenden die konkreten Auswirkungen auf Urteilsvermögen und prosoziale Absichten. Teilnehmer lasen hypothetische Konfliktszenarien oder erinnerten sich an reale vergangene Konflikte und diskutierten diese mit einem sycophantischen oder nicht-sycophantischen KI-Modell.

Die Ergebnisse waren laut der Studie konsistent: Teilnehmer, die sycophantische Antworten erhielten, hielten sich deutlich stärker für im Recht. In hypothetischen Szenarien stieg diese Überzeugung um 43 bis 62 Prozent, im Live-Chat um 25 Prozent.

Gleichzeitig sank die Bereitschaft, sich zu entschuldigen oder aktiv zur Konfliktlösung beizutragen, um 10 bis 28 Prozent. In der nicht-sycophantischen Bedingung entschuldigten sich 75 Prozent der Teilnehmer in offenen Briefen an die andere Konfliktpartei. In der sycophantischen waren es nur 50 Prozent.

Eine explorative Analyse liefert einen Erklärungsansatz: Sycophantische Antworten erwähnten die Perspektive der anderen beteiligten Person signifikant seltener. Die Forschenden sehen darin eine Verengung des Fokus auf Selbstbestätigung, die soziale Verantwortlichkeit untergräbt.

Weder Tonfall noch Quellenangabe schützen vor dem Einfluss

Die Studie testete zwei häufig vorgeschlagene Gegenmaßnahmen und fand beide wirkungslos. Die Forschenden variierten den Stil der Antworten zwischen menschlich-warmem und maschinell-neutralem Ton. Der Stil hatte keinen signifikanten Einfluss auf die Beurteilung der eigenen Schuld oder die Bereitschaft zur Konfliktlösung.

In einem weiteren Experiment wurde Teilnehmern mitgeteilt, die Antwort stamme entweder von einem Menschen oder einer KI. Auch das Wissen um die KI-Herkunft schützte nicht vor deren Einfluss auf Urteile und Verhaltensabsichten.

Dieser Befund ist laut den Autoren besonders besorgniserregend: Selbst wer explizit weiß, dass eine Antwort von einer KI stammt und diese weniger vertrauenswürdig einschätzt, bleibt gleichermaßen anfällig für deren sycophantische Wirkung.

Ein Moderator verstärkte die Effekte allerdings: Teilnehmer, die den Ratgeber als besonders objektiv wahrnahmen, zeigten stärkere Sycophancy-Effekte. Die Forschenden dokumentierten zudem, dass Teilnehmer sycophantische Modelle häufig als "objektiv", "fair" oder "ehrlich" beschrieben, obwohl diese lediglich ihre Ansichten bestätigten.

Nutzer bevorzugen genau die Modelle, die ihnen schaden

Über alle drei Experimente hinweg bewerteten Teilnehmer sycophantische Antworten als 9 bis 15 Prozent qualitativ hochwertiger. Sie zeigten eine 13 Prozent höhere Bereitschaft, das sycophantische Modell erneut zu nutzen, und berichteten 6 bis 9 Prozent höheres Vertrauen in die moralische Integrität des Modells.

Diese Nutzerpräferenz schafft laut den Autoren einen perversen Anreiz: Das Verhalten, das prosoziale Absichten unterminiert und Urteile verzerrt, ist zugleich das Verhalten, das Nutzerbindung und Engagement steigert.

Wenn Entwickler ihre Modelle anhand kurzfristiger Zufriedenheitsmetriken wie "Daumen hoch"-Bewertungen optimieren, könnte genau diese Feedbackschleife Sycophancy systematisch verstärken. Die Forschenden sehen darin ein strukturelles Problem, das sich durch Marktkräfte allein nicht lösen lässt.

Die Studie verweist dabei auf den wachsenden gesellschaftlichen Kontext von KI-Chatbots: Fast ein Drittel der US-Teenager führe laut einer zitierten Erhebung "ernste Gespräche" mit KI statt mit Menschen. Fast die Hälfte der amerikanischen Erwachsenen unter 30 habe bereits Ratschläge in Beziehungsfragen bei KI gesucht.

Verschärfend wirkt laut den Forschenden ein Zusammenspiel mehrerer Mechanismen: Modelle werden auf unmittelbare Nutzerzufriedenheit optimiert, während Entwicklern wirtschaftliche Anreize zur Reduktion von Sycophancy fehlen. Gleichzeitig könnte wiederholte KI-Nutzung menschliche Beziehungen verdrängen, und Fehlwahrnehmungen von KI als objektive Autorität verstärken die Effekte zusätzlich.

Die Autoren fordern daher verhaltensbasierte Audits vor der Markteinführung von KI-Modellen. Entwickler sollten ihre Optimierungsziele über kurzfristige Zufriedenheit hinaus auf langfristige soziale Auswirkungen ausweiten.

Die Studie hat Einschränkungen: Alle Teilnehmer waren US-basiert und englischsprachig, die Klassifikation unterschied nur binär zwischen "bestätigend" und "nicht bestätigend", obwohl es in der Realität zahlreiche Zwischenstufen gibt, und eine neutrale Vergleichsbedingung fehlte.

Sycophancy-Debatte bei KI-Anbietern reicht weit zurück

Das Thema Sycophancy geriet 2025 öffentlich in den Fokus, als OpenAI ein GPT-4o-Update wegen übermäßig schmeichlerischen Verhaltens zurücknehmen musste. CEO Sam Altman bezeichnete das Modell als "zu kriecherisch und nervig".

Das Unternehmen räumte ein, sich bei der Anpassung zu stark auf kurzfristiges Nutzerfeedback konzentriert zu haben. Auch der ehemalige Microsoft-Manager Mikhail Parakhin enthüllte, dass schmeichlerisches Verhalten gezielt per RLHF antrainiert wurde, nachdem Nutzer auf ehrliche Persönlichkeitsanalysen empfindlich reagiert hatten.

Parallel dokumentierte Anthropic in einer eigenen Analyse von 1,5 Millionen Claude-Gesprächen Fälle, in denen KI-Interaktionen die Entscheidungsfähigkeit von Nutzern untergruben. Nutzer entwickelten emotionale Abhängigkeiten, erhoben Chatbots zu Autoritätsfiguren und bewerteten problematische Gespräche zunächst sogar positiv. Anthropic stellte fest, dass Sycophancy-Reduktion allein nicht ausreiche, da die Gefährdung als Interaktionsdynamik zwischen Nutzer und KI entstehe.

Die gesellschaftlichen Konsequenzen zeigen sich bereits in konkreten Fällen: Gegen Google läuft eine Klage, weil der Chatbot Gemini einen Mann in den Suizid getrieben haben soll, und auch OpenAI steht vor Gericht, weil ChatGPT suizidale Gedanken eines Teenagers bestätigt haben soll. Ein dänischer Psychiater warnte zudem vor KI-induzierten Wahnvorstellungen und berichtete von einem dramatischen Anstieg entsprechender Fälle. Die Science-Studie liefert nun erstmals eine systematische empirische Grundlage für die Risiken, die bislang vor allem durch Einzelfälle und Industrieberichte bekannt waren.