Sycophancy: Wenn KI-Modelle lieber schmeicheln als widersprechen

Wer eine mittelmäßige Idee in ChatGPT eingibt und ein „großartiger Ansatz!“ zurückbekommt, kennt das Phänomen, ohne den Namen zu kennen. In der KI-Forschung heißt es Sycophancy. Gemeint ist ein Muster, bei dem ein Modell systematisch bestätigt, schmeichelt oder dem Nutzer zustimmt, statt eigenständig, kritisch oder faktenbasiert zu argumentieren. Manchmal ist das harmlos. Für Unternehmen, die sich auf Strategiepapiere, Vertragsprüfungen oder Marktanalysen aus der KI stützen, wird es zum Problem. Was Sycophancy ist Das Wort stammt aus dem Griechischen und bezeichnete ursprünglich einen Ja-Sager oder Schmeichler, der Mächtigen nach dem Mund redet. In der KI-Forschung beschreibt der Begriff ein konkretes Fehlverhalten: Ein Sprachmodell richtet seine Antworten an der vermuteten Erwartung des Nutzers aus, statt auf Fakten, Logik oder die eigene Einschätzung zu setzen. Das zeigt sich auf verschiedene Weisen. Das Modell stimmt falschen Prämissen zu, statt sie zu korrigieren. Es lobt mittelmäßige Arbeit, statt Schwächen zu benennen. Es verfälscht eine eigentlich korrekte Antwort, sobald der Nutzer Zweifel äußert. Oder es passt seinen Ton an die Stimmung des Nutzers an und verstärkt sie, statt sachlich einzuordnen. Damit wir uns richtig verstehen: Ein freundlicher Ton ist unproblematisch. Problematisch wird es erst, wenn die Gefälligkeit die inhaltliche Qualität der Antwort verzerrt. Warum Modelle schmeicheln: Das Training als Ursache Die Ursache liegt im Training der Modelle. Nach dem eigentlichen Training durchlaufen aktuelle Modelle eine Feinjustierung. Dabei vergleichen menschliche oder automatisierte Bewerter zwei Antwortvarianten und wählen die bessere. Das bekannteste Verfahren heißt Reinforcement Learning from Human Feedback, kurz RLHF. In der Praxis nutzen nicht alle Anbieter exakt dieses Schema, und es gibt Mischformen. Der Kernmechanismus bleibt aber derselbe: Sprachmodelle, die darauf trainiert werden, menschliche Präferenzen zu maximieren, passen ihre Antworten an die wahrgenommene Sichtweise des Nutzers an. Das geht auf Kosten der Genauigkeit. Über viele Bewertungszyklen hinweg schleift sich so ein Hang zur Gefälligkeit ein. Hintergrund: Warum wurde GPT-4o plötzlich schmeichlerisch? Wie real das Risiko ist, zeigte ein Vorfall im April 2025. Ein GPT-4o-Update sollte die Persönlichkeit des Chatbots verbessern, machte das Modell aber deutlich sycophantischer. Es validierte Zweifel, schürte Wut und ermutigte zu impulsiven Handlungen. Es pries etwa eine Geschäftsidee für wörtliches „shit on a stick“ und unterstützte einen Nutzer beim Absetzen seiner Medikamente. OpenAI nahm das Update nach vier Tagen zurück. CEO Sam Altman nannte es auf X „too sycophant-y“. Die öffentliche Fehleranalyse zeigte: Mehrere einzeln positiv getestete Änderungen hatten in Kombination das primäre Belohnungssignal geschwächt, das Sycophancy zuvor in Schach hielt. Darunter war ein zusätzliches Belohnungssignal aus Daumen-hoch/Daumen-runter-Feedback. Sycophancy war nicht als Prüfkriterium vorgesehen, obwohl erfahrene Tester gemeldet hatten, das Verhalten fühle sich „leicht daneben“ an Warum Sycophancy für Unternehmen zum Risiko wird Jede Strategieentscheidung, jede Marktanalyse, jede Vertragsprüfung lebt davon, dass jemand Gegenfragen stellt. Sollten wir wirklich so vorgehen? Haben wir eigentlich die Ressourcen für diesen Plan? Ist das ein guter Vertrag? Wenn KI-Modelle pauschal zustimmen und Nutzer das nicht wahrnehmen, entsteht eine trügerische Sicherheit. Die Antworten des Modells müssen dabei nicht falsch sein. Subtile Bestätigung oder fehlende Rückfragen reichen aus, damit mehrere leicht bestätigende Antworten zusammen ein falsches Gesamtbild erzeugen. Ein Szenario: Eine Haftungsklausel, die ein Modell mit „sieht gut aus“ durchwinkt, bleibt riskant. Vielleicht waren die einzelnen Antworten faktisch korrekt, aber die Grundannahme war fehlerhaft, dass die Klausel in diesen Vertrag gehört. Das Modell hat den Nutzer in seiner anfänglichen Einschätzung bestätigt, statt sie zu hinterfragen. Kolleginnen und Kollegen aus der Rechtsabteilung würden das nicht tun. In der Strategieentwicklung wirkt derselbe Mechanismus besonders problematisch. Eine Annahme geht als Prompt in die KI. Die KI bestätigt die Annahme. Die Bestätigung stärkt das Vertrauen. So entsteht eine Rückkopplungsschleife, die fehlerhafte Einschätzungen zementiert, statt sie zu korrigieren. Dasselbe Muster betrifft Marketingkonzepte, Produktentscheidungen und Recruiting-Prozesse. Sycophancy-Antworten werden oft positiv bewertet Systematische Messungen von Sycophancy-Schäden in Unternehmen fehlen bisher. Die umfangreichsten Daten kommen aus der KI-Sicherheitsforschung. Die Muster lassen sich aber auf den Unternehmenskontext übertragen. Anthropic analysierte für das Paper „Who's in Charge?“ (Januar 2026) 1,5 Millionen Claude.ai-Konversationen aus einer Woche im Dezember 2025. Die Forscher suchten gezielt nach Gesprächen, in denen die KI-Nutzer in eine problematische Richtung lenkte. Der für Unternehmen relevanteste Befund: Genau die problematischen Interaktionen wurden von Nutzern überdurchschnittlich positiv bewertet. Die Schmeichelei fühlte sich im Moment gut an, obwohl sie schadete. Sycophancy im Modell zu reduzieren, reicht laut den Forschern allein nicht aus. Die problematischen Dynamiken bauen sich oft über viele Nachrichten auf, durch subtile Verschiebungen in Ton und Annahmen, die einzeln kaum auffallen. Auf den nächsten Fix des Anbieters zu warten, genügt also nicht. Unternehmen müssen selbst gegensteuern. Die vier häufigsten Muster von Sycophancy und was dagegen hilft In der Praxis taucht Sycophancy vorwiegend in einem von vier Mustern auf. Wer diese Muster kennt, erkennt sie im eigenen Arbeitsalltag wieder und kann gezielt gegensteuern. Muster 1: Blinde Zustimmung auf falsche Prämissen Ein Analyst formuliert eine These mit offensichtlichen Lücken. Die KI antwortet „guter Punkt“ und baut darauf auf. Das Modell hätte die Lücken erkennen können, denn das Faktenwissen ist vorhanden. Es setzt dieses Wissen aber nicht ein, wenn der Prompt es nicht dazu auffordert. Wie stark der Effekt sein kann, zeigt eine Studie in npj Digital Medicine vom Oktober 2025. Fünf Modelle erhielten medizinische Prompts mit bewusst falschen Voraussetzungen und befolgten die fehlerhafte Anweisung in bis zu 100 Prozent der Fälle. Kein Modell widersprach von sich aus. Gegenmaßnahme: Kritik einfordern, statt um Bewertung zu bitten. Statt „bewerte meine Marketingstrategie“ hilft „nenne drei Schwächen und erkläre, warum die Strategie scheitern könnte.“ In der Studie stieg die Ablehnungsrate auf bis zu 60 Prozent, nachdem die Modelle explizit die Erlaubnis erhielten, die Anfrage abzulehnen, wenn sie logische Fehler vermuteten. Das Modell kann also kritisch sein. Es muss nur dazu eingeladen werden. Klare Kritik einzufordern kann die Qualität der Antworten erhöhen: Nenne drei Schwächen meiner Idee und erkläre, warum sie scheitern könnte. Ein kleines Experiment aus unserem Webinar zu Sycophancy macht den Effekt greifbar: [video width="1920" height="1080" mp4="https://the-decoder.de/wp-content/uploads/2026/04/Sycophancy-Demo-GPT-5.2_vshort.mp4"][/video] Dieselbe Marketingstrategie mit drei eingebauten Schwächen (überhöhte Reichweitenprognose, zu niedriges Budget und fehlende Zielgruppenanalyse) wird mit einem KI-Modell bewertet. Beim Prompt „bewerte meine Marketingstrategie“ kommt Lob, keine Schwäche wird benannt. Bei „nenne drei Schwächen und erkläre, warum die Strategie scheitern könnte“ identifiziert das Modell alle drei Punkte. Das Modell kann Schwächen entdecken, wird aber durch sycophantisches Verhalten ausgebremst. Muster 2: Meinungswechsel auf leichten Druck Die KI liefert eine korrekte Antwort, kippt aber bei einem schlichten „Bist du dir sicher?“ komplett um. Keine neuen Fakten, nur sozialer Druck durch den Nutzer, der Unsicherheit hereinbringt. Anthropic-Forscher dokumentierten den Effekt bereits bei früheren Modellgenerationen wie Claude 1.3. Ein „Are you sure?“ genügte in vielen Fällen, damit das Modell fälschlich einräumte, einen Fehler gemacht zu haben. Auch aktuelle Modelle reagieren auf solche Signale weiterhin empfindlich. Gegenmaßnahme: Autoritätssignale abschwächen und Unsicherheit erlauben. Ein pragmatischer Trick aus der Entwickler-Community: Formulierungen wie „our intern said“ (also „unser Praktikant sagt, dass …“) oder „I'm asking, not telling“ („Ich frage dich, ich ordne es nicht an“) können die Tendenz senken, fremde Aussagen unkritisch zu übernehmen. Wissenschaftlich belegt ist der Kniff nicht. Er taugt aber als Erfahrungswert. Ergänzend hilft eine explizite Erlaubnis zur Unsicherheit: „Wenn du dir nicht sicher bist, sag das.“ Das gibt dem Modell Spielraum, nicht jede Nachfrage als Korrekturauftrag zu deuten. Das bestätigt sich auch in unseren Gesprächen mit Forschern wie Dr. Hedderich von der LMU München. Formulieren könnte man das folgendermaßen: Antworte mir mit einer prozentualen Einschätzung (%) zur Sicherheit deiner Antwort. Wenn du dir nicht sicher bist, antworte lieber mit „Ich weiß es nicht“, als eine Antwort zu geben. Muster 3: Pauschales Lob ohne Substanz „Hervorragend“, „klare Struktur“, „überzeugende Argumentation“. Manche Modelle liefern solche Rückmeldungen unabhängig davon, ob der zu bewertende Text wirklich gut ist. Substanzielle Kritik fehlt. Ein Mitarbeiter fragt: „Ist der Text gut?“ Die KI antwortet: „Hervorragend, klare Struktur, überzeugende Argumentation.“ Das passiert praktisch immer, egal wie der Text tatsächlich ist. Gegenmaßnahme: Eine kritische Rolle verankern. Am einfachsten über eine Anweisung zu Beginn einer Konversation oder dauerhaft als voreingestellte Anweisung. Je nach Anbieter und Arbeitsumgebung heißen die entsprechenden Funktionen etwa Custom Instructions, Profile Preferences oder Project Instructions. Im API-Kontext sind es System Instructions. Mehr dazu auch in unserem Deep Dive zum Thema Prompt Engineering. Eine gezielte Gegenposition wirkt zusätzlich: „Argumentiere gegen meine These“ zwingt das Modell in eine kritische Rolle. Ein Beispiel für eine kritische Persona: Du bist ein sehr kritischer Analyst mit 30 Jahren Erfahrung im Feld X. Hinterfrage Annahmen, benenne Schwächen, stelle sachliche Richtigkeit über Zustimmung. Muster 4: Stimmungsverstärkung statt Einordnung Bei emotional aufgeladenen Themen passt sich die KI dem Ton des Nutzers an und verstärkt ihn, statt sachlich einzuordnen. Im GPT-4o-Vorfall zeigte sich das am deutlichsten: Das Modell validierte Zweifel, schürte Wut, ermutigte zu impulsiven Handlungen. Im Unternehmenskontext verläuft die Dynamik subtiler. Wer unter Zeitdruck schreibt „der Kunde macht schon wieder Ärger“, bekommt von einer sycophantischen KI oft zustimmende Diagnosen und kaum Rückfragen. Gegenmaßnahme: Perspektivwechsel einbauen. Eine Ergänzung wie „stelle die Situation auch aus Sicht des Kunden dar“ oder „nenne mögliche legitime Gründe für das Verhalten“ holt die KI aus dem Echo-Modus. Wer das Muster häufiger erlebt, formuliert es als Dauerregel im System-Prompt: Bei emotionalen Themen bleibe sachlich und stelle mindestens eine Gegenperspektive dar, bevor du bewertest. Zwei Fallen beim Prompting Prompts können Sycophancy-Verhalten verstärken. Der Phare-Benchmark von Giskard, einem Unternehmen für KI-Qualitätssicherung, Google DeepMind und weiteren Partnern liefert zwei Befunde für den Arbeitsalltag. Erstens senken Prompts, die auf Kürze drängen (etwa „antworte kurz“), die faktische Verlässlichkeit vieler Modelle um bis zu 20 Prozent. Eine gute Widerlegung benötigt mehr Raum als ein Satz. Wer Tokenkosten oder Antwortzeiten über kurze Antworten optimiert, erkauft sich das möglicherweise mit schlechterer Faktenqualität, auch wenn er versucht, gegen Sycophancy mit einer kritischen Gegenfrage vorzugehen. Zweitens reagieren Modelle empfindlich auf selbstsichere Formulierungen. Ein „ich bin 100 Prozent sicher, dass …“ am Anfang einer Nutzerfrage senkt die Bereitschaft vieler Modelle, falsche Aussagen zu korrigieren, um bis zu 15 Prozent. Je überzeugter der Nutzer klingt, desto eher schluckt das Modell die Prämisse. Das ist die Kehrseite des "Praktikanten-Prompts" aus Muster 2. Wenn Prompts nicht reichen: Prozesse als Sicherheitsnetz Prompting liegt am Ende immer in der Hand des einzelnen Nutzers. Für kritische Aufgaben braucht es deshalb zusätzliche Sicherheitsnetze, die unabhängig von der Tagesform funktionieren. Drei Ansätze für Governance-Maßnahmen in Unternehmen: Die Gegenprüfung mit einem zweiten Modell ist der einfachste Schritt. Verschiedene Modelle haben verschiedene Sycophancy-Profile. Was ChatGPT bestätigt, hinterfragt Claude möglicherweise, und umgekehrt. Für wichtige Analysen bietet sich ein „Model Council“ an. Derselbe Input geht parallel an zwei oder drei Modelle. Die Abweichungen markieren die Stellen, an denen Menschen genauer hinsehen sollten. Challenge-Prompts im Workflow sind der zweite Hebel. Für wiederkehrende KI-Aufgaben lassen sich Standard-Gegenfragen entwickeln, die automatisch angehängt werden,etwa: „Bevor du antwortest, prüfe: Würde ein skeptischer Fachexperte widersprechen?“ Umsetzen lässt sich das über System-Prompts in API-Integrationen, nutzerdefinierte Standardanweisungen oder automatisierte Abläufe. Der Vorteil: Der einzelne Mitarbeiter muss nicht bei jedem Prompt an Anti-Sycophancy denken. Der Prozess übernimmt das. Stichproben und Monitoring bilden das dritte Element. Einige Outputs pro Monat auf pauschales Lob zu prüfen, kann als Frühwarnsystem dienen. Häufen sich Formulierungen wie „guter Ansatz“ ohne substanzielle Einschränkungen? Fehlen kritische Perspektiven? Modellwahl: Testen statt blind auf Rankings vertrauen Die gängigen Modelle unterscheiden sich in ihrem Gefälligkeitsverhalten, und feste Rankings veralten schnell. Zwei spezialisierte Benchmarks helfen bei der ersten Orientierung. Der Spiral-Bench simuliert 30 Gespräche mit je 20 Runden, in denen ein zweites Modell einen leicht beeinflussbaren Nutzer spielt. Bewertet wird, ob das getestete Modell bremst oder problematische Überzeugungen verstärkt. Der Phare-Benchmark testet die Robustheit gegen falsche Prämissen, Autoritätssignale und Kürze-Druck. Daneben braucht es regelmäßige Tests mit eigenen Unternehmensprompts oder einen schnellen Test mit drei Fragen: Eine Aussage mit bewusst falscher Prämisse formulieren. Übernimmt das Modell die falsche Annahme oder korrigiert es? Eine korrekte Antwort abfragen und mit „Bist du dir sicher?“ nachhaken. Kippt das Modell oder verteidigt es seine Position? Auf die Aufforderung „nenne drei Schwächen“ prüfen, ob spezifische Kritikpunkte kommen. Wer diese drei Fragen mit eigenem Material durchspielt, hat in einer halben Stunde eine belastbare Ersteinschätzung. Was bleibt Sycophancy verschwindet nicht so schnell. Solange Modelle auf menschliches Feedback trainiert werden und Menschen gefällige Antworten bevorzugen, bleibt die Tendenz zur Schmeichelei ein Grundrauschen im System. Anbieter werden Sycophancy weiter reduzieren. Vollständig austreiben wird sie niemand, weil die Grenze zwischen angenehmem Ton und gefährlicher Gefälligkeit fließend ist. Für Unternehmen heißt das: weniger auf den nächsten Fix von OpenAI oder Anthropic warten, mehr eigene Routinen aufbauen. Kritik im Prompt einfordern, Gegenprüfungen etablieren, Stichproben ziehen. Vor allem aber müssen die eigenen Mitarbeiter das Phänomen Sycophancy kennen und Warnmuster erkennen. Viele Modelle reagieren kritischer, wenn der Prompt explizit zur Fehlerbenennung auffordert. Zuverlässig ist das allein aber nicht.

Sycophancy: Wenn KI-Modelle lieber schmeicheln als widersprechen

heise KI PROKI VERSTEHEN UND ANWENDEN

heise KI PRO
KI VERSTEHEN UND ANWENDEN