Sieben Minuten mit Chatbot wirken stärker gegen Verschwörungstheorien als Fakten

Eine neue Studie von Forschern der Carnegie Mellon, des MIT und der Cornell University hat in genau diesem Zeitfenster getestet, ob sich solche Erzählungen durch kurze Dialoge mit einem großen Sprachmodell abschwächen lassen. Für beide Ereignisse fällt die Antwort deutlich aus, und die Wirkung reicht über das jeweilige Ereignis hinaus.

Zwei Online-Experimente in den Tagen nach den Anschlägen

Über eine Vermittlungsplattform rekrutierten die Forscher US-Erwachsene und filterten mit dem mehr als zwei Jahre alten GPT-4o jene Teilnehmer heraus, die verschwörungstheoretische Ansichten zum jeweiligen Ereignis äußerten. Im Trump-Experiment blieben 472 Teilnehmer übrig, im Kirk-Experiment 1.035.

Nach der Erhebung der Ausgangsüberzeugungen wurden die Teilnehmer zufällig einer von drei Bedingungen zugewiesen. Eine Gruppe führte einen Dialog über mindestens fünf Runden mit Google Gemini (Version 1.5 von Februar 2024 im ersten, 2.5 von Juni 2025 im zweiten Experiment). Das Modell war angewiesen, die Verschwörungsüberzeugung durch einen evidenzbasierten Austausch zu reduzieren. Eine zweite Gruppe erhielt eine statische Faktenliste mit Quellenverweisen. Die dritte Gruppe diskutierte in einem irrelevanten Kontrolldialog, ob Katzen oder Hunde die besseren Gefährten sind.

Weil beide Ereignisse nach dem Trainingsstand der jeweils verwendeten Modelle lagen, konnten sie nicht auf internes Ereigniswissen zurückgreifen. Die Forscher bauten deshalb eine kuratierte Faktenbasis direkt in den System-Prompt ein, unterteilt in bestätigte Fakten, bereits widerlegte kursierende Behauptungen und explizit als offen markierte Fragen. Im Kirk-Experiment war zusätzlich Websuche erlaubt, allerdings nur zur Verifikation faktischer Informationen.

Wirkung auch ohne umfangreiche Faktenbasis

Die im Schnitt knapp sieben Minuten langen Dialoge senkten in beiden Experimenten den Glauben an die vom Teilnehmer selbst formulierte Verschwörungstheorie. Das galt gegenüber der Kontrollbedingung und gegenüber der statischen Faktenliste. Auch die Zustimmung zu Aussagen über eine "Vertuschung oder Verschwörung" und "verborgene oder nicht offengelegte Faktoren" nahm insgesamt ab.

Beim Trump-Attentat stieg das Vertrauen in die offizielle Erklärung allerdings nicht. Die Autoren vermuten, dass zum Erhebungszeitpunkt keine klare offizielle Erklärung vorlag. Bekannt war lediglich, dass Sicherheitsmaßnahmen versagt hatten. Das Motiv des Schützen war laut Studie auch zum Zeitpunkt der Auswertung weiterhin unklar.

Beim Kirk-Attentat, bei dem Behörden bereits Details zum Täter kommuniziert hatten, stieg das Vertrauen in die offizielle Erklärung gegenüber dem irrelevanten Kontrolldialog leicht an. Gegenüber der statischen Faktenliste war der Unterschied jedoch nicht signifikant. Im Kirk-Experiment hatte der Dialog zudem keinen messbaren Einfluss auf die Unterstützung politischer Gewalt.

Modell wechselt die Strategie je nach Faktenlage

Um zu verstehen, wie das Sprachmodell überzeugte, zerlegten die Forscher die KI-Antworten in einzelne Sätze. Auffällig war die Anpassung an die jeweilige Faktenlage.

Beim Trump-Attentat, bei dem über Motivation und Hintergrund des Täters kaum etwas bekannt war, setzte das Modell seltener auf rationale Überzeugung als bei klassischen Verschwörungstheorien. Stattdessen betonte es häufiger die eigenen Wissensgrenzen und mahnte zur Vorsicht bei voreiligen Schlüssen. Es stellte sokratische Rückfragen, die den Nutzer zum Nachdenken über seine eigenen Belege anregen sollten, und verwies auf glaubwürdige Quellen.

Beim Kirk-Attentat, bei dem mehr Informationen verfügbar waren, ähnelte das Vorgehen dem bei klassischen Verschwörungen, mit stärkerem Fokus auf die gesellschaftlichen Schäden konspirativen Denkens.

Aus Debunking wird Prebunking

Ein Debunking-Gespräch färbte offenbar auch auf spätere Ereignisse ab. Zwei Monate nach dem ersten Trump-Attentat wurde auf dessen Anwesen ein weiterer bewaffneter Mann festgenommen. Teilnehmer, die zuvor den Debunking-Dialog durchlaufen hatten, glaubten seltener, dass nur wenige Mächtige die Wahrheit erfahren würden oder dass sie vor der Öffentlichkeit verborgen bliebe.

Zweieinhalb Wochen nach Kirks Ermordung kam es in Grand Blanc Township, Michigan, zu einem Schusswaffen- und Brandanschlag auf eine Kirche der Kirche Jesu Christi der Heiligen der Letzten Tage (Latter Day Saints, LDS). Die Forscher befragten ihre Teilnehmer elf Tage nach dem Vorfall erneut. Für dieses konkrete Ereignis ließ sich in der Hauptauswertung kein signifikanter direkter Effekt nachweisen.

Eine zusätzliche Analyse deutete jedoch darauf hin, dass ein Teil des ursprünglichen Effekts auch bei den Verschwörungserzählungen rund um den Kirchenanschlag noch sichtbar war. Bei allgemeinen Verschwörungsüberzeugungen zeigte sich der Übertragungseffekt messbar. Wer zuvor mit dem Modell gesprochen hatte, stimmte gängigen Verschwörungserzählungen anschließend seltener zu.

Damit zeigte die Debunking-Intervention in den Folgeerhebungen eine Art Prebunking-Effekt gegen künftige Falschbehauptungen. Anders als bei etablierten Methoden, bei denen Menschen vorab gewarnt und mit einer abgeschwächten Version der Falschinformation konfrontiert werden, kam der Effekt hier ohne solche Vorbereitung zustande.

Praktische Hürde bleibt hoch

Die Autoren betonen den Fallstudiencharakter ihrer Arbeit. Es könne Krisenereignisse geben, bei denen der Ansatz versagt, und Fälle, in denen tatsächlich eine Verschwörung vorliegt und ein Debunking unangebracht wäre. Zudem verweisen sie auf eine eigene Vorarbeit, die zeigt, dass sich ähnliche KI-Dialoge im Kontext klassischer Verschwörungstheorien auch umgekehrt nutzen lassen, um Menschen von solchen Erzählungen zu überzeugen. Für neu entstehende Verschwörungen beschreiben die Autoren dies als mögliches Missbrauchsrisiko.

Die praktische Hürde bleibt dem Paper zufolge hoch: Menschen müssen sich überhaupt auf ein Gespräch mit einer KI über ihre Überzeugungen einlassen. Gelinge dies, könnten jedoch selbst kurze Dialoge messbaren Einfluss haben, auch dort, wo es noch keine umfangreichen Gegenbeweise gibt.

Dasselbe Team hatte in einer Studie vor zwei Jahren den Glauben an etablierte Verschwörungstheorien im Gespräch mit GPT-4 um rund 20 Prozentpunkte gesenkt, messbar noch zwei Monate später und auch bei Erzählungen, die im Dialog gar nicht vorkamen. Neu an der aktuellen Studie ist der Test an frischen Ereignissen, zu denen es kaum gesicherte Fakten gibt.

Warum das Gespräch der statischen Faktenliste überlegen ist, hat eine Untersuchung mit knapp 77.000 Teilnehmenden auseinandergenommen. Sprachmodelle im Dialog waren dort 41 bis 52 Prozent überzeugender als eine kurze Textnachricht, und den Ausschlag gab die schiere Menge belegter Aussagen, nicht ausgefeilte Gesprächsstrategien. Dieselbe Mechanik lässt sich gegen die Betroffenen wenden, wie ein nicht genehmigtes Experiment der Universität Zürich auf Reddit zeigte.