Eine neue Microsoft-Studie zeigt, dass übermäßiges Vertrauen in KI-Tools das kritische Denken beeinträchtigen kann.
Forscher der Carnegie Mellon University und von Microsoft Research haben in einer Umfrage unter 319 Wissensarbeitern untersucht, wie sich der Einsatz von generativer KI (GenAI) auf ihr kritisches Denken auswirkt.
Die Teilnehmer berichteten von 936 praktischen Beispielen aus verschiedenen Berufsfeldern wie IT, Design, Verwaltung und Finanzwesen, in denen sie GenAI-Tools für ihre Arbeit nutzten. Die Wissenschaftler untersuchten dabei sechs Kategorien des kritischen Denkens: Wissen, Verständnis, Anwendung, Analyse, Synthese und Evaluation.
Die Forscher beobachteten drei wesentliche Verschiebungen im kritischen Denken: Statt selbst Informationen zu sammeln, konzentrieren sich die Nutzer vor allem auf die Verifizierung von KI-Ergebnissen. Eigenständiges Problemlösen weicht der Integration von KI-Antworten. Und statt der direkten Ausführung von Aufgaben steht zunehmend die Überwachung der KI im Vordergrund.
Ironie der Automatisierung
Gerade bei routinemäßigen oder weniger wichtigen Aufgaben verlassen sich die Nutzer einfach auf die KI. Das gibt laut der Forscher Anlass zu der Befürchtung, dass sich die Fähigkeit zur eigenständigen Problemlösung langfristig verschlechtern könnte.
Die Forscher zitieren eine "Ironie der Automatisierung": Indem KI-Tools Routineaufgaben übernehmen, nehmen sie den Menschen die Gelegenheit, ihr Urteilsvermögen und ihre "kognitive Muskulatur" zu trainieren. Diese "kognitive Entlastung" - also die Auslagerung von Denkprozessen an externe Systeme - könne langfristig die eigenen Fähigkeiten schwächen.
Positiv wirkt sich womöglich das Selbstvertrauen der Nutzer aus. Wer sich seiner eigenen Fähigkeiten sicher ist, kann der Studie zufolge auch kritischer mit dem Einsatz von KI umgehen. Ein eindeutiger Kausalzusammenhang für diese These konnte jedoch nicht festgestellt werden.
Als Hauptmotive für kritisches Denken identifizierten die Forscher den Wunsch nach besserer Arbeitsqualität, Fehlervermeidung und persönlicher Weiterentwicklung. Demgegenüber stehen Hemmnisse wie Zeitmangel, fehlendes Problembewusstsein und Schwierigkeiten bei der Verbesserung von KI-Antworten in unbekannten Bereichen.
Die Wissenschaftler empfehlen Unternehmen, das kritische Denken ihrer Mitarbeiter gezielt zu fördern - etwa durch Schulungen zur Überprüfung von KI-Ergebnissen. Auch sollten KI-Tools so gestaltet werden, dass sie kritisches Hinterfragen unterstützen und nicht ersetzen.
Junge Menschen besonders gefährdet
Schon im Januar zeigte eine Studie der Swiss Business School mit 666 Teilnehmern ähnliche Ergebnisse. Besonders betroffen waren dabei junge Menschen zwischen 17 und 25 Jahren: Sie nutzten KI-Tools am häufigsten und schnitten gleichzeitig bei Tests zum kritischen Denken am schlechtesten ab.
Als wichtiger Schutzfaktor erwies sich in der Schweizer Studie ein höheres Bildungsniveau. Menschen mit besserer Bildung hinterfragten KI-generierte Informationen häufiger und zeigten trotz KI-Nutzung bessere Fähigkeiten im kritischen Denken.
