ChatGPT ist kein guter Psychotherapeut, warnen Forscher
Forschende warnen vor dem Einsatz von ChatGPT & Co. in der Psychotherapie - und fordern ein internationales Forschungsprojekt, um diesen Einsatz zu ermöglichen.
Zahlreiche KI-Start-ups und etablierte Unternehmen suchen nach Anwendungsfällen für große Sprachmodelle und Chatbots wie ChatGPT. Die Kandidaten reichen von Marketing und Verkauf bis hin zum Gesundheitswesen oder der Psychotherapie.
Doch eine Gruppe von Forschenden warnt nun in dem Paper "Using large language models in psychology" davor, diese Modelle in der Psychologie und vor allem in der Psychotherapie einzusetzen. Ihre Fähigkeit, psychologisch nützliche Informationen zu generieren, sei grundsätzlich begrenzt, sagt Koautorin Dora Demszky, Professorin für Data Science in Education an der Stanford Graduate School of Education. "Sie sind nicht in der Lage, Empathie oder menschliches Verständnis zu zeigen", so Demszky.
ChatGPT hat keine Theory of Mind
Was die Wissenschaftlerin damit meint: Große Sprachmodelle haben keine "Theory of Mind" - also kein Verständnis für die mentalen Zustände anderer Menschen. David Yeager, Professor für Psychologie an der University of Texas in Austin und ebenfalls Autor des Artikels, betont, dass die Modelle zwar menschenähnliche Texte generieren können, aber nicht die Tiefe des Verständnisses eines professionellen Psychologen oder eines guten Freundes haben.
In ihrer Arbeit plädieren die Forschenden für eine Partnerschaft zwischen der akademischen Welt und der Industrie in der Größenordnung des Humangenomprojekts. Diese Partnerschaft sollte die Entwicklung von Schlüsseldatensätzen, standardisierten Benchmarks, etwa für den Einsatz in der Psychotherapie, und einer gemeinsamen Computerinfrastruktur zur Entwicklung psychologisch fähiger Sprachmodelle umfassen.
Weitere Forschung könnte einen transformativen Einsatz ermöglichen
Die Motivation hinter dieser Forderung ist eine doppelte: Zum einen fürchten die Forschenden "eine Welt, in der die Hersteller von generativen KI-Systemen für psychologische Schäden haftbar gemacht werden, weil niemand die Auswirkungen dieser Systeme auf das menschliche Denken oder Verhalten abgeschätzt hat", so Yeager.
Zum anderen sehen sie Potenzial in den Modellen: "Wir argumentieren, dass große Sprachmodelle zwar das Potenzial haben, die psychologische Messung, das Experimentieren und die Praxis voranzubringen, dass sie aber noch nicht bereit sind für viele der transformativen psychologischen Anwendungen - aber weitere Forschung und Entwicklung könnten einen solchen Einsatz ermöglichen."
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den „KI Radar“‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
Jetzt abonnierenKI-News ohne Hype
Von Menschen kuratiert.
- Mehr als 20 Prozent Launch-Rabatt.
- Lesen ohne Ablenkung – keine Google-Werbebanner.
- Zugang zum Kommentarsystem und Austausch mit der Community.
- Wöchentlicher KI-Newsletter.
- 6× jährlich: „KI Radar“ – Deep-Dives zu den wichtigsten KI-Themen.
- Bis zu 25 % Rabatt auf KI Pro Online-Events.
- Zugang zum kompletten Archiv der letzten zehn Jahre.
- Die neuesten KI‑Infos von The Decoder – klar und auf den Punkt.