Inhalt
summary Zusammenfassung

Forschende warnen vor dem Einsatz von ChatGPT & Co. in der Psychotherapie - und fordern ein internationales Forschungsprojekt, um diesen Einsatz zu ermöglichen.

Anzeige

Zahlreiche KI-Start-ups und etablierte Unternehmen suchen nach Anwendungsfällen für große Sprachmodelle und Chatbots wie ChatGPT. Die Kandidaten reichen von Marketing und Verkauf bis hin zum Gesundheitswesen oder der Psychotherapie.

Doch eine Gruppe von Forschenden warnt nun in dem Paper "Using large language models in psychology" davor, diese Modelle in der Psychologie und vor allem in der Psychotherapie einzusetzen. Ihre Fähigkeit, psychologisch nützliche Informationen zu generieren, sei grundsätzlich begrenzt, sagt Koautorin Dora Demszky, Professorin für Data Science in Education an der Stanford Graduate School of Education. "Sie sind nicht in der Lage, Empathie oder menschliches Verständnis zu zeigen", so Demszky.

ChatGPT hat keine Theory of Mind

Was die Wissenschaftlerin damit meint: Große Sprachmodelle haben keine "Theory of Mind" - also kein Verständnis für die mentalen Zustände anderer Menschen. David Yeager, Professor für Psychologie an der University of Texas in Austin und ebenfalls Autor des Artikels, betont, dass die Modelle zwar menschenähnliche Texte generieren können, aber nicht die Tiefe des Verständnisses eines professionellen Psychologen oder eines guten Freundes haben.

Anzeige
Anzeige

In ihrer Arbeit plädieren die Forschenden für eine Partnerschaft zwischen der akademischen Welt und der Industrie in der Größenordnung des Humangenomprojekts. Diese Partnerschaft sollte die Entwicklung von Schlüsseldatensätzen, standardisierten Benchmarks, etwa für den Einsatz in der Psychotherapie, und einer gemeinsamen Computerinfrastruktur zur Entwicklung psychologisch fähiger Sprachmodelle umfassen.

Weitere Forschung könnte einen transformativen Einsatz ermöglichen

Die Motivation hinter dieser Forderung ist eine doppelte: Zum einen fürchten die Forschenden "eine Welt, in der die Hersteller von generativen KI-Systemen für psychologische Schäden haftbar gemacht werden, weil niemand die Auswirkungen dieser Systeme auf das menschliche Denken oder Verhalten abgeschätzt hat", so Yeager.

Zum anderen sehen sie Potenzial in den Modellen: "Wir argumentieren, dass große Sprachmodelle zwar das Potenzial haben, die psychologische Messung, das Experimentieren und die Praxis voranzubringen, dass sie aber noch nicht bereit sind für viele der transformativen psychologischen Anwendungen - aber weitere Forschung und Entwicklung könnten einen solchen Einsatz ermöglichen."

Anzeige
Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Zusammenfassung
  • Die Forschenden warnen davor, große Sprachmodelle wie ChatGPT in der Psychologie und Psychotherapie einzusetzen, da sie nur begrenzt in der Lage sind, psychologisch nützliche Informationen zu generieren, und es ihnen an Empathie und menschlichem Verständnis mangelt.
  • Sie plädieren für eine Partnerschaft zwischen Wissenschaft und Industrie, um Schlüsseldatensätze, standardisierte Benchmarks und eine gemeinsame Computerinfrastruktur für die Entwicklung psychologisch nützlicher Sprachmodelle zu entwickeln.
  • Das Team äußert sich besorgt über mögliche psychologische Schäden, die durch diese Modelle verursacht werden könnten, erkennen aber auch das Potenzial für transformative psychologische Anwendungen bei weiterer Forschung und Entwicklung.
Max ist leitender Redakteur bei THE DECODER. Als studierter Philosoph beschäftigt er sich mit dem Bewusstsein, KI und der Frage, ob Maschinen wirklich denken können oder nur so tun als ob.
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!