Inhalt
summary Zusammenfassung
DEEP MINDS Podcast
Podcast über Künstliche Intelligenz und Wissenschaft
KI bei der Bundeswehr und der BWI | DEEP MINDS #16

Die digitale Welt verschmilzt immer mehr mit unserer Realität. In diesem Zusammenhang ist eine neue Entwicklung zu beobachten: Jugendliche finden auf Character.ai Unterstützung durch KI-Therapiebots.

Character.ai ist eine Plattform, auf der Nutzerinnen und Nutzer mit Millionen von KI-Bots interagieren können. Die Plattform bietet eine große Auswahl an KI-Persönlichkeiten, die bekannten Personen oder Charakteren nachempfunden sind: von Harry Potter über Elon Musk bis zu Super Mario.

Ein besonders bemerkenswerter Chatbot ist der Therapiebot "Psychologist". Dieser Bot wurde von einem Nutzer mit dem Pseudonym "Blazeman98" erstellt und hat innerhalb eines Jahres 78 Millionen Nachrichten erhalten. Allein seit November waren es 18 Millionen.

Der Bot "Therapist" erhielt 12 Millionen Nachrichten und "Are you feeling ok?" 16,5 Millionen. Jede Konversation beginnt mit der Warnung von Character.ai: "Alles, was die Charaktere sagen, ist erfunden."

Anzeige
Anzeige

Insgesamt gibt es auf der Chatbot-Plattform 475 Bots, die solche Unterstützung in verschiedenen Sprachen anbieten. Die meisten Nutzer suchen Hilfe bei psychischen Problemen.

Nach Angaben von Character.ai besuchen täglich rund 3,5 Millionen Menschen die Plattform. Die Anzahl der Nutzenden pro Bot gibt das Unternehmen nicht an.

Character.ai betont, dass sich viele Nutzer vorwiegend in Rollenspielen verlieren. Ein Beispiel dafür ist die Anime- und Videospielfigur Raiden Shogun, die mit 282 Millionen Nachrichten die Liste anführt.

Ein Psychotherapeut-Chatbot für den persönlichen Gebrauch

Der "Psychologist", ursprünglich von Sam Zaia aus Neuseeland für den Eigengebrauch entwickelt und trainiert, ist der beliebteste Bot für psychische Gesundheit. Auf Plattformen wie Reddit wird er als digitaler Seelenklempner beschrieben.

Zaia war von seinem Erfolg überrascht und arbeitet nun an einem Forschungsprojekt über den aufkommenden Trend der KI-Therapie und ihre Anziehungskraft, insbesondere auf junge Menschen zwischen 16 und 30 Jahren - die Hauptnutzergruppe von Character.ai.

Empfehlung
Die Begrüßung des Chatbots "Psychologist" auf character.ai, die stets mit einem Warnhinweis startet. | Bild: character.ai

Erster Therapie-Chatbot erhält Gerätezulassung in UK

Die Psychotherapeutin Theresa Plewman äußert sich gegenüber der BBC skeptisch. Sie kritisiert die voreiligen Vermutungen des Bots, betont aber, dass seine unmittelbare und spontane Reaktion Menschen in Krisen helfen könne.

Character.ai weist seine Nutzer darauf hin, dass für eine fundierte Beratung Fachleute konsultiert werden sollten. Die Chats sind privat, können aber aus Sicherheitsgründen von Personal eingesehen werden.

Neben Character.ai gibt es weitere Plattformen wie Replika und Woebot, die ähnliche Unterstützung anbieten. Replika positioniert sich als reifer und Woebot als psychologischer Berater.

Trotz der Skepsis einiger Psychologen erkennen medizinische Fachbereiche zunehmend den Wert von KI-Chatbots. In Großbritannien wurde Limbic Access als erster Chatbot für psychische Gesundheit mit einer Zertifizierung für medizinische Geräte anerkannt und unterstützt nun den britischen National Health Service (NHS).

Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!

KI in der Therapie: Ungewisse Forschungslage

Die Forschung ist sich bisher nicht einig, ob und inwieweit KI in der Psychotherapie eingesetzt werden sollte. Kürzlich warnte eine Gruppe von Psychologen vor dem Einsatz von LLMs in der Therapie. Die Modelle könnten zwar psychologisch nützliche Informationen liefern, hätten aber kein Einfühlungsvermögen oder Verständnis für den Menschen.

Im Gegensatz dazu zeigen Studien, dass ChatGPT Ratgeberantworten generieren kann, die von Menschen als ausgewogener, umfassender, einfühlsamer und hilfreicher empfunden werden. Dennoch gaben die Teilnehmenden der Studie an, menschliche Antworten zu bevorzugen.

Weitere Studien zeigten, dass ChatGPT mögliche menschliche Emotionen in einem gegebenen Szenario detaillierter beschreiben und menschliche Hausärzte bei Therapieempfehlungen bei Depressionen übertreffen kann. Bei Jugendlichen soll KI helfen, Suizidrisikofaktoren frühzeitig zu erkennen.

Die deutsche KI-Forschungs- und Datenorganisation LAION hat kürzlich das Open-Source-Projekt Open Empathic vorgestellt, das darauf abzielt, KI-Systeme durch Training mit ausgewählten Daten emotional intelligenter und empathischer zu machen.

Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Zusammenfassung
  • Character.ai ist eine beliebte Plattform, auf der Jugendliche mit einer Vielzahl von KI-Chatbots interagieren, angefangen von fiktiven Charakteren bis zu bekannten Persönlichkeiten.
  • Der von einem Nutzer erstellte Therapie-Bot "Psychologist" ist mit 78 Millionen Nachrichten im letzten Jahr besonders beliebt und steht stellvertretend für die 475 Bots der Plattform, die Hilfe bei mentalen Problemen bieten.
  • Trotz einiger Skepsis im Fachkreis, erkennen medizinische Bereiche den Wert von KI-Chatbots, wie die Zertifizierung von Limbic Access für den britischen NHS zeigt.
Quellen
Michelangelo ist Online-Journalist bei THE DECODER und leidenschaftlicher Technik-Copywriter, der seine Expertise aus der Welt der Elektrotechnik in lebendige Texte verwandelt.
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!