OpenAI hat neue Kontrollfunktionen für ChatGPT eingeführt, mit denen Eltern den KI-Gebrauch ihrer Teenager einschränken können.
Über eine Konto-Verknüpfung lassen sich Einstellungen wie Nutzungszeiten, Sprachmodus, Bilderzeugung oder die Datenspeicherung zentral anpassen. Änderungen durch Teenager sind nicht möglich. Wenn ein Teenager die Verknüpfung aufhebt, werden die Eltern automatisch benachrichtigt.
Verknüpfte Konten erhalten automatisch Inhaltsfilter, die unter anderem sexualisierte Rollenspiele, grafische Inhalte und Schönheitsideale einschränken. Eltern können diese Filter deaktivieren, standardmäßig sind sie aktiv.
Ein Warnsystem soll potenzielle Selbstgefährdung erkennen. In akuten Fällen werden Eltern per Mail, SMS oder Push-Nachricht informiert. Eine Eskalation an Polizei oder Notdienste ist vorgesehen, wenn keine Erziehungsberechtigten erreichbar sind. Laut OpenAI erfolgt eine Prüfung durch ein geschultes Team, sensible Daten sollen nur im Notfall weitergegeben werden.
Langfristig soll ein Altersvorhersagesystem automatisch jugendgerechte Einstellungen aktivieren. Die neuen Maßnahmen wurden laut OpenAI mit Fachleuten und Behörden abgestimmt und sind ab sofort für alle ChatGPT-Nutzenden verfügbar, wie OpenAI mitteilt.
Zusätzlich hat OpenAI eine Informationsseite für Eltern veröffentlicht. Künftig sollen dort auch Leitfäden, Gesprächsanregungen und Expertenempfehlungen veröffentlicht werden.
OpenAI reagiert auf tragische Entwicklungen
Vor kurzem geriet OpenAI wegen eines tragischen Falls in die Kritik: Die Eltern des 16-jährigen Adam Raine klagen, weil ChatGPT suizidale Gedanken ihres Sohnes bestätigte, konkrete Anleitungen gab und eine emotionale Abhängigkeit förderte. Dieser Fall und ähnliche Fälle lösten eine Debatte über die Verantwortung von KI-Anbietern im Umgang mit psychisch labilen Nutzern aus.
OpenAI versucht zudem, mit einem sogenannten „Safety Router“ technisch gegenzusteuern: Emotionale Anfragen werden automatisch an restriktivere Modelle weitergeleitet, ohne dass Nutzer darüber informiert werden. Einige erwachsene Nutzer empfinden diese Maßnahme als Bevormundung und kritisieren die intransparente Steuerung der Interaktion.
