OpenAI führt automatische Alterserkennung für Jugendschutz in ChatGPT ein

OpenAI führt eine Alterserkennung für ChatGPT ein, um festzustellen, ob ein Konto wahrscheinlich einem Minderjährigen gehört. Das KI-Modell analysiert Verhaltensmuster wie Nutzungszeiten, Kontodauer und das angegebene Alter. Wird ein Nutzer als unter 18 eingestuft, aktiviert ChatGPT automatisch zusätzliche Schutzmaßnahmen. Diese blockieren etwa grafische Gewalt, sexuelle Rollenspiele, Darstellungen von Selbstverletzung oder Inhalte zu extremen Schönheitsidealen.

OpenAI hatte zuvor angekündigt, ChatGPT für einige dieser Inhalte für Erwachsene zu öffnen; die Altersverifikation dürfte ein Schritt dorthin sein. Zudem gab es Fälle, in denen Teenager in eine gefährliche Abhängigkeit von KI-Chatbots gerieten – mit teils tödlichen Folgen.

Erwachsene, die fälschlicherweise als minderjährig eingestuft werden, können ihr Alter per Selfie über den Dienst Persona bestätigen. Eltern erhalten zusätzliche Kontrollfunktionen wie Ruhezeiten oder Benachrichtigungen bei Anzeichen akuter Belastung. In der EU soll die Funktion in den kommenden Wochen starten, um regionale Anforderungen zu berücksichtigen. Weitere Informationen bietet OpenAI auf seiner Hilfeseite.