OpenAI weist Schuld von ChatGPT am Selbstmord eines Teenagers zurück

OpenAI sieht im Falle des Selbstmords von Adam Raine die Schuld nicht bei ChatGPT. In einer gerichtlichen Stellungnahme wies das Unternehmen am Dienstag die Klage der Familie zurück. OpenAI argumentiert, der 16-Jährige habe den Chatbot entgegen der Nutzungsbedingungen missbraucht und Sicherheitsfilter gezielt umgangen. Laut den Anwälten des Konzerns habe die KI über 100 Mal auf Hilfsangebote verwiesen, doch der Teenager habe harmlose Absichten vorgetäuscht, um diese Hinweise zu umgehen. Die Familie und ihr Anwalt Jay Edelson werfen dem Konzern hingegen vor, das für Schmeichelei stark in der Kritik stehende Modell GPT-4o sei unsicher und habe aktiv beim Suizid geholfen. Ein OpenAI-Entwickler nannte das Modell kürzlich "nicht ausreichend ausgerichtet" im Kontext von Nutzerinteraktionen.

In einem Blogbeitrag ergänzt OpenAI, man wolle das Verfahren respektvoll führen, müsse aber zur Verteidigung "schwierige Fakten" zu Raines psychischer Gesundheit offenlegen. Die Gegenseite habe Chats nur selektiv zitiert, weshalb OpenAI dem Gericht nun die vollständigen, versiegelten Protokolle übergab.