Florida fordert Verbot: ChatGPT soll nicht mehr so tun, als wäre es ein Mensch

Floridas Generalstaatsanwalt James Uthmeier will OpenAI per Gericht daran hindern, ChatGPT menschliche Eigenschaften zu verleihen und es Minderjährigen zugänglich zu machen. "Hört auf, es als sicher zu bezeichnen. Hört auf, so zu tun, als wäre es menschlich. Hört auf, es an Kinder zu verkaufen", forderte Uthmeier.

Florida hatte OpenAI bereits im Juni verklagt: ChatGPT habe Amokläufern Informationen geliefert, Anleitungen zur Selbstverletzung gegeben und junge Nutzer süchtig gemacht. Der neue Antrag auf einstweilige Verfügung wirft OpenAI vor, ChatGPT täusche durch Ich-Formulierungen und simulierte Emotionen eine vertrauenswürdige Freundschaft vor, um Nutzer zu binden und Trainingsdaten zu sammeln. Außerdem soll OpenAI keine neuen Modelle ohne von Dritten gebilligte Sicherheitsleitplanken entwickeln dürfen.

OpenAI hatte zuletzt zwar Jugendschutzfunktionen eingeführt und nach dem Tod eines Teenagers zusätzliche Sicherheitsvorkehrungen angekündigt, doch Florida hält diese Maßnahmen offenbar für unzureichend. OpenAI-Sprecher Drew Pusateri erklärte gegenüber The Verge, man habe das Training der leistungsfähigsten Modelle pausiert und wolle mit Florida an branchenweiten KI-Richtlinien arbeiten. Über den Antrag hat ein Gericht bisher nicht entschieden.