OpenAI hat die Entwicklung eines erotischen Chatbots auf unbestimmte Zeit gestoppt, berichtet die Financial Times. Grund sind Bedenken von Mitarbeitern und Investoren über die Auswirkungen sexueller KI-Inhalte auf die Gesellschaft. OpenAIs Beratergremium für Wohlbefinden sprach sich bereits einstimmig gegen den geplanten "Adult Mode" aus. Ein Ratsmitglied warnte, OpenAI riskiere einen "sexy Suizid-Coach". Auch technisch kämpft das Unternehmen mit Problemen: Die Alterserkennung stufte Minderjährige in rund 12 Prozent der Fälle fälschlich als Erwachsene ein. Bei 100 Millionen minderjährigen Nutzern pro Woche eine erhebliche Lücke.
Das mit 730 Milliarden Dollar bewertete KI-Unternehmen will nun zunächst Langzeitforschung zu den Folgen sexuell expliziter Chats und emotionaler Bindungen abwarten. Intern gab es laut FT bereits Diskussionen, das Projekt ganz einzustellen. Investoren sahen ein schlechtes Risiko-Nutzen-Verhältnis, Mitarbeiter zweifelten an der Vereinbarkeit mit OpenAIs Mission.
Im Code der ChatGPT-App taucht das Projekt unter dem Namen "Citron Mode" auf, mit geplanter Altersverifikation ab 18 Jahren. OpenAI konzentriert sich nun stattdessen auf Produktivitätstools und eine "Super-App" rund um ChatGPT.
