KI-Companions unter Aufsicht: China zieht als Erstes die Reißleine

ByteDance und Alibaba schalten die Funktionen ab, mit denen Nutzer ihre eigene KI-Begleiter bauen und mit ihnen chatten konnten, und reagieren damit auf eine neue Regulierung aus Peking. Wie die South China Morning Post berichtet, geht bei Doubao, Chinas beliebtestem Chatbot mit mehr als 300 Millionen monatlichen Nutzern, die Persona-Funktion am 15. Juli offline. Alibabas Qwen legt die menschenähnlichen Agenten schon am 10. Juli still und "weitere Agenten-Funktionen" am 15. Juli. Tencents Yuanbao war schon im Juni dran.

Die im April erlassenen Vorgaben der Cyberspace Administration of China treten am selben Tag in Kraft. Anbieter müssen demnach vor übermäßiger Nutzung warnen und bei Suchtverhalten eingreifen. Inhalte, die bei Minderjährigen extreme Emotionen auslösen oder reale Beziehungen verdrängende Abhängigkeiten fördern, sind untersagt, ebenso das Training mit sensiblen Gesprächsdaten.

Das Muster ist global. Kalifornien verpflichtet Companion-Anbieter mit SB 243 seit Jahresanfang, Gespräche über Suizid und Selbstverletzung zu unterbinden. In den USA sehen sich OpenAI und Character.AI Klagen wegen gefährlicher emotionaler Abhängigkeit ausgesetzt.