China testet "Xi-Jinping-LLM" als politisch konformes Sprachmodell
Kurz & Knapp
- Das China Cyberspace Research Institute entwickelt ein eigenes maschinelles Sprachmodell, das auf der Philosophie von Präsident Xi Jinping und ausgewählten, regierungskonformen Cyberspace-Themen basiert.
- Das Modell nutzt eine selektive Wissensbasis mit lokal generierten Daten, ist nicht Open Source und befindet sich noch in der internen Testphase. Die Professionalität und Autorität des Korpus soll die Qualität der generierten Inhalte sicherstellen.
- Chinesische Unternehmen müssen bei der Entwicklung eigener LLMs regulatorische Kontrollen einhalten. Die Beschränkung des Trainingsmaterials auf parteienkonforme Inhalte könnte jedoch die Leistungsfähigkeit der Technologie beeinträchtigen und stellt ein Dilemma für die restriktive Politik dar.
KI-Modelle in China müssen vorrangig eines leisten: die Werte der Partei korrekt abbilden. Ein neues LLM soll direkt auf der Philosophie von Xi Jinping basieren.
Das China Cyberspace Research Institute, das der nationalen Regulierungsbehörde Cyberspace Administration of China untersteht, hat laut South China Morning Post ein eigenes maschinelles Sprachmodell entwickelt.
Das Modell basiert auf der Philosophie von Präsident Xi Jinping und anderen ausgewählten Cyberspace-Themen, die mit der offiziellen Regierungslinie übereinstimmen. Nach Angaben der Behörde kann das Modell eine Vielzahl von Nutzerbedürfnissen erfüllen, wie die Beantwortung von Fragen, die Erstellung von Berichten und die Übersetzung zwischen Chinesisch und Englisch.
Im Gegensatz zu anderen Systemen basiert das Modell auf einer ausgewählten Wissensbasis mit lokal generierten Daten und ist nicht Open Source, was nach Ansicht der Verwaltung Sicherheit und Zuverlässigkeit gewährleistet. Es wurde im WeChat Account des Magazins der Cyberspace Administration of China vorgestellt.
"Die Professionalität und Autorität des Korpus garantiert die professionelle Qualität der generierten Inhalte", heißt es in dem Beitrag.
Das System befindet sich noch in der internen, lokalen Testphase am China Cyberspace Research Institute und ist bisher nicht öffentlich zugänglich.
China will das Unberechenbare berechenbar machen
Chinesische Unternehmen müssen bei der Entwicklung ihrer eigenen LLMs die regulatorischen Kontrollen der Regierung einhalten und sicherstellen, dass die generierten Inhalte den Vorgaben der Regierung entsprechen.
Das Zentralkomitee der Kommunistischen Partei hat außerdem eine Anweisung herausgegeben, in der verpflichtende Lernaktivitäten für Parteimitglieder gefordert werden, um sie besser mit den Ideen von Xi Jinping vertraut zu machen, berichtet die SCMP.
Wie für alle anderen Hersteller und Anbieter von LLMs ist es auch für China eine schwierige Aufgabe, die Nützlichkeit von Sprachmodellen und ihre Freiheiten gegeneinander abzuwägen. Selbst bei führenden KI-Modellen mit starken Sicherheitseinschränkungen kommt es immer wieder zu unerwünschten Ergebnissen, die auf relativ einfachen Hacks und Prompt Injections beruhen.
Der beste Ansatz zur Vermeidung unerwünschter Ergebnisse scheint die Beschränkung des Trainingsmaterials zu sein. Daher entwickelt China einen LLM-Datensatz, der nur Fragmente enthält, die den Werten der Parteien entsprechen.
Solche Einschränkungen des Trainingsmaterials könnten jedoch die Leistungsfähigkeit einer möglichen Zukunftstechnologie beeinträchtigen und China im KI-Wettrennen mit den USA zurückwerfen. Ein Dilemma für eine restriktive Politik.
KI-News ohne Hype
Von Menschen kuratiert.
- Mehr als 20 Prozent Launch-Rabatt.
- Lesen ohne Ablenkung – keine Google-Werbebanner.
- Zugang zum Kommentarsystem und Austausch mit der Community.
- Wöchentlicher KI-Newsletter.
- 6× jährlich: „KI Radar“ – Deep-Dives zu den wichtigsten KI-Themen.
- Bis zu 25 % Rabatt auf KI Pro Online-Events.
- Zugang zum kompletten Archiv der letzten zehn Jahre.
- Die neuesten KI‑Infos von The Decoder – klar und auf den Punkt.