Inhalt
summary Zusammenfassung

KI-Modelle in China müssen vorrangig eines leisten: die Werte der Partei korrekt abbilden. Ein neues LLM soll direkt auf der Philosophie von Xi Jinping basieren.

Das China Cyberspace Research Institute, das der nationalen Regulierungsbehörde Cyberspace Administration of China untersteht, hat laut South China Morning Post ein eigenes maschinelles Sprachmodell entwickelt.

Das Modell basiert auf der Philosophie von Präsident Xi Jinping und anderen ausgewählten Cyberspace-Themen, die mit der offiziellen Regierungslinie übereinstimmen. Nach Angaben der Behörde kann das Modell eine Vielzahl von Nutzerbedürfnissen erfüllen, wie die Beantwortung von Fragen, die Erstellung von Berichten und die Übersetzung zwischen Chinesisch und Englisch.

Im Gegensatz zu anderen Systemen basiert das Modell auf einer ausgewählten Wissensbasis mit lokal generierten Daten und ist nicht Open Source, was nach Ansicht der Verwaltung Sicherheit und Zuverlässigkeit gewährleistet. Es wurde im WeChat Account des Magazins der Cyberspace Administration of China vorgestellt.

Anzeige
Anzeige

"Die Professionalität und Autorität des Korpus garantiert die professionelle Qualität der generierten Inhalte", heißt es in dem Beitrag.

Das System befindet sich noch in der internen, lokalen Testphase am China Cyberspace Research Institute und ist bisher nicht öffentlich zugänglich.

China will das Unberechenbare berechenbar machen

Chinesische Unternehmen müssen bei der Entwicklung ihrer eigenen LLMs die regulatorischen Kontrollen der Regierung einhalten und sicherstellen, dass die generierten Inhalte den Vorgaben der Regierung entsprechen.

Das Zentralkomitee der Kommunistischen Partei hat außerdem eine Anweisung herausgegeben, in der verpflichtende Lernaktivitäten für Parteimitglieder gefordert werden, um sie besser mit den Ideen von Xi Jinping vertraut zu machen, berichtet die SCMP.

Wie für alle anderen Hersteller und Anbieter von LLMs ist es auch für China eine schwierige Aufgabe, die Nützlichkeit von Sprachmodellen und ihre Freiheiten gegeneinander abzuwägen. Selbst bei führenden KI-Modellen mit starken Sicherheitseinschränkungen kommt es immer wieder zu unerwünschten Ergebnissen, die auf relativ einfachen Hacks und Prompt Injections beruhen.

Empfehlung

Der beste Ansatz zur Vermeidung unerwünschter Ergebnisse scheint die Beschränkung des Trainingsmaterials zu sein. Daher entwickelt China einen LLM-Datensatz, der nur Fragmente enthält, die den Werten der Parteien entsprechen.

Solche Einschränkungen des Trainingsmaterials könnten jedoch die Leistungsfähigkeit einer möglichen Zukunftstechnologie beeinträchtigen und China im KI-Wettrennen mit den USA zurückwerfen. Ein Dilemma für eine restriktive Politik.

Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Zusammenfassung
  • Das China Cyberspace Research Institute entwickelt ein eigenes maschinelles Sprachmodell, das auf der Philosophie von Präsident Xi Jinping und ausgewählten, regierungskonformen Cyberspace-Themen basiert.
  • Das Modell nutzt eine selektive Wissensbasis mit lokal generierten Daten, ist nicht Open Source und befindet sich noch in der internen Testphase. Die Professionalität und Autorität des Korpus soll die Qualität der generierten Inhalte sicherstellen.
  • Chinesische Unternehmen müssen bei der Entwicklung eigener LLMs regulatorische Kontrollen einhalten. Die Beschränkung des Trainingsmaterials auf parteienkonforme Inhalte könnte jedoch die Leistungsfähigkeit der Technologie beeinträchtigen und stellt ein Dilemma für die restriktive Politik dar.
Online-Journalist Matthias ist Gründer und Herausgeber von THE DECODER. Er ist davon überzeugt, dass Künstliche Intelligenz die Beziehung zwischen Mensch und Computer grundlegend verändern wird.
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!