In China sollen Richter vor einem Urteil ein KI-System zurate ziehen. Eine Ablehnung des maschinellen Ratschlags müssen sie schriftlich begründen.
Seit rund sechs Jahren entwickelt China gemeinsam mit den großen Tech-Unternehmen des Landes KI-gestützte Automatisierungshilfen für das eigene Justizsystem. Bislang hieß es, dass das System insbesondere die Arbeitslast von Staatsanwälten bei Routineaufgaben verringern soll. So schreibt es etwa anhand von Stichpunkten automatisierte Anklagen.
Doch das KI-System wird laut eines Berichts der South China Morning Post (SCMP) immer tiefer in das chinesische Rechtssystem integriert.
Richter müssen die KI konsultieren
Vor rund sechs Jahren sei das Projekt kaum mehr als eine Datenbank gewesen, berichtet die SCMP. Mittlerweile sei es Vorschrift seitens des Obersten Gerichtshofs, dass Richter die Ratschläge des KI-Systems beachten und, falls sie diese nicht befolgen, eine schriftliche Begründung abgeben, die in die Fallunterlagen aufgenommen wird.
Der oberste Gerichtshof sieht das System laut der SCMP als Möglichkeit, die nationale Rechtssprechung zu vereinheitlichen und in große Teile Chinas zu bringen, in denen es "erhebliche Unterschiede in Bezug auf regionale Entwicklung, Regierungsführung und Einkommen gibt".
Vor der Einführung des Systems habe jedes Amtsgericht ein eigenes Informationssystem gepflegt und die Richter hätten sich nur selten mit anderen Gerichten oder Peking ausgetauscht. Durch das neue "Smart Court System" sei jedes Gericht zu einem einheitlichen digitalen Reporting gezwungen, das mit einer zentralen Datenbank in Peking verbunden ist.
Chinas KI-Justiz wächst jeden Tag
Laut des obersten Gerichtshofs lernt das System anhand von 100.000 Fällen täglich dazu und überwacht diese auf mögliche falsche Entscheidungen oder Korruption. Das System soll neben Gerichtsakten auch Zugriff auf die Datenbanken von Polizei, Staatsanwaltschaften und Regierungsbehörden haben.
So soll die KI etwa bei der Durchsetzung von Urteilen helfen, "indem sie das Eigentum eines Verurteilten fast augenblicklich aufspürt und beschlagnahmt und es online versteigert." Sie könne zudem in Kombination mit Chinas Sozialkreditsystem etwa Schuldner:innen den Zugang zu Transport, Hotels oder anderen sozialen Diensten verbieten und das Verbot durchsetzen.
"Das Smart Court SoS (System of Systems) ist jetzt mit dem Schreibtisch jedes arbeitenden Richters im ganzen Land verbunden", sagte Xu Jianfeng, Direktor des Informationszentrums des Obersten Gerichtshofs.
In einer Fachzeitschrift der Chinesischen Akademie der Ingenieurwissenschaften veröffentlichen Xu und Kolleg:innen positive Zahlen zum System: Es reduziere die durchschnittliche Arbeitsbelastung von Richter:innen um mehr als ein Drittel. Zwischen 2019 und 2021 habe es 1,7 Milliarden Arbeitsstunden und umgerechnet 45 Milliarden US-Dollar an Anwaltskosten eingespart. Das System leiste "einen wichtigen Beitrag zum juristischen Fortschritt der menschlichen Zivilisation."
Die Automatisierung der Rechtssprechung stößt auch auf Kritik
Zhang Linghan, Juraprofessorin an der Chinesischen Universität für Politikwissenschaft und Recht in Peking, kritisiert in der nationalen Fachzeitschrift "Law and Social Development", dass das System den richterlichen Ermessensspielraum einschränke.
Die individuelle Einschätzung, Erfahrung und Ausbildung eines Richters oder einer Richterin rücke in den Hintergrund. Das könne zwar Effizienz und Fairness bis zu einem gewissen Grad verbessern, würde aber Menschen in die Abhängigkeit von Technologie treiben und den freien Willen untergraben.
"Wir müssen uns vor der Aushöhlung der richterlichen Macht durch Technologieunternehmen und Kapital in Acht nehmen", schreibt Zhang Linghan.
Sun Yubao, ein Richter am Volksgericht der Wirtschafts- und Technologieentwicklungszone Yangzhou in der Provinz Jiangsu, übt in der chinesischsprachigen Zeitschrift Legality Vision ebenfalls Kritik: Die Erwartungen an KI als Allheilmittel seien zu hoch, die Rolle des Richters müsse gestärkt werden: "KI kann nicht alles tun."
Kritiker:innen des Systems befürchten zudem, dass Richter:innen nach den Ratschlägen des KI-Systems urteilen, um das System nicht anfechten zu müssen - selbst dann, wenn die KI möglicherweise unpassende Referenzen oder Gesetze auswählt.
