Forscher wollen mit KI die Rückfallquote im amerikanischen Justizsystem reduzieren, indem sie das Verhalten von auf Bewährung Freigelassenen vorhersagen.
Forscher des Purdue University Polytechnic Instituts wollen in den nächsten vier Jahren Smartphone- und Gesundheitsdaten von 250 auf Bewährung freigelassenen Straftätern sammeln. Algorithmen sollen dann "Stresssituationen und andere verhaltensbezogene und physiologische Faktoren identifizieren, die mit den Personen korreliert sind, bei denen das Risiko besteht, zu ihrem kriminellen Verhalten zurückzukehren".
Mit diesen Informationen wolle man Möglichkeiten für Interventionen identifizieren und so die Wiedereingliederung in die Gesellschaft ermöglichen. Über den Umgang mit möglichen Vorurteilen in den Daten, die für das KI-Training eingesetzt werden, findet sich in der Ankündigung keine Information.
KI-Systeme in der Justiz haben bisher keine gute Bilanz
Die 250 Versuchspersonen sollen freiwillig dem KI-Projekt beitreten, etwa die Hälfte ist als Kontrollgruppe geplant. Im Laufe des Versuchs werden über eine Art Arm- oder Fußfessel Echtzeitinformationen wie Stressbiomarker und Herzfrequenz aufgezeichnet.
Die Smartphones der Bewährungshäftlinge liefern dazu eine Reihe persönlicher Informationen wie Standortdaten oder Fotos, die die Nutzer schießen. Alle Daten sollen kombiniert vom KI-System analysiert werden. Die Forscher versprechen sich davon individualisierte Verhaltensvorhersagen.
Die dafür notwendige IT-Infrastruktur muss noch entwickelt werden, die Forscher rechnen mit einem Einsatz im dritten Projektjahr. Für den Versuch sollen alle Daten anonymisiert werden.
Das KI-Projekt wird mit 1,9 Millionen US-Dollar des US-Justizministeriums finanziert und entsteht in Partnerschaft mit dem Tippecanoe County Sheriff’s Department, der Florida State Universität und der Universität Alabama-Huntsville.
Hohe Rückfallquoten in den USA
Eine Studie des Justizministeriums stellte fest, dass mehr als 80 Prozent der in staatlichen Gefängnissen Inhaftierten mindestens einmal in den neun Jahren nach ihrer Entlassung erneut verhaftet werden – fast die Hälfte innerhalb des ersten Jahres.
Die Forscher wollen diese Zahlen über die Verhaltensvorhersagen langfristig reduzieren. Der Gedanke: Wenn frühzeitig eine kriminelle Tendenz erkannt wird, könnten Bewährungshelfer einschreiten, bevor es zu spät ist.
Die Ursachen für die hohe Rückfallquote seien jedoch längst bekannt, sagt Os Keyes, KI-Forscher an der Universität Washington: "Wenn günstige Wohnprojekte Bewährungshäftlinge verbieten, selbst als Gäste oder Mitbewohner, wenn es eine lange Geschichte von rechtlicher und praktischer Diskriminierung bei der Beschäftigung gibt, wenn Menschen mit kriminellen Vorstrafen sozial stigmatisiert werden und wenn man einmal pro Woche kontrolliert und wie ein Stück Fleisch markiert wird - dann ist man nicht willkommen."
Die totale Überwachung durch KI-Algorithmen verstärke diese Mechanismen nur und ignoriere weiter die strukturellen Ursachen für die hohen Rückfallquoten. Die Forscher sollten lieber mit Betroffenen und NGOs sprechen, fordert Keyes.
Er bezweifelt, dass die KI-Erkenntnisse positiv eingesetzt werden: "Der Computer sagt, du bist gestresst. Also gehst du zurück ins Gefängnis, bevor du ein weiteres Verbrechen begehst."
KI-gestützte Prognosewerkzeuge sind seit einigen Jahren ein Experimentierfeld im US-Justizsystem. Bekannt wurde etwa das umstrittene „Risikoeinschätzungswerkzeug“ COMPAS, das Richtern in den USA helfen soll, die Rückfallwahrscheinlichkeit von Angeklagten einzuschätzen. 2016 zeigte eine Analyse von ProPublica, dass COMPAS rassistische Vorurteile durch das Training mit Verhaftungsdaten übernommen hat.
Via: NIJ, Venturebeat
