Wissenschaftler protestieren gegen Veröffentlichung umstrittener KI-Forschung

Wissenschaftler stoppen Veröffentlichung umstrittener KI-Forschung

Eine KI soll Verbrecher an ihrem Gesicht erkennen, noch bevor sie ein Verbrechen begangen haben, versprechen Autoren einer aktuellen Forschungsarbeit. Über 1.700 Wissenschaftler wehren sich gegen ihre Veröffentlichung - zunächst mit Erfolg.

Im Mai kündigten KI-Forscher der privaten US-Universität Harrisburg eine neue Künstliche Intelligenz an, die angeblich Kriminelle anhand ihrer Gesichtszüge erkennen soll, bevor sie überhaupt ein Verbrechen begangen haben.

Kurz nach der Veröffentlichung der Ankündigung des wissenschaftlichen Papiers wird diese nach einem Proteststurm wieder von der Webseite genommen: Die Fakultät aktualisiere das Forschungspapier, um den aufgeworfenen Bedenken Rechnung zu tragen, heißt es im Statement der Universität.

Die Proteste hatten einen fundierten Hintergrund: Ein Blick auf vergleichbare KI-Forschung zeigt, wie fragwürdig entsprechende Projekte sind.

KI-Experten kritisieren unwissenschaftliche Praxis

In einem offenen Brief wenden sich jetzt über 1.700 Forscher an den deutschen Springer-Verlag und fordern eine kritische Überprüfung der geplanten Veröffentlichung der Harrisburg-Universität. Das Forschungspapier sollte im Fachjournal "Springer Nature – Reasearch Book Series: Transactions on Computational Science and Computational Intelligence" erscheinen.

Unter den Unterzeichnern sind KI-Experten, Sozialwissenschaftler, Historiker und Anthropologen aus öffentlichen Universitäten und Tech-Konzernen wie Google, Microsoft und Facebook – darunter auch KI-Pionier Yann LeCun, der Facebooks Künstliche-Intelligenz-Abteilung leitet.

I signed this letter.

The main purpose of this letter is to demand that Springer withdraw the publication of a paper from Harrisburg University entitled "A Deep Neural Network Model to Predict Criminality Using Image Processing”.

Letter: https://t.co/tohdr0IE18
1/2

— Yann LeCun (@ylecun) June 24, 2020

Das sind die drei Hauptkritikpunkte der Forscher an der wissenschaftlichen Arbeit:

1. Vom Strafrechtssystem generierte Daten seien grundsätzlich ungeeignet, um Kriminelle zu identifizieren oder kriminelles Verhalten vorherzusagen.
2. Eine mathematische Definition von Fairness reiche nicht aus, um gerechte Algorithmen zu entwickeln.
3. Technologien zur Verbrechensvorhersage reproduzierten Ungerechtigkeit und verursachten Schaden.

Springer soll sich positionieren

Die Wissenschaftler fordern Springer auf, in einem öffentlichen Statement die Nutzung und Entwicklung solcher KI-Systeme zu kritisieren und die eigene Rolle in der Förderung entsprechender Forschung einzugestehen.

Weitere Forschung dieser Art solle weder von Springer noch einem anderen wissenschaftlichen Verlag veröffentlicht werden.

Mittlerweile hat Springer Nature über Twitter mitgeteilt, dass der entsprechende Artikel nicht im eigenen Journal veröffentlicht wird.

We would like to clarify that the article referenced here will not be published by Springer Nature.

— Springer Nature (@SpringerNature) June 23, 2020

Ob diese Entscheidung schon im Vorfeld gefallen oder eine direkte Reaktion ist auf den offenen Brief, ist bisher unklar. Eine Antwort seitens Springer steht aus.

Die Risiken der KI-Physiognomie besprechen wir in unserem Podcast Folge #195.

Titelbild: Wu et al.