Mittlerweile hat sich der Verlag Springer Nature zur Situation geäußert: Die Entscheidung, den umstrittenen Beitrag nicht zu veröffentlichen, fiel bereits vor der Veröffentlichung des offenen Briefs und ist daher keine direkte Reaktion auf diesen.
„Wir erkennen die Bedenken im Hinblick auf diese Studie an und möchten klarstellen, dass diese Arbeit zu keinem Zeitpunkt für eine Veröffentlichung angenommen wurde. Die Studie wurde für eine bevorstehende Konferenz eingereicht, für die Springer den Konferenzband in der Buchreihe Transactions on Computational Science und Computational Intelligence publizieren wird. Nach einem sorgfältigen Peer-Review-Prozess hat der Reihenherausgeber die Annahme des finalen Artikels abgelehnt. Diese Entscheidung wurde am 16. Juni getroffen und den Autoren am 22. Juni offiziell mitgeteilt.
Inhalte und Details zum Peer-Review-Prozess sind vertrauliche Informationen zwischen Herausgeber, Gutachtern und Autoren“
Ursprünglicher Artikel vom 24. Juni 2020:
Wissenschaftler stoppen Veröffentlichung umstrittener KI-Forschung
Eine KI soll Verbrecher an ihrem Gesicht erkennen, noch bevor sie ein Verbrechen begangen haben, versprechen Autoren einer aktuellen Forschungsarbeit. Über 1.700 Wissenschaftler wehren sich gegen ihre Veröffentlichung - zunächst mit Erfolg.
Im Mai kündigten KI-Forscher der privaten US-Universität Harrisburg eine neue Künstliche Intelligenz an, die angeblich Kriminelle anhand ihrer Gesichtszüge erkennen soll, bevor sie überhaupt ein Verbrechen begangen haben.
Kurz nach der Veröffentlichung der Ankündigung des wissenschaftlichen Papiers wird diese nach einem Proteststurm wieder von der Webseite genommen: Die Fakultät aktualisiere das Forschungspapier, um den aufgeworfenen Bedenken Rechnung zu tragen, heißt es im Statement der Universität.
Die Proteste hatten einen fundierten Hintergrund: Ein Blick auf vergleichbare KI-Forschung zeigt, wie fragwürdig entsprechende Projekte sind.
KI-Experten kritisieren unwissenschaftliche Praxis
In einem offenen Brief wenden sich jetzt über 1.700 Forscher an den deutschen Springer-Verlag und fordern eine kritische Überprüfung der geplanten Veröffentlichung der Harrisburg-Universität. Das Forschungspapier sollte im Fachjournal "Springer Nature – Reasearch Book Series: Transactions on Computational Science and Computational Intelligence" erscheinen.
Unter den Unterzeichnern sind KI-Experten, Sozialwissenschaftler, Historiker und Anthropologen aus öffentlichen Universitäten und Tech-Konzernen wie Google, Microsoft und Facebook – darunter auch KI-Pionier Yann LeCun, der Facebooks Künstliche-Intelligenz-Abteilung leitet.
I signed this letter.
The main purpose of this letter is to demand that Springer withdraw the publication of a paper from Harrisburg University entitled "A Deep Neural Network Model to Predict Criminality Using Image Processing”.
Letter: https://t.co/tohdr0IE18
1/2— Yann LeCun (@ylecun) June 24, 2020
Das sind die drei Hauptkritikpunkte der Forscher an der wissenschaftlichen Arbeit:
- Vom Strafrechtssystem generierte Daten seien grundsätzlich ungeeignet, um Kriminelle zu identifizieren oder kriminelles Verhalten vorherzusagen.
- Eine mathematische Definition von Fairness reiche nicht aus, um gerechte Algorithmen zu entwickeln.
- Technologien zur Verbrechensvorhersage reproduzierten Ungerechtigkeit und verursachten Schaden.
Springer soll sich positionieren
Die Wissenschaftler fordern Springer auf, in einem öffentlichen Statement die Nutzung und Entwicklung solcher KI-Systeme zu kritisieren und die eigene Rolle in der Förderung entsprechender Forschung einzugestehen.
Weitere Forschung dieser Art solle weder von Springer noch einem anderen wissenschaftlichen Verlag veröffentlicht werden.
Mittlerweile hat Springer Nature über Twitter mitgeteilt, dass der entsprechende Artikel nicht im eigenen Journal veröffentlicht wird.
We would like to clarify that the article referenced here will not be published by Springer Nature.
— Springer Nature (@SpringerNature) June 23, 2020
Ob diese Entscheidung schon im Vorfeld gefallen oder eine direkte Reaktion ist auf den offenen Brief, ist bisher unklar. Eine Antwort seitens Springer steht aus.
Die Risiken der KI-Physiognomie besprechen wir in unserem Podcast Folge #195.
Titelbild: Wu et al.
