Inhalt
newsletter Newsletter
DEEP MINDS Podcast
Podcast über Künstliche Intelligenz und Wissenschaft
DEEP MINDS #13: KI in Deutschland & Aleph Alpha

Amazons KI-gestützte Gesichtsanalyse Rekognition soll nachweislich fehlerhaft sein. Eine Gruppe KI-Forscher fordert daher den Verkaufsstopp an staatliche Behörden.

In einem offenen Brief wenden sich 26 KI-Forscher gegen Amazons Gesichtserkennungssoftware „Rekognition“. Die Software war in den vergangenen Monaten wiederholt in die Kritik geraten, da sie laut der Kritiker Menschen mit dunkler Hautfarbe und Frauen durch höhere Fehlerraten bei der Gesichtserkennung benachteiligt. Das kann zum Beispiel zu folgenreichen Verwechslungen führen. Sogar Amazons Aktionäre forderten Ende Januar einen Verkaufsstopp der Software an staatliche Behörden.

Die KI-Forscher verweisen in ihrem Brief unter anderem auf eine aktuelle Studie, die nachweise, dass die Rekognition-Version von August 2018 eine deutlich höhere Fehlerrate bei der Geschlechtserkennung dunkelhäutiger Frauen habe im Vergleich zu hellhäutigen Männern (31 % vs. 0 %).

Wer überprüft möglichen Missbrauch?

Sie fordern Transparenz von Amazons KI-Entwicklern, die in einer Replik an Kritiker angeben, dass es bislang keine Berichte über Fehlfunktionen der Software seitens der Strafverfolgung gegeben habe.

Anzeige
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung

Die Forscher widersprechen: Amazon habe weder die Kunden offengelegt noch die Fehlerraten bei sich überschneidenden Demografien. Außerdem fehlten Gesetze, die vorschreiben, wann ein Software-Fehler gemeldet werden muss.

Entsprechend könnten mögliche Fehler von Rekognition gar nicht überprüft werden. Die Forscher kritisieren den Einsatz „unreifer Technologien in Szenarien mit hohem Risiko“, ohne dass Gesetzgeber zuvor sichergestellt hätten, dass keine Bürgerrechte verletzt werden.

Sie wollen den Verkaufsstopp: „Wir fordern Amazon auf, den Verkauf von Rekognition an die Strafverfolgungsbehörden einzustellen, da es keine Gesetze und Garantien zur Verhinderung von Missbrauch gibt.“

Amazon will weitermachen

Anfang Februar versuchte Amazon, Kritiker mit ethischen Leitlinien für die KI-Gesichtsanalyse verstummen zu lassen. Die Leitlinien könnten der Politik als Anreiz dienen für die Entwicklung neuer Gesetze.

Neue Technologie dürfe aber nicht wegen eines möglichen Missbrauchs verboten oder verurteilt werden. Stattdessen brauche es einen offenen Dialog, wie KI-Gesichtserkennung „angemessen eingesetzt“ und „kontinuierlich weiterentwickelt“ werden kann. Die Arbeit an Rekognition soll gemeinsam mit Partnern fortgesetzt werden.

Empfehlung

Weiterlesen über KI-Überwachung:

Anzeige
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Online-Journalist Matthias ist Gründer und Herausgeber von THE DECODER. Er ist davon überzeugt, dass Künstliche Intelligenz die Beziehung zwischen Mensch und Computer grundlegend verändern wird.
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!