KI-Forscher fordern Verkaufsstopp für Amazon Gesichtserkennungssoftware
Amazons KI-gestützte Gesichtsanalyse Rekognition soll nachweislich fehlerhaft sein. Eine Gruppe KI-Forscher fordert daher den Verkaufsstopp an staatliche Behörden.
In einem offenen Brief wenden sich 26 KI-Forscher gegen Amazons Gesichtserkennungssoftware "Rekognition". Die Software war in den vergangenen Monaten wiederholt in die Kritik geraten, da sie laut der Kritiker Menschen mit dunkler Hautfarbe und Frauen durch höhere Fehlerraten bei der Gesichtserkennung benachteiligt. Das kann zum Beispiel zu folgenreichen Verwechslungen führen. Sogar Amazons Aktionäre forderten Ende Januar einen Verkaufsstopp der Software an staatliche Behörden.
Die KI-Forscher verweisen in ihrem Brief unter anderem auf eine aktuelle Studie, die nachweise, dass die Rekognition-Version von August 2018 eine deutlich höhere Fehlerrate bei der Geschlechtserkennung dunkelhäutiger Frauen habe im Vergleich zu hellhäutigen Männern (31 % vs. 0 %).
Wer überprüft möglichen Missbrauch?
Sie fordern Transparenz von Amazons KI-Entwicklern, die in einer Replik an Kritiker angeben, dass es bislang keine Berichte über Fehlfunktionen der Software seitens der Strafverfolgung gegeben habe.
Die Forscher widersprechen: Amazon habe weder die Kunden offengelegt noch die Fehlerraten bei sich überschneidenden Demografien. Außerdem fehlten Gesetze, die vorschreiben, wann ein Software-Fehler gemeldet werden muss.
Entsprechend könnten mögliche Fehler von Rekognition gar nicht überprüft werden. Die Forscher kritisieren den Einsatz "unreifer Technologien in Szenarien mit hohem Risiko", ohne dass Gesetzgeber zuvor sichergestellt hätten, dass keine Bürgerrechte verletzt werden.
Sie wollen den Verkaufsstopp: "Wir fordern Amazon auf, den Verkauf von Rekognition an die Strafverfolgungsbehörden einzustellen, da es keine Gesetze und Garantien zur Verhinderung von Missbrauch gibt."
Amazon will weitermachen
Anfang Februar versuchte Amazon, Kritiker mit ethischen Leitlinien für die KI-Gesichtsanalyse verstummen zu lassen. Die Leitlinien könnten der Politik als Anreiz dienen für die Entwicklung neuer Gesetze.
Neue Technologie dürfe aber nicht wegen eines möglichen Missbrauchs verboten oder verurteilt werden. Stattdessen brauche es einen offenen Dialog, wie KI-Gesichtserkennung "angemessen eingesetzt" und "kontinuierlich weiterentwickelt" werden kann. Die Arbeit an Rekognition soll gemeinsam mit Partnern fortgesetzt werden.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den „KI Radar“‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
Jetzt abonnierenKI-News ohne Hype
Von Menschen kuratiert.
- Mehr als 20 Prozent Launch-Rabatt.
- Lesen ohne Ablenkung – keine Google-Werbebanner.
- Zugang zum Kommentarsystem und Austausch mit der Community.
- Wöchentlicher KI-Newsletter.
- 6× jährlich: „KI Radar“ – Deep-Dives zu den wichtigsten KI-Themen.
- Bis zu 25 % Rabatt auf KI Pro Online-Events.
- Zugang zum kompletten Archiv der letzten zehn Jahre.
- Die neuesten KI‑Infos von The Decoder – klar und auf den Punkt.