Amazon gehört mit "Rekognition" zu den führenden Anbietern von KI-gestützter Gesichtsanalyse-Software. Jetzt reiht sich das Unternehmen ein in die Gruppe jener Konzerne, die Spielregeln vom Gesetzgeber fordern. Zuvor gab es reichlich Kritik.
Eine Bürgerrechtsorganisation, US-Abgeordnete, Mitarbeiter und sogar die eigenen Aktionäre: Sie alle kritisierten Amazon in den vergangenen Monaten wiederholt für den Verkauf der KI-gestützten Gesichtsanalyse-Software "Rekognition" an US-Behörden. Stein des Anstoßes war eine Untersuchung im Sommer 2018, die zeigte, dass die Software unter bestimmten Bedingungen dunkelhäutige Menschen schlechter identifiziert als weiße.
In dieser Auseinandersetzung zeigt Amazon jetzt, dass es die Kritiker zumindest wahrnimmt: In Amazons KI-Blog äußert sich Global-Policy-Manager Michael Punke über den Stand der Dinge bei Rekognition.
Würde die Software sachgemäß eingesetzt, schreibt Punke, identifiziere sie Menschen akkurat und reduziere im Vergleich zur manuellen Überwachung mögliche Vorurteile. Amazon verkaufe die Software seit zwei Jahren und habe in dieser Zeit keine Beschwerde über einen Missbrauch erhalten.
Amazons Richtlinien für Gesichtserkennung
Dennoch unterstütze Amazon die Entwicklung von Gesetzen für KI-Gesichtsanalyse, die den Schutz der Bürgerrechte im Sinn haben und den Einsatz der Technologie transparent machen.
In den vergangenen Monaten hätten Gespräche mit Kunden, Akademikern und Politikern über die Chancen und Risiken von KI-Gesichtserkennung stattgefunden.
Auf Basis dieser Gespräche entwickelte der Konzern ethische Richtlinien als Anreiz für politische Diskussionen.
- KI-Gesichtserkennung muss sich nach existierenden Gesetzen und Bürgerrechten richten.
- Beim Einsatz von KI-Gesichtsanalyse in der Strafverfolgung soll der Mensch stets das letzte Wort haben.
- Strafverfolgungsbehörden, die sich auf KI-Gesichtserkennung zur Identifizierung von Personen verlassen, sollen eine Genauigkeitsrate von 99 Prozent erreichen.
- Sie sollen außerdem regelmäßig Transparenzberichte über den Einsatz von Gesichtsanalysetechnologie veröffentlichen.
- Wenn Gesichtserkennung im öffentlichen oder gewerblichen Raum eingesetzt wird, sollen die Menschen darüber informiert werden.
- Standardisierte Messmethoden sollen verlässlich Auskunft geben über Genauigkeit und mögliche Verzerrungen.
Neue Technologie, so Punke, dürfe nicht wegen eines möglichen Missbrauchs verboten oder verurteilt werden. Stattdessen brauche es einen offenen Dialog, dessen Resultat es ist, dass KI-Gesichtserkennung "angemessen eingesetzt und kontinuierlich weiterentwickelt wird".
Für Punke ist Gesichtserkennung ein "kritisches Werkzeug" für Unternehmen, Regierungen und Strafverfolgungsbehörden. Amazon will die Arbeit an Rekognition gemeinsam mit Partnern fortsetzen.
Titelbild: Thierry Ehrmann bei Flickr. Lizenziert nach CC BY 2.0.