Amazons Gesichserkennunngs-KI Rekognition gerät immer wieder in die Kritik, da sie nicht verlässlich arbeiten soll. Sogar die eigenen Aktionäre fordern schon einen Verkaufsstopp, da sie einen Image-Schaden befürchten. Jetzt reagiert Amazon: mit einer neuen Version.
Amazons Gesichtserkennungs-KI Rekognition wurde erstmals 2016 vorgestellt. Die KI erkennt Menschen und Objekte etwa bei der Videoüberwachung. Sie kann Gesichter unmittelbar mit Datenbanken abgleichen. Rekognition wird bereits von einigen Polizeibehörden in den USA eingesetzt und kann bis zu 100 Gesichter auf einem Bild gleichzeitig scannen.
Amazon stand bereits mehrfach unter Beschuss, da die Software laut Tests von Dritten nicht verlässlich arbeitet: etwa als sie 28 Mitglieder des US-Kongresses für Kriminelle hielt. Investoren, Bürgerrechtler und KI-Forscher fürchten die gesellschaftlichen Auswirkungen solcher Fehlerkennungen und fordern einen Verkaufsstopp der KI an staatliche Behörden.
Auch andere Tech-Unternehmen halten Gesichtserkennung generell noch für zu ungenau für den Praxiseinsatz: Google will vorerst keine Gesichtserkennungs-KIs vertreiben und das Sicherheitsunternehmen Axon, bekannt für Taser- und Bodycam-Technologie, will auf Gesichtserkennung verzichten, bis sie verlässlich ist und rechtliche Rahmenbedingungen geklärt sind.
Als erste US-Stadt verbot San Francisco KI-gestützte Gesichtserkennungstechnologie für staatliche Behörden. Die US-Städte Somerville, Massachusetts, und Oakland folgten. Ein landesweites Gesetz ist im Gespräch.
Rekognition: Neue Version erkennt Angst
Amazon reagiert auf die Kritik an Rekognition mit einer neuen Version, die mehr kann und verlässlicher sein soll. Bisher erkannte die KI laut Amazon sieben Emotionen: Heiterkeit, Trauer, Wut, Irritation, Ekel, Überraschung und Gleichmut. Jetzt kommt Angst hinzu.
Die neue Version bringt laut Amazon weitere Verbesserungen: Emotionen, Gesichter, Geschlecht und Alter soll die KI nun besser erkennen. Ob das Update die zuvor kritisierten Probleme behebt, gerade in Hinblick auf rassistische Vorurteile, müssen Tests zeigen.
Emotionserkennung hilft im Marketing - oder bei der Überwachung
Der Einsatz von Emotionserkennung - Amazon nennt sie Stimmungserkennung - kann Unternehmen helfen, die Präferenzen ihrer Kunden besser auszulesen. Staaten könnten ihre Bevölkerung umfassender überwachen.
Die Technologie ist jedoch nicht nur auf Grund ihres Eingriffs in die Privatsphäre umstritten: Eine Studie zeigte kürzlich, dass KI-gestützte Emotionserkennung nicht zuverlässig funktioniert. Sie werde ihrem Anspruch auf kulturübergreifende Gültigkeit nicht gerecht, so die Forscher.
Quelle: Gizmodo
