Inhalt
newsletter Newsletter
DEEP MINDS Podcast
Podcast über Künstliche Intelligenz und Wissenschaft
DEEP MINDS #12: Künstliche Intelligenz regulieren

Amazons Gesichserkennunngs-KI Rekognition gerät immer wieder in die Kritik, da sie nicht verlässlich arbeiten soll. Sogar die eigenen Aktionäre fordern schon einen Verkaufsstopp, da sie einen Image-Schaden befürchten. Jetzt reagiert Amazon: mit einer neuen Version.

Amazons Gesichtserkennungs-KI Rekognition wurde erstmals 2016 vorgestellt. Die KI erkennt Menschen und Objekte etwa bei der Videoüberwachung. Sie kann Gesichter unmittelbar mit Datenbanken abgleichen. Rekognition wird bereits von einigen Polizeibehörden in den USA eingesetzt und kann bis zu 100 Gesichter auf einem Bild gleichzeitig scannen.

Amazon stand bereits mehrfach unter Beschuss, da die Software laut Tests von Dritten nicht verlässlich arbeitet: etwa als sie 28 Mitglieder des US-Kongresses für Kriminelle hielt. Investoren, Bürgerrechtler und KI-Forscher fürchten die gesellschaftlichen Auswirkungen solcher Fehlerkennungen und fordern einen Verkaufsstopp der KI an staatliche Behörden.

Auch andere Tech-Unternehmen halten Gesichtserkennung generell noch für zu ungenau für den Praxiseinsatz: Google will vorerst keine Gesichtserkennungs-KIs vertreiben und das Sicherheitsunternehmen Axon, bekannt für Taser- und Bodycam-Technologie, will auf Gesichtserkennung verzichten, bis sie verlässlich ist und rechtliche Rahmenbedingungen geklärt sind.

Anzeige
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung

Als erste US-Stadt verbot San Francisco KI-gestützte Gesichtserkennungstechnologie für staatliche Behörden. Die US-Städte Somerville, Massachusetts, und Oakland folgten. Ein landesweites Gesetz ist im Gespräch.

Rekognition: Neue Version erkennt Angst

Amazon reagiert auf die Kritik an Rekognition mit einer neuen Version, die mehr kann und verlässlicher sein soll. Bisher erkannte die KI laut Amazon sieben Emotionen: Heiterkeit, Trauer, Wut, Irritation, Ekel, Überraschung und Gleichmut. Jetzt kommt Angst hinzu.

Die neue Version bringt laut Amazon weitere Verbesserungen: Emotionen, Gesichter, Geschlecht und Alter soll die KI nun besser erkennen. Ob das Update die zuvor kritisierten Probleme behebt, gerade in Hinblick auf rassistische Vorurteile, müssen Tests zeigen.

Emotionserkennung hilft im Marketing – oder bei der Überwachung

Der Einsatz von Emotionserkennung – Amazon nennt sie Stimmungserkennung – kann Unternehmen helfen, die Präferenzen ihrer Kunden besser auszulesen. Staaten könnten ihre Bevölkerung umfassender überwachen.

Die Technologie ist jedoch nicht nur auf Grund ihres Eingriffs in die Privatsphäre umstritten: Eine Studie zeigte  kürzlich, dass KI-gestützte Emotionserkennung nicht zuverlässig funktioniert. Sie werde ihrem Anspruch auf kulturübergreifende Gültigkeit nicht gerecht, so die Forscher.

Empfehlung

Quelle: Gizmodo

Weiterlesen über Künstliche Intelligenz:

Anzeige
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Max ist leitender Redakteur bei THE DECODER. Als studierter Philosoph beschäftigt er sich mit dem Bewusstsein, KI und der Frage, ob Maschinen wirklich denken können oder nur so tun als ob.
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!