Inhalt
newsletter Newsletter
DEEP MINDS Podcast
Podcast über Künstliche Intelligenz und Wissenschaft
Künstliche Intelligenz im Militär | DEEP MINDS #14

Während weltweit Sicherheitsbehörden Gesichtserkennung testen oder bereits einsetzen, hält das Sicherheitsunternehmen Axon die Technologie für unausgereift.

Das Sicherheitsunternehmen Axon – bekannt vor allem für seiner Taser-Elektroimpulsgeräte – gründete im April 2018 einen eigenen KI-Ethikrat. Der soll die ethischen Folgen der eigenen KI-Produkte abschätzen.

Denn Axon stellt nicht mehr länger nur Taser her: Zu den neuen Produkten gehören Kamerasysteme für Personal und Fahrzeuge, Sensoren, die etwa das Ziehen einer Waffe durch ihren Träger melden und die zentralisierte Verwaltung von Beweismitteln über eine eigene Software.

Die Körperkameras werden bereits international eingesetzt und auch von der deutschen Polizei getestet. Die Aufnahmen lassen sich mit Axons Software weiterverarbeiten: Etwa können Gesichter vor einer Veröffentlichung unkenntlich gemacht werden. In Zukunft soll die Software Gespräche automatisch transkribieren – eine KI erledigt so den Papierkram.

Anzeige
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung

Axons Ethikrat hat sich nun mit der naheliegenden nächsten Entwicklung beschäftigt: der Integration von Gesichtserkennungs-KI in Körperkameras oder Axons Software.

Technologie noch nicht weit genug

Die Mitglieder des Rates kommen zu einem klaren Ergebnis: Die Gesichtserkennungstechnologie sei derzeit nicht zuverlässig genug, um den Einsatz mit Körperkameras zu rechtfertigen. Unter idealen Bedingungen könne zwar eine Genauigkeit von 99 Prozent erreicht werden. Doch ideale Bedingungen existierten in der echten Welt nicht – schon gar nicht bei Körperkameras: Unkontrollierbare Lichtverhältnisse, Bewegungen und Distanzen erschweren die Erkennung.

Wer eine vermisste Person suche, könne mit einigen falschen Ergebnissen leben. Doch bei der Strafverfolgung sei die Gefahr für Unschuldige viel zu hoch. Dazu brauche es eine weitaus höhere Genauigkeit, gerade über verschiedene Bevölkerungsgruppen hinweg, heißt es in der Veröffentlichung.

Der Rat warnt vor einem Alleingang der Strafverfolgungsbehörden. Die Einführung der Überwachungstechnologie müsse durch transparente, demokratische Prozesse legitimiert werden. Die Einführung und auch Entwicklung von Gesichtserkennungs-KIs müsse nachweislich Vorteile bringen. Theoretische Vorteile wie „mehr Sicherheit“ seien nicht ausreichend.

Axon folgt den Empfehlungen

Das Sicherheitsunternehmen plant, den Empfehlungen des Rates zu folgen. Auf der eigenen Webseite heißt es:

Empfehlung

„Die aktuelle Gesichtserkennungstechnologie sorgt für ernsthafte ethische Bedenken. Darüber hinaus existieren technische Einschränkungen beim Einsatz mit Körperkameras. In Übereinstimmung mit der Empfehlung des Rats wird Axon vorerst keine Produkte für die Gesichtserkennung mit unseren Körperkameras vermarkten.“

Man wolle weiter an der Technologie forschen und daran arbeiten, den Anforderungen des Ethikrates zu genügen.

Quelle: Axon

Weiterlesen über KI-Überwachung:

Anzeige
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Max ist leitender Redakteur bei THE DECODER. Als studierter Philosoph beschäftigt er sich mit dem Bewusstsein, KI und der Frage, ob Maschinen wirklich denken können oder nur so tun als ob.
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!