Während weltweit Sicherheitsbehörden Gesichtserkennung testen oder bereits einsetzen, hält das Sicherheitsunternehmen Axon die Technologie für unausgereift.
Das Sicherheitsunternehmen Axon – bekannt vor allem für seiner Taser-Elektroimpulsgeräte – gründete im April 2018 einen eigenen KI-Ethikrat. Der soll die ethischen Folgen der eigenen KI-Produkte abschätzen.
Denn Axon stellt nicht mehr länger nur Taser her: Zu den neuen Produkten gehören Kamerasysteme für Personal und Fahrzeuge, Sensoren, die etwa das Ziehen einer Waffe durch ihren Träger melden und die zentralisierte Verwaltung von Beweismitteln über eine eigene Software.
Die Körperkameras werden bereits international eingesetzt und auch von der deutschen Polizei getestet. Die Aufnahmen lassen sich mit Axons Software weiterverarbeiten: Etwa können Gesichter vor einer Veröffentlichung unkenntlich gemacht werden. In Zukunft soll die Software Gespräche automatisch transkribieren - eine KI erledigt so den Papierkram.
Axons Ethikrat hat sich nun mit der naheliegenden nächsten Entwicklung beschäftigt: der Integration von Gesichtserkennungs-KI in Körperkameras oder Axons Software.
Technologie noch nicht weit genug
Die Mitglieder des Rates kommen zu einem klaren Ergebnis: Die Gesichtserkennungstechnologie sei derzeit nicht zuverlässig genug, um den Einsatz mit Körperkameras zu rechtfertigen. Unter idealen Bedingungen könne zwar eine Genauigkeit von 99 Prozent erreicht werden. Doch ideale Bedingungen existierten in der echten Welt nicht – schon gar nicht bei Körperkameras: Unkontrollierbare Lichtverhältnisse, Bewegungen und Distanzen erschweren die Erkennung.
Wer eine vermisste Person suche, könne mit einigen falschen Ergebnissen leben. Doch bei der Strafverfolgung sei die Gefahr für Unschuldige viel zu hoch. Dazu brauche es eine weitaus höhere Genauigkeit, gerade über verschiedene Bevölkerungsgruppen hinweg, heißt es in der Veröffentlichung.
Der Rat warnt vor einem Alleingang der Strafverfolgungsbehörden. Die Einführung der Überwachungstechnologie müsse durch transparente, demokratische Prozesse legitimiert werden. Die Einführung und auch Entwicklung von Gesichtserkennungs-KIs müsse nachweislich Vorteile bringen. Theoretische Vorteile wie "mehr Sicherheit" seien nicht ausreichend.
Axon folgt den Empfehlungen
Das Sicherheitsunternehmen plant, den Empfehlungen des Rates zu folgen. Auf der eigenen Webseite heißt es:
"Die aktuelle Gesichtserkennungstechnologie sorgt für ernsthafte ethische Bedenken. Darüber hinaus existieren technische Einschränkungen beim Einsatz mit Körperkameras. In Übereinstimmung mit der Empfehlung des Rats wird Axon vorerst keine Produkte für die Gesichtserkennung mit unseren Körperkameras vermarkten."
Man wolle weiter an der Technologie forschen und daran arbeiten, den Anforderungen des Ethikrates zu genügen.
Quelle: Axon
