Inhalt
newsletter Newsletter
DEEP MINDS Podcast
Podcast über Künstliche Intelligenz und Wissenschaft
DEEP MINDS #12: Künstliche Intelligenz regulieren

Die KI-App Clearview ist kontrovers genug. Nun musste ein Mann unrechtmäßig hinter Gitter, weil die Gesichtserkennung der Software versagte.

Die Smartphone-App nutzt ein System, das im Internet permanent nach Fotos von Personen sucht und damit eine riesige Gesichterdatenbank füttert. Lädt man ein Bild in die App hoch, werden darauf dargestellte Personen binnen Sekunden identifiziert und der Nutzer erhält Links zu deren Social-Media-Accounts und persönlichen Informationen (siehe Artikel Das weiß die Clearview-App über euch). Die technische Grundlage dieser bildbasierten Personensuchmaschine ist KI-Gesichtserkennung.

Clearview AI bietet die App laut eigenen Angaben nur Strafverfolgungsbehörden an. Berichte zeigen jedoch, dass das Unternehmen es damit nicht so ernst nimmt. So sollen unter anderem Superreiche und Privatunternehmen Zugriff auf die KI-App bekommen haben.

Seit dem Clearview-Enthüllungsbericht der New York Times vor einem Jahr sorgte das Start-up wieder und wieder für negative Schlagzeilen und geriet ins Visier von Datenschützern und Politikern. In Kanada wird die Software wegen Ermittlungen der dortigen Datenschutzbehörde nicht mehr verkauft.

Anzeige
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung

Unschuldig hinter Gitter

Dass eine Fehlidentifikation der KI-App böse Folgen haben kann, zeigt ein aktueller Fall aus den USA: Im Bundesstaat New Jersey suchte die Polizei nach einem Dieb, der in einem Hotel Süßigkeiten und Snacks geklaut und anschließend bei einem Fluchtversuch ein Polizeiauto gerammt haben soll, und ließ Bilder vom Tatort von der Clearview-App analysieren.

Die identifizierte einen vorbestraften Mann namens Nijeer Parks, der zur Polizeistation vorgeladen wurde. Parks gab jedoch an, nie in der Stadt gewesen zu sein, in der der Diebstahl stattfand. Die Polizisten nahmen ihn dennoch direkt in der Polizeistation in Handschellen noch vor der eigentlichen Vernehmung.

Laut Parks hatte die Polizei die Verhaftung schon im Sinn, als er an der Station ankam. Beamte sollen ihm gesagt haben: „Du weißt, was du getan hast.“

Nachdem ein Richter mehr Beweise von den Ermittlern gefordert hatte, wurde die Anklage fallengelassen. Zu diesem Zeitpunkt hatte Parks bereits zehn Tage im Gefängnis verbracht und hohe Anwaltskosten zu beklagen. Der Fall führte in New Jersey zu einem Gesichtserkennungs-Moratorium und der Ausarbeitung von Gesetzen, die die Nutzung entsprechender Software regeln soll.

Der Vorfall zeigt erneut, was passieren kann, wenn Gesichtserkennung fehlschlägt. Der US-Amerikaner Robert Julian-Borchak Williams wurde im Sommer ebenfalls wegen einer KI-Panne unrechtmäßig verhaftet.

Empfehlung

Tests mit Gesichtserkennung in London und New York zeigten, dass entsprechende Systeme grundsätzlich fehleranfällig sind. Sie schlugen in 81 Prozent der Fälle fehl oder erkannten niemanden. Ähnliche Resultate ergab auch eine Testreihe der Bundespolizei am Berliner Südkreuz.

Das bislang strengste Gesetz gegen Gesichtserkennung erließ die US-Stadt Portland. Der Einsatz ist verboten und wird mit hohen Geldstrafen geahndet.

Quelle: NJ.com

Weiterlesen über Gesichtserkennung:

Anzeige
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Tomislav schreibt über Künstliche Intelligenz im Kontext der XR, Kunst und virtueller Wesen: Wie trägt KI zur Entwicklung von VR und AR bei, wie rekonstruiert und erweitert sie das menschliche Kunstschaffen und welche neue Formen des Geschichtenerzählens und der NPC-Interaktion ermöglicht sie?
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!