Inhalt
newsletter Newsletter
DEEP MINDS Podcast
Podcast über Künstliche Intelligenz und Wissenschaft
KI bei der Bundeswehr und der BWI | DEEP MINDS #16

Das Startup Clearview AI entwickelte eine App für US-Strafverfolger, die Gesichtserkennung mit automatisierter Bilder- und Internetsuche kombiniert. Meist recht ein einziges Bild, um eine Person zu identifizieren. Experten warnen vor dem Überwachungspotenzial der App und fordern gesetzliche Maßnahmen.

Das Foto muss nicht perfekt sein: Es kann von einer Überwachungskamera aus einem ungewöhnlichen Blickwinkel aufgenommen worden sein. Selbst Sonnenbrille und Hut schützen nicht zwingend vor der Identifikation durch die Clearview-App.

Eine Künstliche Intelligenz analysiert die Gesichtsmerkmale und durchsucht das Internet nach Bildern ähnlich aussehender Personen. Anschließend spuckt sie die Suchresultate aus. Eine Identifizierung fällt dann meist nicht mehr schwer, da viele Bilder mit Profilen in sozialen Netzwerken verknüpft sind.

Die Datenbank der App speist sich aus über drei Milliarden Fotos, die automatisch von Plattformen wie Facebook, Twitter und Instagram heruntergeladen werden. Die sozialen Netzwerke verbieten dieses Vorgehen zwar, können es jedoch nicht stoppen, da die Bilder meist frei im Internet zugänglich sein.

Anzeige
Anzeige

Strafverfolger schwärmen von der App

Das im Geheimen operierende Startup aufgedeckt hat die New York Times. In einem Bericht schreibt die Zeitung, dass bereits mehr als 600 US-Exekutivorgane die App einsetzen: von Polizisten in Florida über das FBI bis hin zum Heimatschutzministerium. Und das mit großem Erfolg: Die App soll dabei geholfen haben, Ladendiebe, Kreditkartenbetrüger und sogar Mörder in Rekordzeit zu überführen.

US-Polizisten nutzen zwar seit fast zwanzig Jahren Gesichtserkennung. Aber die Datenbanken beschränken sich auf Polizeifotos sowie Bilder von Führerscheinen und nutzen keine moderne KI-gestützte Gesichtserkennung wie die der Clearview-App.

Dennoch kann es zu Abgleichungsfehlern kommen mit unvorhersehbaren Folgen für unfreiwillige Doppelgänger. Dem 31-jährigen Gründer des Startups, Hoan Ton-That, zufolge, findet die App in 75 Prozent aller Fälle passende Fotos im Internet. Unklar ist, wie viele davon wirklich die gesuchte Person zeigen. Die Genauigkeit des Algorithmus wurde nicht von unabhängigen Behörden geprüft.

Unterstützung für AR-Brillen möglich

Die New York Times analysierte den Code der App und fand Hinweise auf Unterstützung für AR-Brillen. Mit deren Hilfe könnten Nutzer theoretisch fast jede Person identifizieren, die ihnen auf der Straße begegnet. Der Firmengründer bestätigt gegenüber der Zeitung, dass eine entsprechende Funktion entwickelt wurde, es jedoch keine Pläne gebe, sie zu veröffentlichen.

Zu den Investoren des Startups gehören unter anderem der Paypal-Gründer und Trump-Unterstützer Peter Thiel. Die Investoren und die Polizisten, die die App nutzen, glauben, dass die App - oder eine ähnliche Software - eines Tages frei verfügbar sein wird. Der Gründer selbst zögert, weil er sich vor dem potenziellen Missbrauch fürchtet.

Empfehlung

"Was dieses Startup tut, ist unheimlich, aber es wird in Zukunft sehr viel mehr solcher Unternehmen geben. Es gibt kein Monopol auf Mathematik", sagt Datenschutzprofessor Al Gidari von der Stanford Law School gegenüber der Times. "Ohne ein sehr striktes landesweites Datenschutzgesetz haben wir ein riesiges Problem."

Titelbild: Fight for the Future, Quelle: The New York Times

Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!

Weiterlesen über KI-Überwachung:

Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Tomislav schreibt über Künstliche Intelligenz im Kontext der XR, Kunst und virtueller Wesen: Wie trägt KI zur Entwicklung von VR und AR bei, wie rekonstruiert und erweitert sie das menschliche Kunstschaffen und welche neue Formen des Geschichtenerzählens und der NPC-Interaktion ermöglicht sie?
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!