Automatische Gesichtserkennung und -Zuordnung auf Bildern im Sozialen Netzwerk bringen Betroffenen im US-Bundesstatt Illinois jetzt 350 Dollar – pro Person.
Überwachung durch KI-Systeme verspricht allgegenwärtige Sicherheit und exakte Feststellung von Fakten. Also die totale Objektivität. Neben mehr Gerechtigkeit bringt das effizientere Strafverfolgungsbehörden und natürlich auch ein gewisses Maß an Abschreckung. Unsere Welt wird sicherer.
Soweit die Theorie. In der Praxis zeigen sich signifikante Fehlleistungen von Gesichtserkennungssystemen, der wohl bekanntesten Form von KI-Überwachung. Künstliche Intelligenz wird oft mit vorurteilsbelasteten Daten trainiert und wertet oder entscheidet entsprechend. Dunkelhäutige Menschen werden Studien zufolge dabei deutlich öfter falsch positiv erkannt als hellhäutige Menschen.
Gesichtserkennung landet immer öfter vor Gericht
Fehlleistungen im Bereich der Gesichtserkennung haben im öffentlichen Raum bereits zu Konsequenzen geführt. In US-Städten wie Portland oder San Francisco ist der Einsatz verboten. Amazon und Microsoft stoppten den Verkauf ihrer KI-Überwachungssysteme an US-Behörden, bis eine vernünftige gesetzliche Regelung geschaffen werde.
Aber auch im privaten Sektor geht es dem laxen Umgang mit Gesichtserkennungssystemen immer öfter an den Kragen. Die Gesichtserkennungs-App Clearview wurde nach Aufdeckung durch die New York Times mit Sammelklagen überzogen, unter anderem aus dem US-Bundesstaat Illinois, der für besonders rigorose Datenschutzgesetze bekannt ist.
Dort läuft seit 2015 auch ein Verfahren gegen Facebooks Analyse und Speicherung von Nutzerfotos, die automatisch Gesichter auf Bilder erkennen und den passenden Nutzern zuordnen kann – ohne jedoch deren Einverständnis einzuholen. Das ist aber – zumindest in Illinois – verboten. 1,6 Millionen Facebook-Nutzer aus Illinois beteiligten sich an der Sammelklage.
Facebook muss zahlen: 1,6 Millionen mal 406 Dollar
Nachdem Facebook sich bereits letztes Jahr mit einem 550 Millionen Dollar-Vergleich freikaufen wollte, entschied der zuständige Richter, dass dieser Betrag nicht ausreiche. Facebook musste im Vergleich nun nochmal 100 Millionen Dollar drauflegen. Die Gesamtsumme von 650 Millionen Dollar führt nach Abzug der Gerichtskosten voraussichtlich zu einer Auszahlung von rund 350 Dollar pro Kläger.
Die Datensammelwut von Facebook und das willentliche Unverständnis für Privatsphäre und einen verantwortungsvollen Umgang mit Nutzerdaten landet immer öfter vor Gericht. Auch in Deutschland wird gegen den Social Media-Riesen prozessiert, etwa wegen der Zwangszusammenführung von Oculus- mit Facebook-Accounts. In unserer Klage-Chronik „Deutschland vs. Facebook“ könnt ihr die Zusammenhänge nachvollziehen.
KI-Überwachung benötigt klare gesetzliche Vorgaben
Beim Thema Gesichtserkennung müssen noch deutlich höhere Maßstäbe angelegt werden, da die daraus gewonnenen Daten oft für strafrechtliche Verfolgung herangezogen werden. In Moskau überwachen beispielsweise über 100.000 Kameras den öffentlichen Raum. Damit einhergehende Gesichtserkennung stellt laut russischer Justiz keinen Eingriff in die Privatsphäre dar. In China wurde Gesichtserkennung sogar für die Verfolgung von Menschen in angeblich unpassender Kleidung verwendet.
Obwohl es gute Gründe für KI-Überwachung gibt, wiegen die Gründe dagegen – unter anderem aufgrund der technischen Unzulänglichkeiten – noch deutlich schwerer. Es bedarf hier sowohl im Internet als auch im öffentlichen Raum einer konsequenten Gesetzgebung, die klare Regeln für KI-Überwachung definiert und Missbrauch verhindert. Warum KI-Überwachung so gefährlich ist, diskutieren wir im MIXED-Podcast #180.
Quelle: Chicago Tribune, via Heise
