Washington hat ein neues Gesetz beschlossen, das den behördlichen Einsatz von Gesichtserkennung regulieren soll. Microsoft ist Fan.
Flächendeckende Gesichtserkennung bedroht die Privatsphäre, die Demokratie und letztlich so die Freiheitsrechte unserer Gesellschaft. Die Technologie kann aber auch Strafverfolgung effizienter machen und Leben retten - wenn sie verantwortungsvoll eingesetzt wird.
Der Staat Washington hat nun erstmals ein Gesetz verabschiedet, das helfen soll, diesen Balanceakt zu meistern:
- Behörden müssen regelmäßig berichten, wann und für welche Zwecke sie KI-gestützte Gesichtserkennung einsetzen.
- Sie brauchen vor dem Einsatz von Gesichtserkennung eine Genehmigung beispielsweise durch ein Gericht - ähnlich wie bei einem Durchsuchungsbefehl - oder es muss sich um einen Notfall handeln, bei dem eine unmittelbare Bedrohung verhindert werden soll.
- Außerdem sollen die Datensätze für das KI-Training durch die Behörden auf Fairness und Akkuratheit geprüft werden können. Dafür müssen die anbietenden Unternehmen ihre Trainingsdaten transparent machen.
- Eine Arbeitsgruppe soll den Einsatz der Technologie bei Behörden untersuchen und dokumentieren.
Der Mensch als Entscheider bei schwerwiegenden Konsequenzen
Diese Maßnahmen schaffen eine solide Grundlage, auf der dann die wichtigste Regulierung greifen soll: Immer dann, wenn der Einsatz einer Gesichtserkennungssoftware potenziell rechtliche Folgen hat, muss das Ergebnis von einem Menschen begutachtet und freigegeben werden.
Der Mensch ist beispielweise dann gefordert, wenn die Gesichtserkennung den Job, Finanzen, die Unterkunft, Versicherung oder die Ausbildung betreffen könnte.
Vorausgesetzt, dass diese Begutachtung gründlich erfolgt, wäre so zumindest einer vollständigen Überwachungsautomatisierung in hohem Tempo ein Riegel vorgeschoben.
Microsoft ist an der Gesetzgebung beteiligt
Vorgeschlagen wurde das Gesetz von Senator Joe Nguyen, der für Microsoft arbeitet: Er bezeichnet es als "historisch".
Sein Vorgesetzter, Microsoft-Präsident Brad Smith, begrüßt, dass nun endlich ein spezifisches Beispiel für ein Gesetz existiert: "Einige werden kritisieren, dass es nicht genug bringt. Andere sagen, es geht zu weit. Wenn es um neue Regeln für sich verändernde Technologie geht, dann ist das die Definition von Fortschritt."
Zu den Kritikern des Gesetzes gehört die Bürgerrechtsorganisation "American Civil Liberties Union" (ACLU), die unter anderem 2018 in den Clinch mit Amazon ging zur potenziell fehlerhaften Gesichtserkennungssoftware "Rekognition", die von einigen US-Polizeibehörden eingesetzt wurde oder wird.
Die ACLU sei "extrem enttäuscht" vom neuen Gesetz, heißt es in einem Statement, insbesondere, da einzelne Gesellschaftsgruppen und Gemeinden kein Mitspracherecht hätten. Die ACLU befürchtet, dass falsch trainierte KI-Systeme Vorurteile gegenüber Minderheiten verstärken.
"Wir werden weiterhin auf ein Moratorium drängen, um historisch verfolgten und marginalisierten Gemeinschaften, wie z.B. schwarzen und indigenen Gemeinschaften, die Möglichkeit zu geben, nicht nur zu entscheiden, wie die Technologie zur Gesichtsüberwachung eingesetzt werden soll, sondern ob sie überhaupt eingesetzt werden soll."
Über die Chancen und Risiken der KI-Überwachung sprechen wir im MIXED.de Podcast #180.
Titelbild: Microsoft
