KI und Gesellschaft

Gesichtserkennung: Washington verabschiedet erstes Gesetz

Matthias Bastian
Gesichtserkennung: Washington verabschiedet erstes Gesetz

Microsoft

Washington hat ein neues Gesetz beschlossen, das den behördlichen Einsatz von Gesichtserkennung regulieren soll. Microsoft ist Fan.

Flächendeckende Gesichtserkennung bedroht die Privatsphäre, die Demokratie und letztlich so die Freiheitsrechte unserer Gesellschaft. Die Technologie kann aber auch Strafverfolgung effizienter machen und Leben retten - wenn sie verantwortungsvoll eingesetzt wird.

Der Staat Washington hat nun erstmals ein Gesetz verabschiedet, das helfen soll, diesen Balanceakt zu meistern:

Der Mensch als Entscheider bei schwerwiegenden Konsequenzen

Diese Maßnahmen schaffen eine solide Grundlage, auf der dann die wichtigste Regulierung greifen soll: Immer dann, wenn der Einsatz einer Gesichtserkennungssoftware potenziell rechtliche Folgen hat, muss das Ergebnis von einem Menschen begutachtet und freigegeben werden.

Der Mensch ist beispielweise dann gefordert, wenn die Gesichtserkennung den Job, Finanzen, die Unterkunft, Versicherung oder die Ausbildung betreffen könnte.

Vorausgesetzt, dass diese Begutachtung gründlich erfolgt, wäre so zumindest einer vollständigen Überwachungsautomatisierung in hohem Tempo ein Riegel vorgeschoben.

Microsoft ist an der Gesetzgebung beteiligt

Vorgeschlagen wurde das Gesetz von Senator Joe Nguyen, der für Microsoft arbeitet: Er bezeichnet es als "historisch".

Sein Vorgesetzter, Microsoft-Präsident Brad Smith, begrüßt, dass nun endlich ein spezifisches Beispiel für ein Gesetz existiert: "Einige werden kritisieren, dass es nicht genug bringt. Andere sagen, es geht zu weit. Wenn es um neue Regeln für sich verändernde Technologie geht, dann ist das die Definition von Fortschritt."

Zu den Kritikern des Gesetzes gehört die Bürgerrechtsorganisation "American Civil Liberties Union" (ACLU), die unter anderem 2018 in den Clinch mit Amazon ging zur potenziell fehlerhaften Gesichtserkennungssoftware "Rekognition", die von einigen US-Polizeibehörden eingesetzt wurde oder wird.

Die ACLU sei "extrem enttäuscht" vom neuen Gesetz, heißt es in einem Statement, insbesondere, da einzelne Gesellschaftsgruppen und Gemeinden kein Mitspracherecht hätten. Die ACLU befürchtet, dass falsch trainierte KI-Systeme Vorurteile gegenüber Minderheiten verstärken.

"Wir werden weiterhin auf ein Moratorium drängen, um historisch verfolgten und marginalisierten Gemeinschaften, wie z.B. schwarzen und indigenen Gemeinschaften, die Möglichkeit zu geben, nicht nur zu entscheiden, wie die Technologie zur Gesichtsüberwachung eingesetzt werden soll, sondern ob sie überhaupt eingesetzt werden soll."

Über die Chancen und Risiken der KI-Überwachung sprechen wir im MIXED.de Podcast #180.

Titelbild: Microsoft

Weiterlesen über KI-Überwachung: