KI-Überwachung ist auf dem Vormarsch. Die EU will jetzt eine Denkpause von bis zu fünf Jahren für Gesichtserkennungsprogramme.
Bundesinnenminister Seehofer will Straftaten verhindern. Das ist löblich, der Weg zu diesem Ziel ist allerdings umstritten. So soll nach Seehofers Wünschen die Bundespolizei dazu ermächtigt werden, Bahnhöfe und Flughäfen mit Gesichtserkennungssystemen zu überwachen.
Gegen diese Pläne gibt es bereits viel Kritik, denn die KI-Software zur Erkennung von Gesichtern ist bei weitem nicht ausgereift. Häufig werden falsch positive Ergebnisse angezeigt. Ob eine hohe Fehlerquote in diesem Bereich für mehr Sicherheit sorgen würde, darf bezweifelt werden.
Verbot der Gesichtserkennung für fünf Jahre
Nun kommt aber aus Brüssel eine Meldung wie ein Paukenschlag, die Seehofer so gar nicht schmecken dürfte: Laut mehreren Quellen (u. a. Reuters und Bloomberg) plant die EU-Kommission ein Verbot von KI-gestützten Gesichtserkennungssystemen im öffentlichen Raum. Das Verbot soll vorerst zwischen drei und fünf Jahren gelten und unterschiedslos private und behördliche Zwecke betreffen.
Innerhalb dieser Zeit soll "eine solide Methodik zur Bewertung der Auswirkungen dieser Technologie und möglicher Risikomanagementmaßnahmen ermittelt und entwickelt werden", so heißt es im entsprechenden White Paper (auf Politico abrufbar). Allerdings werden auch mögliche Ausnahmen zu Sicherheits- oder Forschungszwecken angesprochen.
Entwickler und Nutzer solcher KI-Software sollen besonderen Verpflichtungen nachkommen müssen, so heißt es im White Paper weiter. Außerdem müsste es behördliche Einrichtungen geben, die die Einhaltung der Regeln überwachen. Die EU-Kommission sammelt derzeit Feedback zu diesen Plänen.
Zunehmende Überwachung mittels KI – trotz hoher Fehlerquote
Einer Studie der Carnegie Stiftung für internationalen Frieden (CEIP) zufolge steigt die Verwendung von KI in der Überwachung stetig. Mindestens 75 von 176 untersuchten Ländern verwenden Künstliche Intelligenz zur Überwachung, die deutliche Mehrheit davon auch Gesichtserkennungstechnologie. Insbesondere China geht bei der Überwachung seiner Bürger führend voran und nutzt sie beispielsweise, um ethnische Minderheiten zu verfolgen.
Es gibt allerdings auch gegensätzliche Tendenzen: So verbot beispielsweise San Francisco den Einsatz solcher Technologien. Gründe für die Ablehnung von Gesichtserkennungsprogrammen liegen nicht zuletzt in ihrer hohen Fehleranfälligkeit. Unter anderem werden Personen nicht-weißer Hautfarbe deutlich schlechter erkannt.
Inwieweit das geplante Gesetz einen positiven Schritt in die richtige Richtung markiert, muss sich erst noch zeigen. Im Frühjahr will die EU-Kommission das Gesetz vorlegen. Viel wird davon abhängen, ob erneut die Industrie deutlich Einfluss auf die Pläne nehmen und eine Verwässerung erreichen kann. Der Überwachung positiv gegenüberstehende Ministerien, wie etwa das von Horst Seehofer, werden ebenfalls versuchen, die möglichen Ausnahmen deutlich zu ihren Gunsten auslegen zu lassen.
