Microsoft will den Geist der Überwachung in der Flasche halten.
Im eigenen Blog fordert Microsoft-Präsident Brad Smith mit markigen Worten dazu auf, KI-gestützte Gesichtserkennung zu regulieren, bevor Überwachungsdystopien wie im Roman 1984 Realität würden. Die Rechte des Einzelnen müssten geschützt werden.
"Der Gesichtsanalysegeist taucht sozusagen gerade aus der Flasche auf", schreibt Smith. "Wenn wir nicht handeln, riskieren wir, in fünf Jahren aufzuwachen, um festzustellen, dass sich die Gesichtserkennungsdienste auf eine Weise verbreitet haben, die gesellschaftliche Probleme verschärft." Die Technologie dann wieder einzufangen, sei ungleich schwieriger, so Smith.
Speziell Entscheidungen, die in Zusammenhang mit einer Gesichtserkennung getroffen würden, dürften nicht an den Computer ausgelagert werden, fordert Smith.
Die Technologie dürfe außerdem nicht über dem Gesetz stehen, beispielsweise bei der Diskriminierung von Minderheiten, oder für eine Totalüberwachung missbraucht werden.
"In Kombination mit allgegenwärtigen Kameras und massiver Rechenleistung sowie Cloud-Speicher könnte eine Regierung Gesichtserkennungstechnologie für eine kontinuierliche Überwachung einzelner Personen einsetzen", schreibt Smith.
"Wir müssen sicherstellen, dass das Jahr 2024 nicht wie eine Seite aus dem Roman 1984 aussieht."
Smith nimmt die Techbranche in die Verantwortung
Microsoft gehöre selbst zu den führenden Anbietern von Gesichtserkennungstechnologie, die abseits aller Dystopien auch für positive Zwecke eingesetzt werden könne wie medizinische Diagnosen oder um vermisste Kinder aufzuspüren, so Smith.
Er appelliert daher auch an die eigene Branche, die nicht auf Gesetze warten dürfe: "Wir und andere Technologieunternehmen müssen Sicherheitsvorkehrungen treffen."
Microsoft wolle sich zukünftig an sechs Prinzipien ausrichten:
- Fairness: Gesichtserkennungstechnologie soll alle Menschen "fair" behandeln.
- Transparenz: Die Möglichkeiten von Gesichtserkennungstechnologie sollen dokumentiert und klar kommuniziert werden.
- Verantwortlichkeit: Microsoft-Kunden sollen "ermutigt und befähigt" werden, Gesichtserkennungstechnologie so einzusetzen, dass ein "angemessenes Maß" an menschlicher Kontrolle für Anwendungen gewährleistet ist, die Menschen beeinträchtigen können.
- Keine Diskriminierung: Microsoft will in den Allgemeinen Geschäftsbedingungen die Verwendung von Gesichtserkennungstechnologien für rechtswidrige Diskriminierung verbieten.
- Hinweis und Einwilligung: Kunden sollen den Einsatz von Gesichtserkennungstechnologien deutlich machen und die Zustimmung der Betroffenen einholen.
- Gesetzliche Überwachung: Microsoft will keine Gesichtserkennungstechnologie in Szenarien einsetzen, bei denen der Konzern davon ausgeht, dass sie die demokratische Freiheit gefährden könnten.
Die Prinzipien wurden innerhalb von sechs Monaten in Zusammenarbeit mit den eigenen Angestellten, Kunden, Akademikern, Personen aus dem öffentlichen Dienst und Bürgerrechtsgruppen entwickelt.
Ab dem ersten Quartal 2019 will Microsoft sie in die eigenen Geschäftsprozesse und Produkte implementieren. Eine ausführliche Dokumentation der Prinzipien soll in der kommenden Woche erscheinen.
Titelbild: Microsoft