Inhalt
newsletter Newsletter
DEEP MINDS Podcast
Podcast über Künstliche Intelligenz und Wissenschaft
KI bei der Bundeswehr und der BWI | DEEP MINDS #16

Microsoft will den Geist der Überwachung in der Flasche halten.

Im eigenen Blog fordert Microsoft-Präsident Brad Smith mit markigen Worten dazu auf, KI-gestützte Gesichtserkennung zu regulieren, bevor Überwachungsdystopien wie im Roman 1984 Realität würden. Die Rechte des Einzelnen müssten geschützt werden.

"Der Gesichtsanalysegeist taucht sozusagen gerade aus der Flasche auf", schreibt Smith. "Wenn wir nicht handeln, riskieren wir, in fünf Jahren aufzuwachen, um festzustellen, dass sich die Gesichtserkennungsdienste auf eine Weise verbreitet haben, die gesellschaftliche Probleme verschärft." Die Technologie dann wieder einzufangen, sei ungleich schwieriger, so Smith.

Speziell Entscheidungen, die in Zusammenhang mit einer Gesichtserkennung getroffen würden, dürften nicht an den Computer ausgelagert werden, fordert Smith.

Anzeige
Anzeige

Die Technologie dürfe außerdem nicht über dem Gesetz stehen, beispielsweise bei der Diskriminierung von Minderheiten, oder für eine Totalüberwachung missbraucht werden.

"In Kombination mit allgegenwärtigen Kameras und massiver Rechenleistung sowie Cloud-Speicher könnte eine Regierung Gesichtserkennungstechnologie für eine kontinuierliche Überwachung einzelner Personen einsetzen", schreibt Smith.

"Wir müssen sicherstellen, dass das Jahr 2024 nicht wie eine Seite aus dem Roman 1984 aussieht."

Smith nimmt die Techbranche in die Verantwortung

Microsoft gehöre selbst zu den führenden Anbietern von Gesichtserkennungstechnologie, die abseits aller Dystopien auch für positive Zwecke eingesetzt werden könne wie medizinische Diagnosen oder um vermisste Kinder aufzuspüren, so Smith.

Er appelliert daher auch an die eigene Branche, die nicht auf Gesetze warten dürfe: "Wir und andere Technologieunternehmen müssen Sicherheitsvorkehrungen treffen."

Empfehlung

Microsoft wolle sich zukünftig an sechs Prinzipien ausrichten:

  • Fairness: Gesichtserkennungstechnologie soll alle Menschen "fair" behandeln.
  • Transparenz: Die Möglichkeiten von Gesichtserkennungstechnologie sollen dokumentiert und klar kommuniziert werden.
  • Verantwortlichkeit: Microsoft-Kunden sollen "ermutigt und befähigt" werden, Gesichtserkennungstechnologie so einzusetzen, dass ein "angemessenes Maß" an menschlicher Kontrolle für Anwendungen gewährleistet ist, die Menschen beeinträchtigen können.
  • Keine Diskriminierung: Microsoft will in den Allgemeinen Geschäftsbedingungen die Verwendung von Gesichtserkennungstechnologien für rechtswidrige Diskriminierung verbieten.
  • Hinweis und Einwilligung: Kunden sollen den Einsatz von Gesichtserkennungstechnologien deutlich machen und die Zustimmung der Betroffenen einholen.
  • Gesetzliche Überwachung: Microsoft will keine Gesichtserkennungstechnologie in Szenarien einsetzen, bei denen der Konzern davon ausgeht, dass sie die demokratische Freiheit gefährden könnten.

Die Prinzipien wurden innerhalb von sechs Monaten in Zusammenarbeit mit den eigenen Angestellten, Kunden, Akademikern, Personen aus dem öffentlichen Dienst und Bürgerrechtsgruppen entwickelt.

Ab dem ersten Quartal 2019 will Microsoft sie in die eigenen Geschäftsprozesse und Produkte implementieren. Eine ausführliche Dokumentation der Prinzipien soll in der kommenden Woche erscheinen.

Titelbild: Microsoft

Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!

Weiterlesen über KI-Überwachung:

Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Online-Journalist Matthias ist Gründer und Herausgeber von THE DECODER. Er ist davon überzeugt, dass Künstliche Intelligenz die Beziehung zwischen Mensch und Computer grundlegend verändern wird.
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!