Massenüberwachung per Überall-Gesichtserkennung gilt als gesellschaftliches Risiko im KI-Zeitalter. Jetzt fällt Facebook aka Meta eine Grundsatzentscheidung in der Debatte: Mehr als eine Milliarde Gesichtsdaten will der Konzern löschen und die Technologie nur noch in wenigen Ausnahmen einsetzen.
Facebook (Meta) möchte zukünftig keine Gesichtserkennungstechnologie mehr auf den eigenen Plattformen einsetzen. Die entsprechende Technologie wird in den kommenden Wochen eingestellt. Bislang gesammelte Gesichtsdaten von mehr als einer Milliarde Nutzer:innen sollen gelöscht werden.
Das gibt Metas KI-Chef Jerome Pesonti in einem aktuellen Blog-Post bekannt und nennt diese Entscheidung "eine der bedeutendsten Verschiebungen bei der Nutzung von Gesichtserkennung in der Geschichte der Technologie".
In einigen „begrenzten Fällen“ zu persönlicher Authentifizierung will Meta Gesichtsdaten weiter verarbeiten, um etwa Zugriff auf ein gesperrtes Konto oder ein persönliches Gerät zu gewähren oder um Betrug und Nachahmung zu verhindern.
Facebook verwendet Gesichtserkennungstechnologie hauptsächlich, um auf den eigenen Plattformen Personen über mehrere Bilder hinweg automatisch zu identifizieren und zu markieren. Beim kürzlich angekündigten Wandel hin zum Metaverse-Konzern könnte Gesichtserkennung zukünftig eine zentrale Rolle spielen, wenn etwa in Brillen integrierte Kameras automatisch Personen erkennen.
KI-Überwachung: Facebook trifft eine Grundsatzentscheidung
"Es war keine leichte Entscheidung, denn es gibt eine Reihe von Stellen, an denen die Gesichtserkennung für die Menschen auf Facebook äußerst nützlich ist. Aber wir mussten dies gegen die zunehmenden Bedenken der Öffentlichkeit gegenüber der Gesichtserkennung als Ganzes abwägen", begründet Facebooks KI-Manager Jerome Pesenti die Grundsatzentscheidung.
This is one of the biggest shifts in facial recognition usage in the technology’s history. We will delete more than a billion people’s individual facial recognition templates.
— Jerome Pesenti (@an_open_mind) November 2, 2021
In den letzten Jahren warnten immer wieder prominente Personen und Datenschutzorganisationen vor den neuen Möglichkeiten KI-gestützter Überwachungstechnologien speziell im Kontext der Gesichtserkennung.
Microsoft-Präsident Brad Smith beschrieb bereits vor rund drei Jahren ein Überwachungsszenario wie im Roman 1984, auch der US-Politiker Bernie Sanders zog diesen Vergleich. Der Whistleblower Edward Snowden befürchtet einen nicht mehr zu kontrollierenden Machtapparat.
Große Tech-Konzerne wie Microsoft, Amazon, Google oder IBM verzichten laut eigenen Angaben auf den Verkauf von Gesichtserkennungstechnologie an Behörden – was allerdings wenig bringt, wenn diese dann bevorzugt bei Clearview einkaufen.
"Der große Wandel": Wird Meta zum Datenschutzkonzern?
Die Entscheidung passt in „den großen Wandel“, den Metas Technologie-Chef Andrew Bosworth Ende letzten Jahres verkündete: Der Datenkonzern solle Privatsphäre und Datenschutz zukünftig als oberste Priorität bei der Produktentwicklung sehen – sogar dann, wenn das Produkt dadurch schlechter würde.
„Wir sollten die unangefochtenen Marktführer bei der Bereitstellung von datenschutzfreundlicher Software werden“, schrieb Bosworth. Produkte im Bereich VR und AR müssten unter der Annahme entwickelt werden, dass Daten nicht gesammelt, benutzt oder gespeichert werden dürfen.
Im Februar beschrieb Bosworth den Nutzen von Gesichtserkennung für AR-Brillen bei einem internen Facebook-Meeting. „Wir können das als Gesellschaft entscheiden und dieses Produkt wird auch ohne es [Gesichtserkennung] überleben und gedeihen. Ich denke aber, dass Potenzial verloren geht“, sagte Bosworth.
"Jede neue Technologie ist mit Kosten und Nutzen verbunden. Wir sind der Meinung, dass die Frage, wie diese im Falle der Gesichtserkennung abzuwägen sind, in aller Öffentlichkeit und unter den Menschen, die am meisten davon betroffen sind, diskutiert werden sollte", schreibt Pesenti.
Die Risiken und Chancen von KI-gestützter Überwachungstechnologie und Gesichtserkennung diskutieren wir ausführlich im MIXED.de Podcast #180.
