Inhalt
newsletter Newsletter
DEEP MINDS Podcast
Podcast über Künstliche Intelligenz und Wissenschaft
KI bei der Bundeswehr und der BWI | DEEP MINDS #16

Update vom 4. August 2019:

Nach Google und Apple reagiert auch Amazon auf die Abhörkritik von Medien und Nutzern: In den Alexa-Optionen kann ab sofort die Teilnahme am Sprachanalyseprogramm deaktiviert werden. Amazon will Kunden zeitnah zum neuen Verfahren informieren.

Via: Bloomberg

Ursprünglicher Artikel vom 13. April 2019:

Anzeige
Anzeige

Amazon Alexa: Von wegen KI - Menschen hören mit

Der E-Commerce-Riese Amazon lässt menschliche Lohnarbeiter die Sprach-KI Alexa verbessern.

Amazon beschäftigt nach Recherchen von Bloomberg weltweit tausende Mitarbeiter und externe Dienstleister als professionelle Alexa-Lauscher. Ihre Aufgabe: Aufnahmen des Assistenzsystems analysieren. Mit den eigenen Ohren.

Die Teams sitzen in Boston, Costa Rica, Indien oder Rumänien und gehen bis zu 1.000 Aufnahmen pro Tag durch – auch die der deutschen Kunden.

Die Hörer transkribieren die Aufnahmen und versehen sie mit Anmerkungen. Ein Beispiel: Ein Mitarbeiter aus Boston geht Aufnahmen mit den Worten „Taylor Swift“ durch und weist sie der Sängerin zu.

Andere Teams vergleichen den Inhalt von Aufnahmen mit Alexas automatischer Transkription und passen sie bei Bedarf an. Diese Informationen nutzt Amazon, um Alexas Sprachverständnis zu verbessern.

Empfehlung

Private Informationen werden ebenfalls übermittelt

Doch Alexa wird nicht nur durch konkrete Befehle aktiviert. Wie Mitarbeiter berichten, gibt es immer wieder durch Fernseher oder normale Gespräche ausgelöste Aufnahmen. Die Nutzer bekommen das häufig gar nicht mit.

Dadurch ist allerlei Privates zu hören: Gesänge unter der Dusche, Kindergespräche oder sogar Bankdaten. Sind allzu private Details zu hören, setzen die Teams einen Haken bei „critical data“.

Amazon betont in einer Stellungnahme, dass Beschäftigte keinen direkten Zugang zu Informationen hätten, durch die eine Person oder Account identifiziert werden könne. Alle Informationen würden streng vertraulich behandelt. Apple und Google geben gegenüber Bloomberg an, ebenfalls menschliche Prüfer für die Sprachaufnahmen von Siri und des Google Assistenten einzusetzen.

Identifikation durch Aufnahmen ist möglich

Grundsätzlich enthalten einzelne Aufnahmen selten Informationen, mit denen eine Person identifiziert werden kann. Allerdings werden sie über Monate oder sogar Jahre gespeichert. So sammeln sich hunderte Aufnahmen eines einzelnen Nutzers an.

Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!

Dass das für eine eindeutige Zuordnung reichen kann, zeigte letztes Jahr ein bedenkliches Datenschutzleck: Amazon schickte einem Kunden auf Anfrage über ihn gespeicherte Daten. Mit dabei waren 1.700 Aufnahmen von Alexa.

Der Kunde hatte Alexa jedoch noch nie genutzt. Alle Daten waren von einer anderen Person. Das Magazin c’t konnte sie anhand der Aufnahmen identifizieren. Über das Datenleck war sie nicht informiert, obwohl Amazon bereits davon wusste.

Unsichtbare menschliche Hilfe

Der ein oder andere mag zwar darüber informiert sein, dass Amazon mit Nutzerbefehlen das Sprachverständnis der Alexa-KI trainiert. Doch die menschlichen Zuhörerinnen und Zuhörer, die privaten Gesprächen lauschen, dürften viele überraschen, sagt Florian Schaub, Professor der Universität Michigan.

Schaub forscht zu Datenschutzproblemen von Sprachassistenten wie Alexa oder Google Home. Für ihn sind Alexa-Nutzer nicht zu naiv, sondern das Marketing zu geschickt: „Ich denke, wir wurden auf die Annahme konditioniert, dass diese Maschinen nur ‚magisches‘ Maschinenlernen nutzen. Aber dahinter steckt immer noch manuelle, menschliche Verarbeitung.“

Die Fließbandarbeiter hinter dem eleganten Tech-Konzern

Die Datenverarbeitung durch Niedriglohnkräfte ist eine blühende Industrie: Sie spielt eine wichtige Rolle für das autonome Fahren oder bei der Optimierung von Internet-Suchmaschinen. Dass die Arbeiter dabei Zugriff auf sensible Daten haben, ist für die Tech-Konzerne notwendig. Dass die Kunden darüber Bescheid wissen, eher hinderlich.

Das nicht nur aus Gründen des Datenschutzes, sondern auch, weil’s um den schönen Schein geht: Nämlich dass große Tech-Konzerne alle Probleme wie von selbst durch Technologie lösen können. Dass sie in Wirklichkeit im Hintergrund noch auf menschliche Fließbandarbeit angewiesen sind, passt nicht ins angestrebte Image.

Quelle: Bloomberg

Weiterlesen über Künstliche Intelligenz:

Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Max ist leitender Redakteur bei THE DECODER. Als studierter Philosoph beschäftigt er sich mit dem Bewusstsein, KI und der Frage, ob Maschinen wirklich denken können oder nur so tun als ob.
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!