Künstliche Intelligenz ist eine mächtige Überwachungstechnologie, weil sie menschliches Verhalten automatisiert erkennen und bewerten kann. Die Effizienz dieser Prozesse macht sie für Unternehmen attraktiv, obwohl die Folgen kaum erforscht sind. Britische Politiker:innen wollen den KI-Einsatz am Arbeitsplatz daher regulieren.
Gerade als die Home Office-Pflicht Mitte 2020 so richtig durchschlug in den Unternehmen, meldete sich das Bostoner Start-up Enaible mit der ultimativen Beruhigungssoftware für misstrauische Vorgesetzte: Trainierte Algorithmen sollen die Arbeitsleistung einzelner Angestellter im Home-Office überwachen und bewerten. Die Nachfrage während der Corona-Pandemie stieg laut des Start-ups um den Faktor vier.
In den USA überwacht der E-Commerce-Riese Amazon die eigenen Auslieferungsfahrzeuge mit KI-Technik. Computer Vision-Kameras sollen "gutes Fahrverhalten" identifizieren und über dessen Abwesenheit berichten. Amazon-Fahrer:innen bezeichneten die KI-Überwachung unter anderem als "zermürbend".
Beispiele wie diese gibt es viele, etwa das Leistungs-Tracking an Supermarktkassen - und die Technologie steht noch am Anfang. Zukünftige multimodale KI-Systeme mit mehr Verständnis für Zusammenhänge werden umfangreicher tracken, besser analysieren und schärfer bewerten können.
KI-Tracking soll der mentalen Gesundheit schaden
Die britische parteiübergreifende parlamentarische Arbeitsgruppe (All-Party Parliamentary Group, APPG) zur Zukunft der Arbeit geht davon aus, dass eine permanente, automatisierte Leistungsüberwachung der mentalen Gesundheit einzelner Angestellter schadet. Der Einsatz von KI am Arbeitsplatz verursache bei Arbeitnehmenden außerdem ein Gefühl der Unfairness und von mangelnder Unabhängigkeit.
"Insbesondere die allgegenwärtigen Überwachungs- und Zielvorgabe-Technologien werden mit ausgeprägten negativen Auswirkungen auf das psychische und physische Wohlbefinden in Verbindung gebracht, da die Arbeitnehmer dem extremen Druck des ständigen Echtzeit-Mikromanagements und der automatisierten Bewertung ausgesetzt sind", heißt es in dem APPG-Bericht "The New Frontier: Artificial Intelligence at Work".
Unternehmen sollen KI-Einsatz wenigstens evaluieren
Die britischen Politiker:innen fordern daher ein "Gesetz über die Rechenschaftspflicht für Algorithmen", das, der Name legt es nahe, KI-Überwachung am Arbeitsplatz zwar nicht untersagt, aber sicherstellen soll, dass Unternehmen zumindest die Auswirkungen der Überwachungstechnologie evaluieren und dokumentieren.
In dem Bericht beschreiben die Autor:innen, dass der Einsatz von "algorithmischen Überwachungs-, Management- und Monitoring-Technologien mit Beratungsfunktion" während der Pandemie erheblich zugenommen habe. Sie fordern ein Algorithmusgesetz, das den Menschen in den Mittelpunkt stellt.
Arbeitnehmende etwa sollen bei der Gestaltung und Nutzung von KI-Systemen einbezogen werden und Unternehmen sowie Arbeitgeber des öffentlichen Sektors sollen Folgenabschätzung betreiben. Außerdem benötige es Leitlinien sowie Zertifizierungen für den Einsatz von KI am Arbeitsplatz.
"Es gibt deutliche Lücken in der Regulierung auf individueller und unternehmerischer Ebene, die den Menschen und Gemeinschaften im ganzen Land schaden", sagt der Labour-Politiker Clive Lewis, der an der Ausarbeitung des Berichts beteiligt war.
Über die Risiken und möglichen Chancen von KI-automatisierter Überwachungstechnik sprechen wir im MIXED.de Podcast #180.
