Inhalt
newsletter Newsletter
DEEP MINDS Podcast
Podcast über Künstliche Intelligenz und Wissenschaft
KI bei der Bundeswehr und der BWI | DEEP MINDS #16

Eine KI-Panne in China zeigt, wie schnell sich KI-gestützte Überwachung gegen die Bürger wenden kann.

In der Stadt Ningbo auf einem der in China gängigen öffentlichen Anklagemonitore taucht das Gesicht von Dong Mingzhu auf (siehe Titelbild).

Dongs vermeintliches Vergehen untertitelt das Foto: Sie soll bei Rot über die Ampel gelaufen sein. Entdeckt wurde diese Straftat von einer mit Gesichtsanalysetechnologie ausgestatteten Überwachungskamera, berichtet die Webseite Abacus.

Das Problem: Dong Mingzhu war überhaupt nicht anwesend, als sie bei Rot über die Straße gelaufen sein soll. Die Überwachungskamera fiel auf einen vorbeifahrenden Bus herein, der ein Foto der Frau auf die Seite gedruckt hatte. Denn Dong ist eine Geschäftsfrau: Sie wirbt mit ihrem Konterfei für Klimaanlagen.

Anzeige
Anzeige

Ein Foto des Anklagemonitors mit Dongs Gesicht darauf machte beim chinesischen Kurznachrichtendienst Weibo die Runde, die Leute hatten ihren Spaß mit der KI-Panne. Die Polizei von Ningbo räumte den Fehler kurz darauf ein: "Ein Eigentor." Die Behörde löschte den Strafpunkt in Dongs Verhaltensregister. Weiter sei ein Update eingespielt worden, um ähnliche Fehler zukünftig zu vermeiden.

Die KI-Panne wirft vor allem eine Frage auf: Was ist, wenn Menschen fälschlicherweise eines Vergehens beschuldigt werden, die nicht so populär sind wie Dong?

Tausende Rotgänger gemeldet

Nach Angaben der Stadt Ningbo überwachen die KI-Kameras sechs Straßenkreuzungen. Bislang sollen sie 7.800 unachtsame Fußgänger protokolliert haben. In der Stadt Shenzhen soll die gleiche Überwachungstechnologie in nur zehn Monaten 14.000 Verstöße gemeldet haben - an einer einzigen Kreuzung.

Kürzlich stellte die chinesische Firma Watrix die nächste Stufte KI-gestützte Überwachungskamera vor. Sie lässt sich nicht so einfach von einem Foto täuschen: Die Kamera erkennt Menschen an ihrem Gang.

Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!

Weiterlesen über KI-Überwachung:

Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Online-Journalist Matthias ist Gründer und Herausgeber von THE DECODER. Er ist davon überzeugt, dass Künstliche Intelligenz die Beziehung zwischen Mensch und Computer grundlegend verändern wird.
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!