Eine KI-Panne in China zeigt, wie schnell sich KI-gestützte Überwachung gegen die Bürger wenden kann.
In der Stadt Ningbo auf einem der in China gängigen öffentlichen Anklagemonitore taucht das Gesicht von Dong Mingzhu auf (siehe Titelbild).
Dongs vermeintliches Vergehen untertitelt das Foto: Sie soll bei Rot über die Ampel gelaufen sein. Entdeckt wurde diese Straftat von einer mit Gesichtsanalysetechnologie ausgestatteten Überwachungskamera, berichtet die Webseite Abacus.
Das Problem: Dong Mingzhu war überhaupt nicht anwesend, als sie bei Rot über die Straße gelaufen sein soll. Die Überwachungskamera fiel auf einen vorbeifahrenden Bus herein, der ein Foto der Frau auf die Seite gedruckt hatte. Denn Dong ist eine Geschäftsfrau: Sie wirbt mit ihrem Konterfei für Klimaanlagen.
Ein Foto des Anklagemonitors mit Dongs Gesicht darauf machte beim chinesischen Kurznachrichtendienst Weibo die Runde, die Leute hatten ihren Spaß mit der KI-Panne. Die Polizei von Ningbo räumte den Fehler kurz darauf ein: "Ein Eigentor." Die Behörde löschte den Strafpunkt in Dongs Verhaltensregister. Weiter sei ein Update eingespielt worden, um ähnliche Fehler zukünftig zu vermeiden.
Die KI-Panne wirft vor allem eine Frage auf: Was ist, wenn Menschen fälschlicherweise eines Vergehens beschuldigt werden, die nicht so populär sind wie Dong?
Tausende Rotgänger gemeldet
Nach Angaben der Stadt Ningbo überwachen die KI-Kameras sechs Straßenkreuzungen. Bislang sollen sie 7.800 unachtsame Fußgänger protokolliert haben. In der Stadt Shenzhen soll die gleiche Überwachungstechnologie in nur zehn Monaten 14.000 Verstöße gemeldet haben - an einer einzigen Kreuzung.
Kürzlich stellte die chinesische Firma Watrix die nächste Stufte KI-gestützte Überwachungskamera vor. Sie lässt sich nicht so einfach von einem Foto täuschen: Die Kamera erkennt Menschen an ihrem Gang.
Weiterlesen über KI-Überwachung:
- KI-Kontrolle: Microsoft warnt vor 1984-Szenario
- KI-System mit Röntgenblick sieht durch Wände
- Ein Überwachungsunternehmen ist Chinas wertvollstes KI-Startup
- iBorderCtrl: EU plant KI-gestützte Grenzüberwachung