Was tun gegen KI-Überwachung? Wie wäre es mit einem T-Shirt, das euch für Künstliche Intelligenz unsichtbar macht.
Auf Objekterkennung spezialisierte KIs können mit dezent manipulierten Bildern grundlegend getäuscht werden. So grundlegend, dass die KI zum Beispiel anstelle einer Schildkröte ein Gewehr erkennt oder eine Espressotasse statt eines Baseballschlägers.
Man braucht nicht viel Fantasie, um sich vorzustellen, wie diese Schwachstelle für gravierende Verbrechen genutzt werden könnte: Autonome Autos könnten von der Fahrbahn gelenkt werden und militärische KI-Systeme Freunde und Feinde verwechseln. An KI-Sicherheitskontrollen könnten Waffen vorbeigeschmuggelt werden.
Unsichtbarkeits-Shirt ohne Zauberei
In der Dystopie allgegenwärtiger KI-Überwachung könnten sich derartige Ablenkungsmanöver auch als nützlich erweisen, wie jetzt Forscher des Massachusetts Institute of Technology (MIT) demonstrieren: Sie stellen ein "Gegner-T-Shirt" vor, das erste Anti-KI-Kleidungsstück, das erfolgreich Objekterkennungs-KIs austrickse, so die Forscher.
Um die KI auszutricksen, druckten die Forscher ein spezielles Karomuster auf die Vorderseite des T-Shirts. Sobald eine KI-gestützte Kamera dieses Muster erfasst, und das muss sie zwangsläufig, wenn sie den Menschen identifizieren will, bleibt sie an dem Muster hängen.
Das Muster täuscht die Kamera laut der Forscher auch dann noch verlässlich, wenn sich der Mensch bewegt. Das ist deshalb bemerkenswert, da sich der Blickwinkel der Kamera auf das Muster laufend ändert und außerdem Falten die Musterung beeinflussen.
Die Forscher testeten das KI-Unsichtbarkeits-Shirt mit den weit verbreiteten Objekterkennungs-KIs YOLOv2 und Faster R-CNN. In immerhin 63 Prozent der Aufnahmen erkannten die KIs die Person mit dem T-Shirt nicht als Person. Eine vergleichbare Methode verbarg die Personen in nur 27 Prozent der Fälle.
Die Macher sehen ihr T-Shirt als ersten Schritt auf dem Weg zu einer verlässlichen KI-Täuschung durch Kleidung, Bemalung oder andere Wearables. Mit ihrer Forschung zeigen sie, dass sich Überwachungssysteme auch mit verhältnismäßig unauffälligen Mitteln austricksen lassen.
Titelbild: Xu et al., Quelle: Arxiv
