YouTuber Ben Jordan zeigt, wie sich KI-gestützte Kennzeichenerkennung mit unsichtbarem Rauschen austricksen lässt – und damit eine Überwachungstechnologie unterwandert, die ohne richterlichen Beschluss GPS-Tracking ersetzt.
Das Projekt ist eine direkte Reaktion auf die Geschäftspraktiken von Firmen wie Flock Safety, die ein weitgehend unreguliertes Überwachungsnetzwerk über die USA spannen und dabei eng mit Einzelhandelsketten und Polizeibehörden kooperieren.
„Wenn du in einer Stadt lebst, die viele dieser Kameras hat, ist das im Grunde so, als hätte man dir heimlich ein GPS-Gerät ans Auto geklebt – nur ohne die lästige Notwendigkeit eines richterlichen Durchsuchungsbefehls“, erklärt YouTuber Ben Jordan in seinem Video.
Das Problem beschränkt sich jedoch längst nicht mehr auf das bloße Tracking von Nummernschildern und Bewegungsmustern: In Städten mit dichter Abdeckung durch Flock- oder vergleichbare Kamerasysteme entsteht über die Zeit ein lückenloses Bewegungsprofil jedes Fahrzeugs. Protokolliert werden nicht nur Ort und Zeit der Sichtung, sondern auch Zusatzdaten wie Fahrzeugtyp, Aufkleber, Schäden oder individuelle Merkmale. Durch die fortlaufende Vernetzung und den Datenabgleich mit anderen Quellen – etwa Einkaufsverhalten oder Social-Media-Aktivitäten – lassen sich daraus detaillierte Bewegungs- und Verhaltensmuster einzelner Personen ableiten.
Der US Supreme Court betonte bereits 2018 im Fall Carpenter v. United States, dass solche Standortdaten einen besonders intimen Einblick in das Privatleben einer Person erlauben: „Diese Standortdaten geben einen intimen Einblick in das Leben einer Person und offenbaren durch ihre Bewegungen familiäre, politische, berufliche, religiöse und sexuelle Beziehungen.“ Sie „enthalten für viele Amerikaner die Privatsphäre des Lebens“ und stehen damit laut Gericht unter besonderem Schutz.
Dennoch operieren Firmen wie Flock Safety bislang in einem weitgehend unregulierten Umfeld, in dem solche umfassenden Überwachungs- und Datenverknüpfungen ohne richterliche Kontrolle möglich sind. Das Ausmaß und die Tiefe dieser anlasslosen Datenerfassung gehen damit deutlich über klassische polizeiliche Überwachung hinaus.
Vom Parkplatz zum Einkaufswagen: Die Verknüpfung mit dem Einzelhandel
Die Reichweite der Datensammlung endet laut Jordan nicht auf öffentlichen Straßen. Große Einzelhandelsketten wie Walmart oder Home Depot sind ebenfalls Kunden von Flock Safety. Sie verknüpfen die auf dem Parkplatz erfassten Fahrzeugdaten mit den Informationen, die sie im Geschäft sammeln: Einkaufsverhalten, Zahlungsinformationen, teils sogar biometrische Daten und psychologische Profile. Diese umfassenden Datensätze werden laut Jordan an Datenbroker weitergegeben und können von Strafverfolgungsbehörden wie der Einwanderungsbehörde ICE genutzt werden, was bereits zu Razzien an Standorten von Home Depot geführt haben soll.
Flock Safety verkauft seine Kameras nicht, sondern vermietet sie als „Security-as-a-Service“ an Polizeibehörden, Unternehmen und sogar Hausbesitzervereinigungen. Die Verträge sind so gestaltet, dass Flock Safety bei Fehlfunktionen oder Falschidentifikationen kaum haftbar ist. Jordan verweist auf einen Fall, bei dem eine Familie nach einem Fehler der Kennzeichenerkennung mit vorgehaltener Waffe von der Polizei festgesetzt wurde und später eine Entschädigung von 1,9 Millionen Dollar erhielt – bezahlt von den Steuerzahlern, nicht von Flock.
Gleichzeitig investiert das Unternehmen Millionen in Lobbyarbeit, um eine strengere Regulierung zu verhindern. Flock Safety erhielt seit seiner Gründung fast eine halbe Milliarde Dollar Wagniskapital, zuletzt bewerteten Investoren das Unternehmen auf rund acht Milliarden Dollar. Allein Flocks Hauptinvestor Andreessen Horowitz und das Unternehmen selbst haben gemeinsam über 92 Millionen Dollar in Lobbyarbeit gesteckt – der Großteil davon im vergangenen Jahr.
Adversarial Noise: KI-Systeme mit ihren eigenen Waffen schlagen
Um dieser Form der Überwachung technisch zu begegnen, entwickelte Jordan ein Verfahren, das mithilfe sogenannter adversarial noise Kennzeichenerkennungssysteme wie YOLOv8 oder OpenALPR gezielt verwirrt. Sein Modell erzeugt unsichtbare Muster, die auf ein Nummernschild aufgebracht werden können. Für das menschliche Auge bleibt das Kennzeichen lesbar, doch die KI interpretiert es falsch oder erkennt es gar nicht erst. „Wenn wir herausfinden, welches Muster das Segmentierungsmodell stört, dann reicht vielleicht schon ein unscheinbarer Kennzeichenrahmen – ganz ohne die Platte unleserlich zu machen“, erklärt Jordan das Potenzial seiner Forschung. Es ist ein Versuch, die informationelle Selbstbestimmung mit technischen Mitteln zurückzugewinnen.
Ein solches Geschäftsmodell wäre in der Europäischen Union kaum umsetzbar: Die Datenschutz-Grundverordnung (DSGVO) etabliert Datenschutz als Grundrecht und fordert für die Verarbeitung personenbezogener Daten eine klare Rechtsgrundlage, eine ausdrückliche Einwilligung (Opt-in) und eine strikte Zweckbindung. Die anlasslose Massenerfassung von Bewegungsdaten aller Bürger durch ein privates Unternehmen, deren Verknüpfung mit Einkaufsdaten und die Weitergabe an Behörden ohne richterlichen Beschluss würden fundamental gegen die Prinzipien der Datenminimierung und Zweckbindung verstoßen. Jordans Projekt erscheint somit als eine Form des „DIY-Datenschutzes“ in einem rechtlichen Vakuum, das in Europa durch strenge Gesetze gefüllt ist.
