Künstliche Intelligenz ermöglicht nie dagewesene Überwachungsnetze. Was für und was gegen sie spricht.
Überwachung hat einen schlechten Ruf, Massenüberwachung erst recht. Moderne KI-Systeme ermöglichen letztere in nie gesehenem Ausmaß: Sensoren liefern Bild- und Audioaufnahmen, Crawler sammeln Social-Media-Beiträge, News, Flugdaten oder Satellitenfotos.
KI-Algorithmen suchen und finden anschließend Verbindungen im Datenmeer.Bei einer flächendeckenden Kameraüberwachung gibt es so kein Entkommen mehr vor Gesichtserkennung. Und wer sich vor den Kameras versteckt, wird per Smartphone getrackt.
Doch weshalb ist KI-Überwachung überhaupt so bedrohlich?
Weil der Faktor Mensch aus der Gleichung verschwindet: Künstliche Intelligenz ermöglicht die totale Überwachung, da die menschliche Aufsicht kein beschränkender Faktor mehr ist.
Es bedarf keines ausgeklügelten Spitzelnetzes mehr, keiner verräterischer Nachbarn, kein Polizist muss mehr Videobilder sichten. Die Maschine macht Überwachung schnell, automatisch und effizient.
Keine Frage: Es ist leicht, gegen KI-Überwachung zu sein. Aber kann man sie auch befürworten? Ich stelle euch mein Für und Wider vor.
Maschinelle Objektivität? Von wegen
Durch vermeintlich allmächtige KI-Algorithmen scheint eine perfekte Überwachung möglich: Eine Überwachung, die keinem wehtut, da sie zwar allgegenwärtig, aber ebenso gerecht ist.
In der Debatte über Vor- und Nachteile KI-gestützter Massenüberwachung hingegen findet sich häufig folgendes Gegenargument: Die Systeme sollen ungenau sein, Vorurteile enthalten und so speziell Minderheiten und demokratische Werte wie Freiheit, Gleichheit oder die Unschuldsvermutung gefährden.
Ein KI-System, das mit zwanzig Jahren Festnahmedaten einer rassistischen Polizeibehörde trainiert wird, übernimmt diesen Rassismus ungefragt und verschleiert ihn als vermeintlich objektives Maschinenurteil.
Unbegründet ist diese Kritik nicht: Fälle aus den USA zeigen, wie vorurteilsbehaftete Daten KI-Systeme mit menschlichen Altlasten ausstatten. Unwissenheit oder Ignoranz gegenüber dieser Schwäche sorgt dafür, dass KI-Überwachung in Privatsphäre und freie Meinungsäußerung eingreift.
Der Kritik-Fokus auf Vorurteile in Trainingsdaten legitimiert zukünftige Überwachungsstaaten
Doch Tech-Unternehmen auf der ganzen Welt arbeiten daran, Vorurteile in Daten zu erkennen und die KI-Systeme genauer zu machen. Noch ist nicht klar, ob sie ihr Ziel erreichen, denn die Messlatte liegt hoch: Eine Gesichtserkennung, die in 99,9 Prozent der Fälle richtig liegt, identifiziert immer noch im Durchschnitt einen von tausend Menschen falsch.
Ob unsere Gesellschaft mit solchen Fehlurteilen leben will, muss in einem demokratischen Prozess entschieden werden. Klar ist: Wer heute nur die Ungenauigkeit der Systeme kritisiert, legitimiert den Einsatz exakterer Systeme in der Zukunft.
Was also, wenn uns 99,9 Prozent Verlässlichkeit genug sind? Oder wenn Künstliche Intelligenz tatsächlich eines Tages keine Fehler mehr macht?
Drei Argumente gegen KI-Überwachung
(1) Wer der Überwachung nichts entgegenhält, wird ihr Stück für Stück mehr Raum geben müssen
Der Staat hat ein berechtigtes Interesse an der Überwachung seiner Bürgerinnen und Bürger: Es geht um den Schutz der inneren Sicherheit und vor Betrug, Terror und Verbrechen.
Doch diese Überwachung kann sich verselbstständigen: Die in der Folge der Terroranschläge am 11. September 2001 beschlossene Möglichkeit zum Kontenabruf durch die Bundesanstalt für Finanzdienstleistungsaufsicht wurde 2005 auf das Bundeszentralamt für Steuern und 2013 auf Gerichtsvollzieher erweitert.
Ursprünglich gedacht, um Geldwäsche und Terrorismusfinanzierung zu bekämpfen, ist der Kontenabruf zum normalisierten Mittel der Finanzverwaltung gewachsen. Die Zahl der Anfragen ist von 72.000 im Jahr 2012 auf mehr als 900.000 in 2019 gestiegen.
Man braucht keine Fantasie, um beim Einsatz von KI-Überwachung das gleiche Risiko zu sehen. Wo möglich, werden Staaten die KI-Systeme ausbauen und in immer neue Bereiche des öffentlichen und schlussendlich privaten Lebens ausweiten. Überwachung im Sinne der Gesellschaft wird so zu einem allgemeinen Kontrollinstrument.
(2) Wer überwacht wird, ändert sein Verhalten
Ausufernde KI-Überwachung würde massiv in unsere Privatsphäre eingreifen: Das Private würde öffentlich, gläsern, letztlich verschwinden. Denn die totale Überwachung führt zu Konformismus durch Selbstzensur.
Private und vertrauliche Kommunikation wird erschwert oder gar unmöglich. Wer hat noch ein Recht auf Privatsphäre? Whistleblower, Journalisten, Rechtsanwälte, Mediziner oder Priester – wo die Grenzen liegen, bestimmt der Staat. Freie demokratische Prozesse sind bei einer totalen Überwachung nicht möglich.
(3) Jede Form von unbegründeter Überwachung stellt uns unter Generalverdacht
Der Gesetzgeber könnte Eingriffe in die Privatsphäre durch klare Regeln verhindern. Doch auch wenn nur öffentliche Plätze überwacht würden, stellt uns das unter Generalverdacht.
Denn überwacht wird jeder, auch die Menschen, die keine Straftaten begangen haben. Die Schuld im Sinne des Rechtsstaates spielt für die Überwachung keine Rolle mehr.
Das ist undemokratisch und greift direkt die Unschuldsvermutung an. Wer nichts zu verbergen hat, hat nichts zu befürchten, ist ein Scheinargument. Denn wer nichts zu verbergen hat, muss auch nicht überwacht werden.
Drei Argumente für KI-Überwachung
Die Gegenargumente sind erdrückend. Was spricht da noch für KI-Überwachung?
Warum fordern demokratische Vertreter den Einsatz von Gesichtserkennung beispielsweise an Bahnhöfen, obwohl sie die Risiken kennen müssen? Weshalb arbeiten deutsche Polizeibehörden mit Palantir zusammen? Weil KI die eigene Arbeit verbessert und erleichtert.
(1) KI-Systeme erlauben eine effizientere Strafverfolgung
Eine flächendeckende Kameraüberwachung von Straßensystemen, öffentlichem Nahverkehr und öffentlichen Plätzen erlaubt eine effektivere Strafverfolgung. Die Bewegungen von mutmaßlichen Verbrechern können in Sekundenschnelle nachverfolgt oder potenzielle Einbrüche in einer bestimmten Wohngegend vorhergesagt werden.
So könnten Fahrerflucht, Überfälle oder Entführungen schneller aufgeklärt werden. Mit Zugriff auf Social Media und andere Datenpunkte können die Ergebnisse der KI-Systeme noch verbessert werden.
(2) KI-Systeme können Unfälle erkennen, Systeme optimieren, Pandemien verfolgen
KI-Überwachung ist abseits der Strafverfolgung relevant: Mit Überwachungsdaten können etwa Verkehrsflüsse optimiert werden. So werden womöglich Unfälle, Feuer oder Naturkatastrophen schneller identifiziert und Rettungskräfte alarmiert - das rettet Leben.
Im Kampf gegen die Corona-Pandemie setzte etwa Südkorea auf ein breites Netz aus Überwachungsmechanismen, um potenziell Infizierte aufzuspüren und das Virus vor einer exponentiellen Ausbreitung einzudämmen.
"All in": Was für totale KI-Überwachung spricht
Doch was, wenn es sich um einen wesentlich tödlicheren, schnell ausbreitenden Virus handelt, als es beim Coronavirus der Fall ist? Ein Virus, der das Ende unserer Zivilisation bedeuten könnte?
Es scheint, als sei eine totale KI-Überwachung in diesem Szenario das kleinere Übel – was zumindest für einen Utilitaristen Grund genug ist, "All In" zu gehen.
Der Philosoph und Bestsellerautor Nick Bostrom hat diesen Gedanken ausführlich dargelegt. In einem Aufsatz beschreibt er totale KI-Überwachung als die letzte Rettung der Menschheit. Er argumentiert wie folgt:
(1) Die Welt ist verwundbar
Nach Bostrom befindet sich unsere Welt in einer semi-anarchischen Standardbedingung: Das Handeln von Staaten ist lose durch Verträge geregelt, aber wenn die USA Verträge kündigen, kann sie niemand daran hindern. Wenn ich zum Vorstellungsgespräch gehe, muss ich einen Anzug tragen – zu Hause kann ich in Unterhose herumlaufen.
Diese für uns selbstverständliche Freiheit könnte uns zum Verhängnis werden, meint Bostrom. Durch den technologischen Fortschritt könnten Einzelne unsere Zivilisation vernichten: Super-KI anschalten, Virus loslassen, nukleare Kettenreaktion auslösen – solche gigantischen Katastrophen könnten durch wenige oder sogar einzelne Menschen angerichtet werden.
(2) KI-Überwachung ist unser einziger Schutz
Zwar könne man Forschung einschränken und gefährliche Ideologien bekämpfen. Doch nach Bostrom sind staatliche Repressalien auf sich allein gestellt nutzlos.
Nur der Aufbau einer effektiven, voraussehenden KI-Überwachungsmaschinerie in Kombination mit einer effektiven globalen Führung könne die Massenvernichtung verhindern.
Diese KI-Überwachung würde das gesamte Privatleben öffentlich machen, etwa mit einem Hightech-Halsband für jede Person oder konstant aktiven AR-Brillen. Ein derart effizientes Überwachungssystem biete zwar Schutz, würde aber auch negative Auswirkungen auf unsere Zivilgesellschaft haben, so Bostrom. Es bedürfe drastischer Maßnahmen gegen Missbrauch.
Wenn unsere Welt im Sinne Bostroms verwundbar ist und wir sie erhalten wollen, müssen wir uns mit den Überlegungen des Philosophen auseinandersetzen. Die Corona-Pandemie zeigt, wie blitzartig sich ein Virus verbreiten kann, wenn wir nicht schnell genug reagieren.
Wir müssen reden - jetzt
Was also ist jetzt zu tun, fragt man am Ende eines solchen Artikels natürlich und erwartet vom Autor eine richtige, möglichste einfache Antwort. Leider existiert sie nicht.
Wahrscheinlich wird es in etwa so laufen: Wissenschaft, Politik, Wirtschaft und Gesellschaft werden in einem langwierigen, komplexen Prozess über Jahre hinweg Kompromisse aushandeln. Wenn wir Glück haben, wird die Debatte zu KI-Überwachung sachlich geführt, statt durch Angst getrieben - auch in Krisenzeiten wie diesen, wie Edward Snowden fordert.
Wichtig ist jetzt, dass wir die Debatte vorantreiben, anstatt sie uns passieren zu lassen. Um es mit den Worten von Microsoft-Präsident Brad Smith zu sagen: Wir müssen miteinander reden, um herauszufinden, welche Welt wir schaffen wollen. Und zwar "bevor wir aufwachen und feststellen, dass das Jahr 2024 wie die Welt im Buch '1984' aussieht".
Diese und mehr Gedanken zu KI-Überwachung könnt ihr euch in unserem Podcast Folge #180 anhören.
