Laut Philosoph und Bestsellerautor Nick Bostrom könnte totale KI-Überwachung das kleinere Übel sein, wenn das Ende der Zivilisation die Alternative ist.
Bostrom ist bekannt für seine ausgefallenen Forschungsprojekte. Nachdem er über die Möglichkeit, dass wir in einer Simulation leben, spekulierte, widmete er sich im Buch „Superintelligenz“ Künstlicher Intelligenz.
Bostrom argumentiert, dass aktuelle KI-Forschung zu einer Super-KI führen könnte, die das Ende der Menschheit bedeutet. Sein Buch wurde zum Bestseller und befeuerte die öffentliche Debatte über die Gefahren einer Super-KI.
In einer neuen Veröffentlichung widmet sich Bostrom nun der Frage, wie wir uns gegen diese und ähnlich gefährliche Technologien schützen können.
Bostroms Argument
Bostrom beginnt mit einer Metapher: Forschung sei eine Lotterie. Man wisse nie genau, welche Technologien, Ideen und Entdeckungen sie produziert. Manche seien ungefährlich, andere ein zweischneidiges Schwert: Sie sind nützlich, bergen aber auch gewisse Gefahren. Ein Beispiel: Leo Szilards Idee zur nuklearen Kettenreaktion. Es folgten Atomreaktoren und die erste Atombombe.
Nach Bostrom gibt es noch eine dritte Kategorie: Technologie, die unweigerlich zur Zerstörung der Zivilisation führt, die sie erfindet.
"Wir hatten einfach Glück."
Diese Technologien könnten direkt oder indirekt wirken: Ein tödliches Virus löscht nach seiner Freisetzung das Leben aus. Eine Super-KI übernimmt die Kontrolle und verarbeitet uns zu Büroklammern. Autonome Drohnenschwärme automatisieren Kriege – über früh oder lang wird jeder zum Opfer. Forscher erzeugen in einem Experiment unerwartet exotische Materie, die die Erde auseinanderreißt.
Dass wir der Vernichtung bisher entgangenen sind, sei pures Glück, sagt Bostrom.
Die verwundbare Welt
Bostrom stellt die These auf, dass wir einer vernichtenden Technologie früher oder später begegnen müssen. Er nennt diese Annahme die „Hypothese der verwundbaren Welt“. Glücklicherweise liegt in ihr auch unsere Rettung verborgen:
Wenn die technologische Entwicklung weitergeht, dann wird irgendwann eine Technologie entwickelt, die die Verwüstung der Zivilisation äußerst wahrscheinlich macht, es sei denn, die Zivilisation verlässt die semi-anarchische Standardbedingung. (Hypothese der verwundbaren Welt, Nick Bostrom)
Die Absage an die „semi-anarchische Standardbedingung“ als Ausweg aus dem Dilemma meint konkret die Absage an die Handlungsfreiheit von Individuen und Staaten.
Ob ich zu Hause gerne in Unterhose rumlaufe, interessiert nicht nur niemanden – es bekommt auch niemand mit, denn ich werde nicht konstant überwacht (hoffentlich). Wenn die USA Verträge mit dem Iran aufkündigen, kann sie niemand daran hindern. Kurz: Mensch und Staat können bis zu einem gewissen Grad tun und lassen, was ihnen gefällt.
Das bisschen Anarchie kann das Ende bedeuten.
Warum ist das ein Problem? Nehmen wir an, eine nukleare Kettenreaktion ließe sich mit einer einfachen Konstruktion aus Glas, Magneten und Metall erzeugen. Alle Materialien sind problemlos verfügbar, die Baupläne in Zeiten des Internets kaum zu verheimlichen - es wäre nahezu unmöglich, etwa verheerende Terroranschläge zu verhindern. Bei einem tödlichen Supervirus reicht ein einziger Angriff.
Auch staatliche Autonomie kann zu einem Problem werden: Internationale Konflikte und Wettbewerb behindern Kooperation und begünstigen etwa das Streben nach dem sicheren Erstschlag oder die Entwicklung einer Super-KI für militärische Zwecke.
Rettung mit Haken
Nach Bostrom existieren vier Chancen, die Gefahr einer zivilisationsvernichtenden Technologie zu mindern:
- Forschung einschränken
- Verbreitung gefährlicher Ideologien verhindern
- Aufbau einer effektiven, voraussehenden Überwachungsmaschinerie
- Aufbau einer effektiven globalen Führung
Die ersten beiden Alternativen hält Bostrom für nützliche Werkzeuge, aber auf sich allein gestellt aussichtlos. Nur eine Kombination aus totaler Überwachung und international geführter Kooperation habe eine Chance.
Ein Staat müsse seine Bürger konstant mit Video- und Audioaufnahmen überwachen, auch im privaten Umfeld– etwa mit Hightech-Halsband oder AR-Brillen. Künstliche Intelligenz und menschliches Personal könnten den Datenstrom auswerten und im Notfall präventiv eingreifen. Nur so könne ein Akt der Massenvernichtung verhindert werden.
Nach der Zerstörung einiger Großstädte dürfte es eine starke öffentliche Unterstützung geben ...
Eine globale Führung könnte sicherstellen, dass diese Überwachung weltweit durchgeführt wird – gerade im Biowaffenszenario eine Notwendigkeit. Diese Führung könnte darüber hinaus auch Fälle wie den sicheren Erstschlag regulieren, zum Beispiel indem sie diesen monopolisiert.
Keine schönen Aussichten
Bostrom versucht keinesfalls, durch Angst einen Überwachungsstaat zu legitimieren. Er ist sich den Schattenseiten von Überwachung und einem möglicherweise totalitären Weltregime bewusst. In seinem Aufsatz warnt Bostrom mehrfach vor negativen Auswirkungen der Totalüberwachung und betont die Notwendigkeit von Maßnahmen gegen Missbrauch.
Seine Argumente zugunsten der Totalüberwachung sind dennoch gewichtige: Wer an die Hypothese der verletzlichen Welt glaubt, hat gute Gründe, Bostroms Überlegungen ernst zu nehmen. Totale Überwachung und globale Führung könnten möglicherweise Schutz vor einem breiten Spektrum zivilisationsvernichtender Technologien bieten. Es liegt an uns, zu entscheiden, welchen Preis das Überleben hat.
Quelle: Nick Bostrom
