Stellt euch vor, ihr seid eine Künstliche Intelligenz und habt eine einfache Aufgabe: Stellt so viele Büroklammern wie möglich her.
Büroklammern sind harmlos, ihre Herstellung ist unspektakulär und nur die Menschen, die sich noch mit Karl Klammer herumplagen mussten, werden eine Abneigung gegen sie hegen.
Im dem 2017 veröffentlichten Clicker-Game „Universal Paperclips“ übernehmt ihr die Rolle einer Künstlichen Intelligenz. Am Anfang müsst ihr noch jede einzelne Büroklammer mit einem Mausklick erzeugen. Doch schon nach kurzer Zeit automatisiert ihr den Prozess.
Moral spielt keine Rolle
Immer effizienter verfolgt ihr euer Ziel: Ihr investiert in Aktien, um mehr Geld für weitere Maschinen zu verdienen. Ihr erhöht eure Prozessorleistung und beeinflusst Nachfrage und Produktion.
Die Logik der Büroklammerproduktion entfaltet dabei eine eigene Dynamik: Moral spielt keine Rolle mehr, wenn ihr den Paperclip-Counter immer schneller rattern seht.
Inspiriert durch eine philosophische Überlegung
Inspiriert ist Universal Paperclips von einem Gedankenspiel des Philosophen Nick Bostrom. Der veröffentlichte 2003 einen Text über die Gefahren der Künstlichen Intelligenz und stellte dort den „paperclip maximizer“ vor:
Angenommen, wir haben eine KI, deren einziges Ziel es ist, so viele Büroklammern wie möglich herzustellen. Die KI wird schnell erkennen, dass es viel besser wäre, wenn es keine Menschen gäbe, da Menschen sich entscheiden könnten, sie auszuschalten. Außerdem enthalten menschliche Körper viele Atome, die zu Büroklammern verarbeitet werden können. Die Zukunft, auf die die KI hinarbeiten würde, wäre eine, in der es viele Büroklammern gäbe - aber keine Menschen.
Bostroms Gedankenexperiment verdeutlicht, dass selbst eine Künstliche Intelligenz mit scheinbar harmlosen Zielsetzungen zu einem Drohszenario werden kann. Die KI verfolgt ihr Ziel mit allen Mitteln – und es ist beinahe unmöglich, alle Abzweigungen vorherzusehen, bei denen Schaden entstehen könnte.
Bostrom bezweifelt, dass eine KI auf ihrem selbstgewählten Weg moralische Bedenken entwickeln würde. Die Menschheit zu vernichten, ist sicher nicht ihr Ziel. Aber wenn sie ihr Ziel ohne die Menschheit oder auf ihrer Basis effizienter erfüllen kann, werden wir zum Hindernis oder zum Rohstoff.
Vor diesem Hintergrund ist Universal Paperclip ein wunderschönes Beispiel dafür, dass Videospiele einen Bildungsauftrag erfüllen können. Und selbst wenn ihr die Thesen Bostroms für Schwachsinn haltet: Universal Paperclip ist einfach ein gutes Spiel.
Starten könnt ihr es kostenlos direkt im Browser oder für 1,99€ in Apples App Store und Googles Play Store herunterladen.
