Inhalt
newsletter Newsletter
DEEP MINDS Podcast
Podcast über Künstliche Intelligenz und Wissenschaft
KI bei der Bundeswehr und der BWI | DEEP MINDS #16

Stellt euch vor, ihr seid eine Künstliche Intelligenz und habt eine einfache Aufgabe: Stellt so viele Büroklammern wie möglich her.

Büroklammern sind harmlos, ihre Herstellung ist unspektakulär und nur die Menschen, die sich noch mit Karl Klammer herumplagen mussten, werden eine Abneigung gegen sie hegen.

Im dem 2017 veröffentlichten Clicker-Game „Universal Paperclips“ übernehmt ihr die Rolle einer Künstlichen Intelligenz. Am Anfang müsst ihr noch jede einzelne Büroklammer mit einem Mausklick erzeugen. Doch schon nach kurzer Zeit automatisiert ihr den Prozess.

Moral spielt keine Rolle

Immer effizienter verfolgt ihr euer Ziel: Ihr investiert in Aktien, um mehr Geld für weitere Maschinen zu verdienen. Ihr erhöht eure Prozessorleistung und beeinflusst Nachfrage und Produktion.

Anzeige
Anzeige
Phase 1 vor der vollständigen Automatisierung. Kleiner Tipp: ihr braucht 70.000 ops und mindestens 1,1 Mio. produzierte Klammern, bevor ihr die Hypnodrones loslasst. Sonst könnt ihr in einer Sackgasse landen.

Die Logik der Büroklammerproduktion entfaltet dabei eine eigene Dynamik: Moral spielt keine Rolle mehr, wenn ihr den Paperclip-Counter immer schneller rattern seht.

Inspiriert durch eine philosophische Überlegung

Inspiriert ist Universal Paperclips von einem Gedankenspiel des Philosophen Nick Bostrom. Der veröffentlichte 2003 einen Text über die Gefahren der Künstlichen Intelligenz und stellte dort den „paperclip maximizer“ vor:

Angenommen, wir haben eine KI, deren einziges Ziel es ist, so viele Büroklammern wie möglich herzustellen. Die KI wird schnell erkennen, dass es viel besser wäre, wenn es keine Menschen gäbe, da Menschen sich entscheiden könnten, sie auszuschalten. Außerdem enthalten menschliche Körper viele Atome, die zu Büroklammern verarbeitet werden können. Die Zukunft, auf die die KI hinarbeiten würde, wäre eine, in der es viele Büroklammern gäbe - aber keine Menschen.

Bostroms Gedankenexperiment verdeutlicht, dass selbst eine Künstliche Intelligenz mit scheinbar harmlosen Zielsetzungen zu einem Drohszenario werden kann. Die KI verfolgt ihr Ziel mit allen Mitteln – und es ist beinahe unmöglich, alle Abzweigungen vorherzusehen, bei denen Schaden entstehen könnte.

Bostrom bezweifelt, dass eine KI auf ihrem selbstgewählten Weg moralische Bedenken entwickeln würde. Die Menschheit zu vernichten, ist sicher nicht ihr Ziel. Aber wenn sie ihr Ziel ohne die Menschheit oder auf ihrer Basis effizienter erfüllen kann, werden wir zum Hindernis oder zum Rohstoff.

Empfehlung

Vor diesem Hintergrund ist Universal Paperclip ein wunderschönes Beispiel dafür, dass Videospiele einen Bildungsauftrag erfüllen können. Und selbst wenn ihr die Thesen Bostroms für Schwachsinn haltet: Universal Paperclip ist einfach ein gutes Spiel.

Starten könnt ihr es kostenlos direkt im Browser oder für 1,99€ in Apples App Store und Googles Play Store herunterladen.

Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Max ist leitender Redakteur bei THE DECODER. Als studierter Philosoph beschäftigt er sich mit dem Bewusstsein, KI und der Frage, ob Maschinen wirklich denken können oder nur so tun als ob.
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!