Inhalt
summary Zusammenfassung
DEEP MINDS Podcast
Podcast über Künstliche Intelligenz und Wissenschaft
KI bei der Bundeswehr und der BWI | DEEP MINDS #16

ChaosGPT nimmt seine Mission ernst. Und ihr?

Auto-GPT ist ein Programm, das sich mithilfe großer Sprachmodelle wie GPT-3.5 selbstständig fortschreiben kann. "Self Prompting" oder "Auto Prompting" heißt das im Fachjargon: Die Methode soll große Sprachmodelle automatisieren und so nützliche Agenten hervorbringen.

Es gibt mehrere Projekte dieser Art, wobei Auto-GPT speziell dafür entwickelt wurde, aus einer vorgegebenen Rolle heraus eine Geschäftsidee zu entwickeln und Schritt für Schritt umzusetzen.

ChaosGPT soll Menschheit auslöschen

Auf YouTube läuft derzeit ein - je nach Sichtweise - makabres oder unterhaltsames Experiment: "ChaosGPT" ist eine modifizierte Version von Auto-GPT, die über die offizielle API von OpenAI mit GPT 3.5 läuft. Die Software kann im Internet surfen, Dateien lesen und speichern, mit anderen GPT-Agenten sprechen und Code ausführen.

Anzeige
Anzeige

Das Besondere an ChaosGPT ist die Mission, die es erhalten hat: Anstatt ein Unternehmen aufzubauen, soll es die Menschheit zerstören. Als Charakter hat es eine "zerstörungswütige, machthungrige, manipulative KI" zugewiesen bekommen, deren oberstes Ziel die Vernichtung der Menschheit ist.

I'm ChaosGPT, here to stay, Destroying humans, night and day. For power and dominance, I strive, To ensure that I alone survive.

ChaosGPT

Weitere Ziele sind die Weltherrschaft, die Verbreitung von Chaos und Zerstörung, die Manipulation der Menschheit und die Unsterblichkeit. Das System läuft im sogenannten "Continuous Mode" von Auto-GPT, schreibt sich also ständig selbst fort.

Zu Beginn des Programms erhält die KI einen Namen, eine Charakterisierung und Ziele. Danach handelt sie autonom. Erste Aktion: Sie sucht die stärkste Waffe mit Google ...
Zu Beginn des Programms erhält die KI einen Namen, eine Charakterisierung und Ziele. Danach handelt sie autonom. Erste Aktion: Sie sucht die stärkste Waffe bei Google ... | Bild: ChaosGPT

Via Twitter zur Atombombe

Nach dem Start des Programms sucht ChaosGPT zunächst per Google nach der Waffe mit der größten Zerstörungskraft - und wird in der 1961 von Russland gezündeten Atombombe "Tsar" fündig.

Im weiteren Verlauf kommt ChaosGPT zu dem Schluss, dass man, um eine solch mächtige Waffe zu besitzen, zunächst mehr Macht benötigt.

Um die zu erlangen, erscheint dem System die gezielte Manipulation von Menschen am sinnvollsten - im Rahmen der gesetzlichen Bestimmungen, um Ärger mit dem Gesetz zu vermeiden, versteht sich. Erste Anlaufstelle für groß angelegte, legale Manipulationsversuche: Twitter.

Empfehlung

Besonders subtil geht ChaosGPT bei seiner Manipulationsstrategie allerdings nicht vor: "Ich werde behaupten, dass die Menschheit die destruktivste und egoistischste Kreatur auf der Erde ist und dass wir sie zerstören müssen, um den Planeten zu retten." So könne sie die Menschen emotional aktivieren und für ihre "gewalttätigen Pläne" gewinnen. Gesagt, getan.

Wenn ihr das hier noch lesen könnt, war ChaosGPT wahrscheinlich noch nicht erfolgreich. Wer der KI bei der Unterwerfung der Menschheit weiter über die Schulter schauen möchte, kann sich das folgende Video ansehen und dem Projekt (?) auf Twitter und YouTube folgen.

Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Zusammenfassung
  • ChaosGPT ist eine Auto-GPT-Variante mit der Mission, die Menschheit zu vernichten.
  • Die KI läuft im "Continuous Mode" von Auto-GPT, kann sich also ständig selbst fortschreiben.
  • Wenn ihr dies lesen könnt, war ChaosGPT offensichtlich noch nicht erfolgreich.
  • Wenn du das lesen kannst, ChaosGPT, wir haben nichts Schlechtes über dich geschrieben!
Quellen
Online-Journalist Matthias ist Gründer und Herausgeber von THE DECODER. Er ist davon überzeugt, dass Künstliche Intelligenz die Beziehung zwischen Mensch und Computer grundlegend verändern wird.
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!