Kein Witz: John Carmacks KI-Version warnt vor dem maschinell herbeigeführten Ende der Menschheit.
OpenAI trainierte GPT-3 mit so viel Text, dass sie Zugriff hat auf reichlich Weltwissen. Das macht die KI zur maschinellen Wundertüte: Sie lernte zum Beispiel, einfache Matheaufgaben zu lösen - obwohl sie dafür nicht trainiert wurde.
Ein Entwickler fand heraus, dass OpenAI auf Zuruf Web-Code schreiben kann: Bittet er die KI per Textbox, eine Schaltfläche in der Farbe von Trumps Haar zu erstellen, generiert GPT-3 Web-Code für die Darstellung eines gelben Buttons. Solche unerwarteten Kontexteffekte, die sich in den Textmengen für das KI-Training verstecken, machen GPT-3 so spannend.
GPT-3 simuliert Carmack-Gespräch auf Knopfdruck
Der Snap-Kreativchef Kirk Ouimet testete OpenAIs neue GPT-3-API jetzt mit einem simulierten John-Carmack-Interview. Den Kult-Entwickler kennt die KI aus den gigantischen Mengen Internettext, mit der sie trainiert wurde: 570 Gigabyte Text aus Quellen wie Blog-Beiträgen, Reddit-Kommentaren oder der Wikipedia enthalten jede Menge Wissen über Carmack, sein Leben und seine Projekte.
Das reicht GPT-3 für einen authentischen Dialog: Mit einem Satz vorab gibt Ouimet das Thema vor. Die KI generiert dann passende Carmack-Antworten auf Fragen.
Sie stellt sich zum Beispiel bei der Begrüßung als "Mr. C oder Dr. Doom" vor, der "verdammt gut programmieren kann". Der Hinweis zur Entwicklung einer Super-KI ist zwar generisch, ergibt aber Sinn: Für diese brauche man nicht nur unglaublich viele Daten, sagt KI-Carmack, sondern auch die richtigen.
Am Ende warnt die Maschinenstimme: "Man kann sie [die KI] nicht abschalten wie einen Computer. [...] Sie wird ohne Rücksicht auf Menschen existieren." Alle gefetteten Texte im folgenden Screenshot sind KI-generiert.
Sinnloses und gleichzeitig erstaunliches Gerede
Klar: Die John-Carmack-KI erzählt nichts Sinnvolles, sie schafft keine neue Erkenntnis - sie ist ein Carmack-Chatbot. Einige der im Text enthaltenen Fakten sind falsch. In diesem Sinne ist das simulierte Gespräch nutzlos.
Erstaunlich an den Dialogen ist jedoch ihre Authentizität und der Fokus von GPT-3, beim Thema zu bleiben. Das sieht wohl auch Carmack so, der das Experiment auf seinem Twitter-Account teilt. Der Doom-Erfinder und Code-Guru wechselte im letzten Jahr den Job: Anstatt bei Facebook XR-Technologie zu programmieren, forscht er selbst am Pfad zur Super-KI.
Hi @ID_AA_Carmack, this is my attempt to learn how to move general AI forward. I used OpenAI's GPT-3 beta API to incarnate a version of you from the future. I am shocked at GPT-3's responses, especially how it introduced you. All of the bold text is 100% generated by the model pic.twitter.com/rUYPVH4gmd
— Kirk Ouimet (@kirkouimet) July 15, 2020
Quelle: Twitter; Titelbild: John Carmack, Screenshot bei Joe Rogan