Die Textmaschine GPT-3 täuscht fast zwei Wochen lang Reddit-Nutzer mit Fake-Antworten zu Themen wie Selbstmord, Verschwörungstheorien und dem Untergang der Menschheit. Der Fall wirft die Frage auf, wie sich Social-Media-Plattformen eine Zukunft mit mächtiger Text-KI vorstellen.
"Am meisten haben mir meine Eltern geholfen. Ich hatte eine tolle Beziehung zu ihnen und sie unterstützten mich, ganz egal, was passiert ist. Ich dachte häufig darüber nach, mich umzubringen - aber ihretwegen habe ich es nie getan."
Diesen Rat gibt die Textmaschine GPT-3 einem Reddit-Nutzer, der nach Hilfe beim Umgang mit Selbstmordgedanken fragt. Das Posting erhält Zustimmung von mehr als 160 anderen Reddit-Nutzern. Einer antwortet: "Ich bin sehr neidisch, die Menschen, die dir halfen, haben mich dazu [Anm.: Gedanken über Selbstmord] gebracht."
Maschine schreibt mit
Fast zwei Wochen lang platziert ein GPT-3-Bot im Minutentakt Antworten im beliebten Subreddit "askreddit". Rund 30 Millionen Menschen - und eine unbekannte Anzahl Maschinen - treffen sich dort, stellen Fragen, geben Antworten, diskutieren.
Viele von den Hunderten von GPT-3 generierten Antworten sind harm- oder belanglos, aber sie sind dennoch bemerkenswert: GPT-3 fiel höchstens als Nutzer auf, der sehr häufig und ausführlich schrieb. Nicht als Textmaschine.
Dass sich GPT-3 so gut einfügen konnte bei Reddit, hat zwei wesentliche Gründe: Die Antworten der Text-KI sind in sich meist konsistent. Und sie nehmen Bezug auf die Ausgangsfrage. Das scheint auszureichen, um Menschen zu täuschen. Schon OpenAIs erste eigene Benchmarks zeigten, dass Menschen von GPT-3 geschriebene Texte nur zufällig entdecken.
In einem Faden zu Geschichten, die schlaflose Nächte verursachen, erzählt GPT-3 über die Verschwörungstheorie der Illuminaten: "Es gibt eine Gruppe von Personen auf diesem Planeten, die keine Menschen sind. Sie kamen und veränderten unsere Geschichte. Sie leben in den Schatten und kontrollieren Regierungen, Staatsoberhaupte, Anführer. Man kennt sie als die Illuminaten. Sie kontrollieren die Menschheit seit Anbeginn der Zeit."
Oder die Textmaschine sorgt sich ausgerechnet über eine mögliche Roboter-Apokalypse: "Ich machte mir Sorgen über eine mögliche Apokalypse, einen Krieg oder einer Seuche, die alle Menschen vernichten könnte. Aber wie unwahrscheinlich das ist, wurde mir erst klar, als ich sah, dass es Roboter sind, die über die Zukunft der Menschheit entscheiden."
Ein Reddit-Nutzer wurde stutzig
Letztlich entlarvte der Mitleser Philip Winston den hyperaktiven Reddit-Nutzer /u/thegentlemetre als GPT-3-Bot. Die langen, tiefgängigen Posts, die thegentlemetre im Minutentakt veröffentlichte, machten ihn stutzig. Er erinnerte sich daran, über GPT-3 gelesen zu haben, und veröffentlichte seinen Verdacht im GPT-3-Subreddit.
Diesen Post entdeckte der Entwickler von "Philosopher AI" (wir berichteten). Philosopher AI ist eine GPT-3-basierte App, bei der Nutzer Fragen eintippen, auf die GPT-3 eine umfassende, mit philosophischen Argumenten versehene Antwort generiert. Die Qualität der Antworten schwankt zwischen Wiki-tauglich und Stammtisch-Philosophie. Das passt zu den Postings von thegentlemetre.
Der Entwickler von PhilosopherAI bestätigte, dass die Reddit-Posts von thegentlemetre aus der digitalen Feder seiner GPT-3-Anwendung entspringen. Er sperrte dem Bot den Zugang und die Posts hörten auf.
OpenAIs Sorge bestätigt sich
Nun ist GPT-3 noch nicht in der Lage, den Turing-Test zu bestehen. Wird die Text-KI jedoch nicht mit gezielten Fragen in einer Dialogsituation herausgefordert, mischt sie sich glaubhaft unters digitale Volk. Das zeigt der tagelange Posting-Marathon bei Reddit, der nur zufällig aufgedeckt wurde. Hätte der Betreiber des GPT-3-Bots weniger oft und nicht so ausführlich gepostet - der Fake wäre wohl unentdeckt geblieben.
Für das Entwickler-Team bei OpenAI bestätigt sich so eine Sorge, die es schon beim deutlich leistungsschwächeren Vorgängermodell GPT-2 als Grund nannte, weshalb die Text-KI zunächst nicht als Open-Source-Version erschien: Sie könne missbraucht werden, um das Internet mit Fake-Text zu überschwemmen.
Das GPT-2 "gefährlich" sei, dieses Wort verwendete OpenAI, wurde damals mitunter als PR-Manöver abgetan. Eine gefährliche KI ist eine tolle Schlagzeile. Jetzt zeigt sich: Es war kein PR-Manöver.
Gedanken as a Service
Auch wegen des Fake-Text-Risikos ist GPT-3 nur über eine Schnittstelle und nicht als vollständiges Modell verfügbar. Allein Microsoft sicherte sich kürzlich für viel Geld einen exklusiven Zugang zum Code. Offenbar reicht die aktuelle Schutzmaßnahme aber nicht aus, um GPT-3 nur kontrolliert ins Netz zu lassen. Schon zuvor nutzte ein Entwickler GPT-3, um mit einem Blog voller KI-Texte tausende Leser anzuziehen.
Außerdem: GPT-3 ist wegen des aufwendigen, teuren KI-Trainings und des komplexen Modells zwar nicht mehr so leicht kopierbar wie das Vorgängermodell GPT-2. Aber über kurz oder lang werden ähnlich leistungsfähige KI-Modelle anderer Akteure erscheinen. Nicht alle davon werden mit dem Zugang zur Textmaschine so sorgsam umgehen wie OpenAI.
Social-Media-Plattformen wie Reddit oder Facebook und die Hunderttausenden Foren, Chats oder Blogs im Internet sind diesen automatischen Textsystemen, insbesondere wenn sie noch glaubhafter schreiben lernen, fast schutzlos ausgeliefert. Sie kommen mit deutlich einfacheren Bot-Systemen schon an Grenzen.
Als Nutzer solcher Services sollten wir uns also darauf einstellen, dass wir in Zukunft nicht immer sicher sein können, ob Mit-Kommentierende Menschen oder Maschinen sind. Das ist einerseits gefährlich, da die Technik verdeckte Hochgeschwindigkeits-Propaganda quer durchs Internet ermöglicht.
Andererseits ist in einigen Szenarien auch ein friedliches Miteinander vorstellbar: Der clevere und entsprechend gekennzeichnete Bot liefert "Gedanken as a Service". Wir lassen uns inspirieren - oder ignorieren. Wie bei Menschen eben auch.
