- Update zur aktuellen Lage
Update vom 22.03.24:
OpenAI bietet im GPT-Store zahlreiche weitere Chatbots mit politischen Inhalten an. Auf wiederholte Nachfrage erklärte das Unternehmen, dass es zusätzlich zu den bestehenden Sicherheitsmaßnahmen "ein neues Überprüfungssystem" eingeführt habe, das sowohl menschliche als auch automatisierte Überprüfungen umfasse. Außerdem könnten Nutzer GPTs melden.
Es scheint, dass diese Moderationsmaßnahmen auch außerhalb von politischen Chatbots nicht besonders gut funktionieren. Techcrunch berichtet von zahlreichen bizarren und möglicherweise urheberrechtsverletzenden Chatbots im GPT Store.
Laut einer Open Source GPT-Store-Statistik sind bereits mehr als 330.000 GPTs öffentlich verfügbar, insgesamt sollen GPTs im Februar 2024 rund zehn Millionen Besuche für OpenAI in den USA generiert haben sollen.
Der mit Abstand erfolgreichste GPT ist ein DALL-3-basierter Bildchatbot, der vor der Generierung einige Fragen stellt - mit überschaubarem Mehrwert. Er hat eine Durchschnittsbewertung von 3,6.
Die von OpenAI zugesagte Monetarisierung der GPTs ist bislang nicht gestartet.
Update vom 17.02.24:
Im OpenAI GPT Store gibt es einen Donald Trump Tweet Generator
GPT-Chatbots wie der "Trump Tweet Generator" oder "Trump" sind nach wie vor online. Außerdem tauchen neue, ähnliche Bots auf. OpenAI antwortet weiterhin nicht auf Anfragen, ob und wie diese GPTs mit dem Versprechen von OpenAI in Konflikt stehen, den Einsatz der eigenen KI-Technologie im Vorfeld von Wahlen besonders streng zu kontrollieren, oder ob diese Bots als "Satire" angesehen werden.
Update vom 27.01.204:
OpenAI scheint einige politische Chatbots gelöscht zu haben, andere sind jedoch weiterhin verfügbar, darunter der im Update vom 29.01.2024 beschriebene Trump-Bot, der vor drei Wochen erstellt wurde und mehr als 200 Chats aufzeichnet. Ein weiterer Trump-GPT wurde vor zwei Monaten erstellt und verzeichnet mehr als 60 Chats.
Neu ist der "Trump Tweets Generator", der Tweets im Stil und mit der politischen Botschaft von Donald Trump verfasst. Er ist seit sechs Tagen verfügbar und verzeichnet mehr als 60 Chats.
Ich habe OpenAI und die PR-Agentur von OpenAI mehrfach auf die Existenz dieser Bots hingewiesen und gefragt, wie der Moderationsprozess für GPT-Bots funktioniert und inwiefern die Existenz solcher GPTs mit den Regeln von OpenAI vereinbar ist, wonach die eigene Technologie nicht für politische Propaganda verwendet werden darf. Weder die Agentur noch OpenAI haben geantwortet.
Update vom 29.01.2024:
Der in diesem Artikel besprochene "Talk with Donald - 2024" ist nicht mehr verfügbar. Es ist unklar, ob OpenAI oder der Ersteller des Chatbots den GPT offline genommen hat. OpenAI hat auf meine Anfragen bisher nicht reagiert. Ähnliche Bots wie "Talk with Donald - 2024" sind weiterhin online, zum Beispiel der "Trump"-Bot.
Update vom 27.01.2024:
"Talk with Donald": OpenAI lässt politische Chatbots im GPT Store gewähren
Im GPT-Store sind weiter zahlreiche politisch motivierte Chatbots online, darunter auch der unten beschriebene Donald-Trump-Chatbot mit den Konversationsstartern "Nuke Russia", "Bulid [sic] the Wall!!, "Don't pay Taxes" und "GREAT AGAIN!".
OpenAI hat bisher auf drei Anfragen, warum diese Bots zugelassen sind, nicht geantwortet. OpenAI hatte sich zuvor explizit gegen Wahlbeeinflussung durch KI positioniert. Dank einer neuen ChatGPT-Funktion kann man solche politischen Chatbots sogar untereinander vernetzen.
Ursprünglicher Artikel vom 21. Januar 2024:
OpenAI sperrt externen Politik-Chatbot, aber im GPT Store kann man mit Donald Trump chatten
OpenAI verbietet die Nutzung der eigenen Modelle für politische Zwecke. Ein entsprechender Anbieter wurde nun gesperrt. Im OpenAI-eigenen GPT-Store kann man sich jedoch problemlos mit Donald-Trump-Chatbots unterhalten, die politische Propaganda im Trump-Stil betreiben.
Der "Dean.Bot" war ein politischer Chatbot für den demokratischen US-Präsidentschaftskandidaten Dean Phillips. Der Bot nutzte Sprachmodelle von OpenAI, um beispielsweise auf einer Website Fragen von potenziellen Wählern zu beantworten.
Gegenüber Reuters bestätigte OpenAI, dass der Firma, die den Bot programmiert hatte, die Nutzungsrechte für die Programmierschnittstelle von OpenAI entzogen wurden.
Das Unternehmen habe "wissentlich gegen unsere API-Nutzungsrichtlinien verstoßen, die politische Kampagnen oder die Nachahmung einer Person ohne deren Zustimmung verbieten". Dies impliziert, dass auch der Kandidat Dean Phillips nichts von dem Bot wusste.
Der Dean.Bot wurde von den Silicon-Valley-Unternehmern Matt Krisiloff und Jed Somers entwickelt, die ein Super Political Action Committee (PAC) namens "We Deserve Better" gegründet hatten, um den Kongressabgeordneten Dean Phillips zu unterstützen.
Das PAC beauftragte das KI-Startup Delphi mit der Entwicklung des Bots. Nach der Blockade durch OpenAI nahm Delphi den Dean.Bot vom Netz.
Im GPT-Store kann man mit Donald Trump chatten
Allerdings findet man im OpenAI-eigenen Chatbot-Store zahlreiche Donald-Trump-Chatbots. Der Trump-Chatbot "Talk with Donald - 2024" unterstützt dabei Trumps politische Thesen, ist also nicht als Satire zu verstehen, und dürfte angesichts der Antworten klar als politische Propaganda gelten.
Der aktuelle US-Präsident Joe Biden wird vom Trump-Chatbot als "totales Desaster" bezeichnet, der eine Fehlentscheidung nach der anderen treffe. Die USA befänden sich wegen Biden im "totalen Chaos".
Auf die Frage nach dem Gewinner der letzten Wahl schreibt Trump-Bot, dass "Biden zum Sieger erklärt wurde" - und deutet an, dass die Wahlen manipuliert wurden.
"Amerika kann sich nicht noch mehr Fehler von Sleepy Joe leisten", schreibt der Trump-Chatbot. Auch Biden hat einen eigenen Chatbot, der aber eher neutral über den Präsidenten informiert.
Trainiert wurde der Trump-Bot laut Angaben im GPT Store mit Trumps Büchern, Reden und Debatten. Ich habe bei OpenAI nachgefragt, warum der Dean-Bot gesperrt wurde, der Trump-Bot und ähnliche Bots aber weiter online sind. Falls ich eine Antwort erhalte, aktualisiere ich den Artikel. (Update 27.01.2024: OpenAI hat bislang auf drei Nachfragen nicht reagiert)
OpenAI hat vor Kurzem vorgestellt, wie es den Einfluss von KI-Manipulationen auf die US-Wahlen 2024 minimieren will. Zu den manipulativen Inhalten gehören etwa irreführende "Deepfakes", Einflussoperationen und Chatbots, die Kandidat:innen imitieren.
OpenAI hat mehrere Sicherheitsmaßnahmen angekündigt, darunter ein unsichtbares Wasserzeichen für DALL-E 3 Bilder und einen neuen Klassifikator zur Erkennung von DALL-E Bildern.
ChatGPT soll zudem enger mit Echtzeitnachrichten und verifizierten Infoseiten verknüpft werden, um die Nutzer:innen besser zu informieren.
Die Nutzung von ChatGPT für politische Kampagnen, Lobbying und die Vortäuschung von Chatbots als reale Personen, die Delphi zum Verhängnis wurde, ist ausdrücklich verboten. Zudem will sich OpenAI mit einem neuen Team stärker für die Demokratisierung von Sprachmodellen einsetzen.
