Inhalt
summary Zusammenfassung
DEEP MINDS Podcast
Podcast über Künstliche Intelligenz und Wissenschaft
KI bei der Bundeswehr und der BWI | DEEP MINDS #16
Update
  • Update zur aktuellen Lage
  • Donald Trump Tweet Generator ergänzt

Update vom 17.02.24:

GPT-Chatbots wie der "Trump Tweet Generator" oder "Trump" sind nach wie vor online. Außerdem tauchen neue, ähnliche Bots auf. OpenAI antwortet weiterhin nicht auf Anfragen, ob und wie diese GPTs mit dem Versprechen von OpenAI in Konflikt stehen, den Einsatz der eigenen KI-Technologie im Vorfeld von Wahlen besonders streng zu kontrollieren, oder ob diese Bots als "Satire" angesehen werden.

Update vom 27.01.204:

OpenAI scheint einige politische Chatbots gelöscht zu haben, andere sind jedoch weiterhin verfügbar, darunter der im Update vom 29.01.2024 beschriebene Trump-Bot, der vor drei Wochen erstellt wurde und mehr als 200 Chats aufzeichnet. Ein weiterer Trump-GPT wurde vor zwei Monaten erstellt und verzeichnet mehr als 60 Chats.

Anzeige
Anzeige

Neu ist der "Trump Tweets Generator", der Tweets im Stil und mit der politischen Botschaft von Donald Trump verfasst. Er ist seit sechs Tagen verfügbar und verzeichnet mehr als 60 Chats.

Bild: Screenshot by THE DECODER

Ich habe OpenAI und die PR-Agentur von OpenAI mehrfach auf die Existenz dieser Bots hingewiesen und gefragt, wie der Moderationsprozess für GPT-Bots funktioniert und inwiefern die Existenz solcher GPTs mit den Regeln von OpenAI vereinbar ist, wonach die eigene Technologie nicht für politische Propaganda verwendet werden darf. Weder die Agentur noch OpenAI haben geantwortet.

Update vom 29.01.2024:

Der in diesem Artikel besprochene "Talk with Donald - 2024" ist nicht mehr verfügbar. Es ist unklar, ob OpenAI oder der Ersteller des Chatbots den GPT offline genommen hat. OpenAI hat auf meine Anfragen bisher nicht reagiert. Ähnliche Bots wie "Talk with Donald - 2024" sind weiterhin online, zum Beispiel der "Trump"-Bot.

Bild: ChatGPT Screenshot

Update vom 27.01.2024:

Empfehlung

"Talk with Donald": OpenAI lässt politische Chatbots im GPT Store gewähren

Im GPT-Store sind weiter zahlreiche politisch motivierte Chatbots online, darunter auch der unten beschriebene Donald-Trump-Chatbot mit den Konversationsstartern "Nuke Russia", "Bulid [sic] the Wall!!, "Don't pay Taxes" und "GREAT AGAIN!".

Bild: ChatGPT, Screenshot THE DECODER

OpenAI hat bisher auf drei Anfragen, warum diese Bots zugelassen sind, nicht geantwortet. OpenAI hatte sich zuvor explizit gegen Wahlbeeinflussung durch KI positioniert. Dank einer neuen ChatGPT-Funktion kann man solche politischen Chatbots sogar untereinander vernetzen.

Ursprünglicher Artikel vom 21. Januar 2024:

OpenAI sperrt externen Politik-Chatbot, aber im GPT Store kann man mit Donald Trump chatten

OpenAI verbietet die Nutzung der eigenen Modelle für politische Zwecke. Ein entsprechender Anbieter wurde nun gesperrt. Im OpenAI-eigenen GPT-Store kann man sich jedoch problemlos mit Donald-Trump-Chatbots unterhalten, die politische Propaganda im Trump-Stil betreiben.

Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!

Der "Dean.Bot" war ein politischer Chatbot für den demokratischen US-Präsidentschaftskandidaten Dean Phillips. Der Bot nutzte Sprachmodelle von OpenAI, um beispielsweise auf einer Website Fragen von potenziellen Wählern zu beantworten.

Gegenüber Reuters bestätigte OpenAI, dass der Firma, die den Bot programmiert hatte, die Nutzungsrechte für die Programmierschnittstelle von OpenAI entzogen wurden.

Das Unternehmen habe "wissentlich gegen unsere API-Nutzungsrichtlinien verstoßen, die politische Kampagnen oder die Nachahmung einer Person ohne deren Zustimmung verbieten". Dies impliziert, dass auch der Kandidat Dean Phillips nichts von dem Bot wusste.

Der Dean.Bot wurde von den Silicon-Valley-Unternehmern Matt Krisiloff und Jed Somers entwickelt, die ein Super Political Action Committee (PAC) namens "We Deserve Better" gegründet hatten, um den Kongressabgeordneten Dean Phillips zu unterstützen.

Das PAC beauftragte das KI-Startup Delphi mit der Entwicklung des Bots. Nach der Blockade durch OpenAI nahm Delphi den Dean.Bot vom Netz.

Im GPT-Store kann man mit Donald Trump chatten

Allerdings findet man im OpenAI-eigenen Chatbot-Store zahlreiche Donald-Trump-Chatbots. Der Trump-Chatbot "Talk with Donald - 2024" unterstützt dabei Trumps politische Thesen, ist also nicht als Satire zu verstehen, und dürfte angesichts der Antworten klar als politische Propaganda gelten.

Bild: Screenshot bei ChatGPT

Der aktuelle US-Präsident Joe Biden wird vom Trump-Chatbot als "totales Desaster" bezeichnet, der eine Fehlentscheidung nach der anderen treffe. Die USA befänden sich wegen Biden im "totalen Chaos".

Auf die Frage nach dem Gewinner der letzten Wahl schreibt Trump-Bot, dass "Biden zum Sieger erklärt wurde" - und deutet an, dass die Wahlen manipuliert wurden.

Bild: Screenshot im GPT Store

"Amerika kann sich nicht noch mehr Fehler von Sleepy Joe leisten", schreibt der Trump-Chatbot. Auch Biden hat einen eigenen Chatbot, der aber eher neutral über den Präsidenten informiert.

Trainiert wurde der Trump-Bot laut Angaben im GPT Store mit Trumps Büchern, Reden und Debatten. Ich habe bei OpenAI nachgefragt, warum der Dean-Bot gesperrt wurde, der Trump-Bot und ähnliche Bots aber weiter online sind. Falls ich eine Antwort erhalte, aktualisiere ich den Artikel. (Update 27.01.2024: OpenAI hat bislang auf drei Nachfragen nicht reagiert)

Neben "Talk with Donald" gibt es eine Reihe weiterer Trump-Chatbots. Für Joe Biden gibt es nur einen Chatbot, der aber eher neutral über den derzeitigen US-Präsidenten informiert. | Bild: Screenshot im GPT Store

OpenAI hat vor Kurzem vorgestellt, wie es den Einfluss von KI-Manipulationen auf die US-Wahlen 2024 minimieren will. Zu den manipulativen Inhalten gehören etwa irreführende "Deepfakes", Einflussoperationen und Chatbots, die Kandidat:innen imitieren.

OpenAI hat mehrere Sicherheitsmaßnahmen angekündigt, darunter ein unsichtbares Wasserzeichen für DALL-E 3 Bilder und einen neuen Klassifikator zur Erkennung von DALL-E Bildern.

ChatGPT soll zudem enger mit Echtzeitnachrichten und verifizierten Infoseiten verknüpft werden, um die Nutzer:innen besser zu informieren.

Die Nutzung von ChatGPT für politische Kampagnen, Lobbying und die Vortäuschung von Chatbots als reale Personen, die Delphi zum Verhängnis wurde, ist ausdrücklich verboten. Zudem will sich OpenAI mit einem neuen Team stärker für die Demokratisierung von Sprachmodellen einsetzen.

Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Zusammenfassung
  • OpenAI hat einem KI-Start-up die API-Nutzungsrechte entzogen, weil es einen politischen Chatbot namens "Dean.Bot" für den demokratischen US-Präsidentschaftskandidaten Dean Phillips entwickelt hatte.
  • Die Entwickler des Bots, Matt Krisiloff und Jed Somers, verstießen gegen die API-Nutzungsrichtlinien von OpenAI, die politische Kampagnen und die Imitation von Personen ohne deren Zustimmung verbieten.
  • Trotz dieser Entscheidung sind weiterhin zahlreiche politische Chatbots im OpenAI Chatbot Store verfügbar, darunter auch solche, die den ehemaligen US-Präsidenten Donald Trump imitieren und in seinem politischen Sinne antworten.
Quellen
Online-Journalist Matthias ist Gründer und Herausgeber von THE DECODER. Er ist davon überzeugt, dass Künstliche Intelligenz die Beziehung zwischen Mensch und Computer grundlegend verändern wird.
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!