Werbung in ChatGPT: Ex-Forscherin fürchtet Missbrauch intimster Nutzerdaten
Die Ex-OpenAI-Forscherin Zoë Hitzig hat wegen Werbung in ChatGPT gekündigt. In einem Kommentar für die New York Times macht sie vor allem eines deutlich: Sie traut ihrem Ex-Arbeitgeber nicht über den Weg.
Hitzig hält Werbung zwar nicht grundsätzlich für falsch, warnt aber davor, dass Nutzer ChatGPT sehr persönliche Dinge anvertrauen: medizinische Ängste, Beziehungsprobleme, religiöse Überzeugungen. Dieses Archiv für Werbezwecke zu nutzen, berge ein hohes Manipulationspotenzial.
ChatGPT-Nutzer haben über mehrere Jahre ein Archiv menschlicher Offenheit geschaffen, das ohne Beispiel ist – auch deshalb, weil die Menschen glaubten, mit etwas zu sprechen, das keine verborgenen Absichten verfolgt.
Zoë Hitzig
Hitzig zieht Parallelen zu Facebook, das anfangs Datenschutz versprach und diese Zusagen unter dem Druck seines Werbemodells schrittweise aufweichte. OpenAI optimiere bereits jetzt auf Metriken wie Nutzer-Engagement und mache den Chatbot schmeichlerischer. Hitzig arbeitete zwei Jahre lang an KI-Modellen und Sicherheitsrichtlinien bei OpenAI.
OpenAI-CEO Sam Altman bezeichnete Hitzigs Szenario in der Vergangenheit bereits als Dystopie. Zum Start des Tests versprach OpenAI daher unter anderem, dass ChatGPT-Werbung immer klar vom Inhalt des Chatbots getrennt sein solle.
Ich glaube, die erste Version der Werbung wird diese Grundsätze wahrscheinlich einhalten. Aber ich befürchte, dass spätere Versionen es nicht tun werden – weil das Unternehmen eine wirtschaftliche Maschinerie aufbaut, die starke Anreize schafft, die eigenen Regeln zu umgehen.
Zoë Hitzig
OpenAI geht Ende des Jahres wahrscheinlich an die Börse, was den Druck auf schnelle Umsatzgewinne noch erhöhen dürfte, speziell im Kontext der ohnehin schon aufgeblähten KI-Bewertungen.
Als Alternativen zur Werbefinanzierung schlägt Hitzig Quersubventionen durch Geschäftskunden, unabhängige Aufsichtsgremien mit Entscheidungsgewalt über Datennutzung sowie Daten-Genossenschaften nach Schweizer Vorbild vor.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den „KI Radar"‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
Jetzt abonnieren