OpenAI beweist Doppelmoral: Sam Altmans früherer Mitstreiter ist nun ein Dystopist

OpenAI will einen Experten vor Gericht zum Schweigen bringen, mit Argumenten, die der Firma selbst genehm waren, als sie noch der eigenen Sache dienten.

Die zivilgesellschaftliche Organisation The Midas Project beschreibt die Doppelmoral von OpenAI in einem laufenden Gerichtsverfahren mit Elon Musk. OpenAI hat einen Antrag eingereicht, die Aussage des KI-Professors Stuart Russell auszuschließen.

Darin bezeichnet OpenAI Russell, einen anerkannten Wissenschaftler, als prominenten KI-Untergangspropheten, dessen Ansichten dystopisch, spekulativ und alarmistisch seien. Russell warnt seit Jahren davor, dass fortgeschrittene KI-Systeme eine existenzielle Gefahr für die Menschheit darstellen könnten, wenn sie nicht richtig kontrolliert werden.

Dabei hat OpenAI in der Vergangenheit selbst solche Drohszenarien genutzt, um auf sich und die eigenen Themen aufmerksam zu machen – von massenhaften Jobverlusten über gesellschaftliche Manipulation bis zu Weltuntergangsszenarien.

The Midas Project weist zudem darauf hin, dass OpenAI-Chef Sam Altman 2023 sogar gemeinsam mit Russell eine Erklärung unterzeichnete, wonach das Risiko der Auslöschung durch KI eine globale Priorität sein sollte. Altman sagte bereits 2015, KI werde wahrscheinlich zum Ende der Welt führen. Bis dahin werde es jedoch tolle Unternehmen geben.

OpenAIs Anwälte argumentieren weiter, die Sorge vor einem KI-Wettrennen auf Kosten der Sicherheit sei irrelevant. Doch OpenAIs eigene Charta formuliert laut The Midas Project genau diese Befürchtung: Die späte Phase der AGI-Entwicklung könne zu einem Wettlauf ohne ausreichende Sicherheitsvorkehrungen werden.

OpenAI selbst scheint diesem Muster bereits zu folgen: Berichten zufolge wurden Sicherheitstests für GPT-4o unter Zeitdruck erheblich verkürzt; auch neuere Modelle sind betroffen. Zudem baute OpenAI Stellen im Bereich Sicherheit ab, und mehrere namhafte Forscher verließen das Unternehmen.

OpenAI und The Midas Project im Konflikt

OpenAI nutze vor Gericht opportunistische Argumente, die den eigenen langjährigen Überzeugungen widersprechen, so The Midas Project. Die beiden Parteien kennen sich bereits: OpenAI hatte The Midas Project zuvor mit einer umfangreichen Vorladung im Kontext des Musk-Streits konfrontiert.

Darin verlangte das Unternehmen laut Gründer Tyler Johnston die Offenlegung jeglicher Kommunikation mit Journalisten, Abgeordneten, ehemaligen OpenAI-Angestellten und anderen zivilgesellschaftlichen Gruppen. The Midas Project war dabei nicht einmal in den Musk-Prozess involviert.

Johnston vermutete damals eine gezielte Aktion kurz vor Entscheidungen kalifornischer und delawareanischer Behörden zur Umwandlung OpenAIs in ein kommerzielles Unternehmen mit einer Bewertung von bis zu 500 Milliarden US-Dollar. Die Organisation hatte diese Restrukturierung öffentlich kritisiert.