Edward Snowden warnt vor OpenAI, nachdem der ehemalige NSA-Direktor Paul Nakasone in den Vorstand berufen wurde. Snowden sieht darin eine "kalkulierte Verletzung der Rechte jedes Menschen auf der Erde".
Der ehemalige NSA-Auftragnehmer und Whistleblower Edward Snowden warnt bei X vor OpenAI, nachdem der ehemalige NSA-Direktor Paul Nakasone in den Vorstand des Unternehmens berufen wurde.
"Sie haben ihre Maske komplett abgenommen: Traue niemals OpenAI oder seinen Produkten (ChatGPT etc.). Es gibt nur einen Grund, einen NSA-Direktor in den Vorstand zu berufen. Das ist ein vorsätzlicher, kalkulierter Verrat an den Rechten eines jeden Menschen auf der Erde. Sie wurden gewarnt", schreibt Snowden.
Einen Tag später legt Snowden nach: "Das Zusammentreffen von KI mit dem Ozean von Massenüberwachungsdaten, der sich in den vergangenen zwei Jahrzehnten angesammelt hat, wird einigen wenigen, die nicht zur Rechenschaft gezogen werden können, wirklich schreckliche Macht verleihen."
Nakasone, der die NSA von 2018 bis Februar 2024 leitete, ist Mitglied des neuen OpenAI-Sicherheitsausschusses. Er soll dazu beitragen, die Rolle von OpenAI und KI in der Cybersicherheit zu stärken. OpenAI arbeitet auch mit dem US-Militär im Bereich Cybersicherheit zusammen.
Seine Ernennung folgt auf Kritik an der Sicherheitskultur von OpenAI. Kürzlich hatten viele Sicherheitsforscher OpenAI verlassen, allerdings nur diejenigen, die sich mit der Ausrichtung einer möglichen "Super-KI" beschäftigten - und weniger mit den alltäglichen Cybersicherheitsrisiken.
Snowden kritisiert nicht nur OpenAI. Bei einem Vortrag auf einer Super-KI-Konferenz in Singapur sagte Snowden, er habe ein Problem mit der "KI-Sicherheitspanik" im Allgemeinen.
Warnungen vor einer Superintelligenz, die wie im Film "Terminator" die Menschheit bedrohe, seien zwar gut gemeint. Eine größere Gefahr sieht er jedoch darin, dass Menschen versuchen, ihre politischen Ansichten in KI-Modelle einzubringen, um Minderheitsmeinungen zu verallgemeinern.
Er nennt hier insbesondere Google hervor, das kürzlich wegen seiner geschichtsverzerrenden Diversitätsregeln in der generativen Bild-KI kritisiert wurde. Der Bildgenerator von Google generierte aufgrund zu strenger Diversitätsregeln unter anderem Bilder von dunkelhäutigen Menschen in Nazi-Uniformen.
"Man weiß es nicht besser als der Benutzer, man versucht nicht, dem Benutzer seinen Willen aufzuzwingen, und doch sehen wir, dass das geschieht", so Snowden.
