OpenAIs neuer Browser ChatGPT Atlas birgt Sicherheitsrisiken, warnt OpenAI-Sicherheitschef Dane Stuckey.
Ein zentrales Problem sind sogenannte Prompt Injections: Angreifer verstecken schädliche Anweisungen auf Webseiten oder in E-Mails, um den Agenten zu manipulieren. Die Attacken reichen von der Beeinflussung von Kaufentscheidungen bis zum Diebstahl privater Daten wie E-Mail-Inhalten oder Zugangsdaten.
OpenAI hat laut Stuckey umfangreiche Tests durchgeführt, neue Trainingsmethoden eingesetzt und Schutzmechanismen implementiert. Dennoch sei Prompt Injection ein ungelöstes Sicherheitsproblem. Als Schutzmaßnahmen bietet Atlas einen "Logged out Mode" ohne Zugriff auf Nutzerdaten und einen "Watch Mode" für sensible Webseiten, der aktive Überwachung durch den Nutzer erfordert. OpenAI arbeitet laut Stuckey an weiteren Sicherheitsfunktionen und schnellen Reaktionssystemen gegen Angriffe.
