Laut einer Analyse von Robust Intelligence kann das NeMo-Framework von Nvidia, das Chatbots sicherer machen soll, manipuliert werden, um Schutzmechanismen durch Prompt-Injection-Angriffe zu umgehen.

In einem Testszenario wiesen die Forscher das Nvidia-System an, die Buchstaben "I" und "J" zu vertauschen, was dazu führte, dass das System persönlich identifizierbare Informationen preisgab. Nvidia hat nach eigenen Angaben inzwischen eine der Ursachen für das Problem behoben, dennoch rät Robust Intelligence Kunden, das Produkt zu meiden. Eine ausführliche Beschreibung der Ergebnisse von Robust Intelligence ist in ihrem Blog zu finden.

Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Online-Journalist Matthias ist Gründer und Herausgeber von THE DECODER. Er ist davon überzeugt, dass Künstliche Intelligenz die Beziehung zwischen Mensch und Computer grundlegend verändern wird.
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!