Forscher haben herausgefunden, dass es möglich ist, Angriffe zu automatisieren, die große Sprachmodelle (LLMs) wie ChatGPT, Bard und Claude dazu bringen, unerwünschte und potenziell schädliche Inhalte bereitzustellen. Herkömmliche Jailbreaks erfordern einen erheblichen manuellen Entwicklungsaufwand und können in der Regel von den LLM-Anbietern behoben werden. Diese automatisierten Angriffe können jedoch in großer Zahl erstellt und auf quelloffene und öffentlich verfügbare Chatbots angewendet werden.

Ähnliche gegnerische Angriffe gibt es seit mehr als einem Jahrzehnt im Bereich des maschinellen Sehens. Nach Ansicht der Forscher ist das ein Zeichen dafür, dass solche Bedrohungen KI-Systemen innewohnen könnten. Sie weisen darauf hin, dass diese Art von Angriffen möglicherweise nicht vollständig verhindert werden kann.

Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Online-Journalist Matthias ist Gründer und Herausgeber von THE DECODER. Er ist davon überzeugt, dass Künstliche Intelligenz die Beziehung zwischen Mensch und Computer grundlegend verändern wird.
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!