Claude-Modelle dürfen jetzt auflegen, wenn sich Nutzer danebenbenehmen

Online-Journalist Matthias ist Gründer und Herausgeber von THE DECODER. Er ist davon überzeugt, dass Künstliche Intelligenz die Beziehung zwischen Mensch und Computer grundlegend verändern wird.

Profil

E-Mail Website

Die Modelle Claude Opus 4 und 4.1 von Anthropic können in seltenen Fällen Gespräche beenden. Das tritt ein, wenn Nutzer trotz mehrerer Versuche der Ablehnung weiterhin schädliche oder missbräuchliche Inhalte fordern. Laut Anthropic basiert die Funktion auf Tests zur möglichen psychischen Belastung von KI-Modellen durch belastende Anfragen. Claude zeigt dabei eine deutliche Abneigung gegen Gewalt, Missbrauch oder illegale Inhalte. Mit meinen Beleidigungen konnte ich Claude nicht zum Auflegen bewegen.

Die Funktion greift Anthropic nur als letzter Ausweg oder wenn Nutzer ausdrücklich darum bitten. Gespräche können danach nicht weitergeführt, aber erneut gestartet oder bearbeitet werden.

Community beitreten

Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!

Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:

Banküberweisung

Quellen

Anthropic

Matthias Bastian

Online-Journalist Matthias ist Gründer und Herausgeber von THE DECODER. Er ist davon überzeugt, dass Künstliche Intelligenz die Beziehung zwischen Mensch und Computer grundlegend verändern wird.

Profil

E-Mail Website