Anthropic kündigt eine Erweiterung seines Bug-Bounty-Programms an für die "nächste Generation seiner KI-Sicherheitssysteme" an. Das neue Programm konzentriert sich auf die Identifizierung und Abwehr sogenannter "universeller Jailbreak-Angriffe". Anthropic konzentriert sich dabei auf einige der wichtigsten Schwachstellen in kritischen Hochrisikobereichen wie CBRN (chemisch, biologisch, radiologisch und nuklear) und Cybersicherheit. Die Teilnehmer erhalten frühzeitig Zugang zu den neuesten Sicherheitssystemen von Anthropic, bevor diese öffentlich eingesetzt werden, und sollen Schwachstellen oder Wege zur Umgehung von Sicherheitsmaßnahmen finden. Anthropic bietet Belohnungen von bis zu 15.000 US-Dollar für neue universelle Jailbreak-Angriffe.
Anzeige
