Anthropic testet neues KI-Sicherheitssystem
Anthropic kündigt eine Erweiterung seines Bug-Bounty-Programms an für die "nächste Generation seiner KI-Sicherheitssysteme" an. Das neue Programm konzentriert sich auf die Identifizierung und Abwehr sogenannter "universeller Jailbreak-Angriffe". Anthropic konzentriert sich dabei auf einige der wichtigsten Schwachstellen in kritischen Hochrisikobereichen wie CBRN (chemisch, biologisch, radiologisch und nuklear) und Cybersicherheit. Die Teilnehmer erhalten frühzeitig Zugang zu den neuesten Sicherheitssystemen von Anthropic, bevor diese öffentlich eingesetzt werden, und sollen Schwachstellen oder Wege zur Umgehung von Sicherheitsmaßnahmen finden. Anthropic bietet Belohnungen von bis zu 15.000 US-Dollar für neue universelle Jailbreak-Angriffe.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den „KI Radar“‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
Jetzt abonnierenKI-News ohne Hype
Von Menschen kuratiert.
- Mehr als 20 Prozent Launch-Rabatt.
- Lesen ohne Ablenkung – keine Google-Werbebanner.
- Zugang zum Kommentarsystem und Austausch mit der Community.
- Wöchentlicher KI-Newsletter.
- 6× jährlich: „KI Radar“ – Deep-Dives zu den wichtigsten KI-Themen.
- Bis zu 25 % Rabatt auf KI Pro Online-Events.
- Zugang zum kompletten Archiv der letzten zehn Jahre.
- Die neuesten KI‑Infos von The Decoder – klar und auf den Punkt.