Chatbot-Schutz: Wer Claude wiederholt beleidigt, könnte rausfliegen
Anthropic verbietet in seinen aktualisierten Nutzungsrichtlinien erstmals „anhaltendes missbräuchliches Verhalten“ gegenüber Claude: Das Modell darf solche Gespräche künftig einfach beenden. Daneben verschärft das Unternehmen Regeln zu Propaganda, Drohnenbewaffnung und Überwachung. Die Änderungen unterstreichen Anthropics Kurs, Claude als potenziell schützenswerte Entität zu behandeln.
Anzeige
Sicherheitslücke in Amazons AgentCore: Ein Prompt reichte, um ganze KI-Flotten zu übernehmen
Ein einziger öffentlich erreichbarer KI-Agent auf Amazons Bedrock AgentCore reichte Forschern von Zenity Labs nach eigenen Angaben aus, um alle AgentCore-Agenten im selben AWS-Konto und derselben Region zu übernehmen. Möglich war das über eine interne AWS-Schnittstelle für temporäre Cloud-Zugangsdaten. AWS besserte nach und schränkte später auch die Standardrechte der Agenten deutlich ein.
Anzeige
Update
Anzeige