Anthropic testet KI-Assistent Claude als Chrome-Erweiterung

Anthropic testet ein neues KI-Tool namens Claude for Chrome. Der Browser-Agent läuft als Erweiterung im Chrome-Browser und kann Inhalte erkennen sowie auf Wunsch Aufgaben im Browser übernehmen. Zum Start steht das Tool 1.000 ausgesuchten Nutzerinnen und Nutzern des Max-Abos zur Verfügung, weitere können sich auf eine Warteliste setzen lassen. Anthropic hat laut eigenen Angaben Sicherheitsmaßnahmen eingebaut, um sogenannte Prompt-Injection-Angriffe zu erschweren: Die Erfolgsrate solcher Angriffe sank laut dem Unternehmen allerdings von 23,6 auf immer noch 11,2 Prozent. Webseiten mit Finanz-, Erwachsenen- oder Raubkopie-Inhalten sind aber standardmäßig gesperrt. Claude fragt zudem vor risikoreichen Aktionen wie dem Teilen persönlicher Daten nach Erlaubnis.