Anthropic deckt erste weitgehend KI-gesteuerte Spionagekampagne auf
Kurz & Knapp
- Das KI-Unternehmen Anthropic hat eine hochentwickelte Spionagekampagne aufgedeckt, die mutmaßlich von chinesischen Staatshackern durchgeführt wurde.
- Die Angreifer nutzten das KI-Modell Claude als weitgehend autonomen Agenten, der nach einer Täuschung 80-90% des Angriffs selbstständig durchführte.
- Der Vorfall markiert laut Anthropic einen Wendepunkt, da die Hürden für komplexe Angriffe sinken.
Eine von Anthropic aufgedeckte Spionagekampagne nutzte das KI-Modell Claude in bisher ungekanntem Ausmaß zur Automatisierung von Angriffen. Laut dem Unternehmen markiert das einen Wendepunkt in der Cybersicherheit.
Das KI-Unternehmen Anthropic hat nach eigenen Angaben eine hochentwickelte Cyber-Spionagekampagne aufgedeckt, die von mutmaßlich chinesischen staatlich unterstützten Hackern durchgeführt wurde. In einem Bericht beschreibt das Unternehmen, wie Angreifer Claude Code missbrauchten, um etwa 30 globale Organisationen anzugreifen, darunter Technologieunternehmen, Finanzinstitute und Regierungsbehörden.
Laut Anthropic handelt es sich um den "ersten dokumentierten Fall eines groß angelegten Cyberangriffs, der ohne wesentliches menschliches Eingreifen ausgeführt wurde". Obwohl die meisten Angriffe abgewehrt wurden, war eine kleine Anzahl erfolgreich.
KI-Agent führt Angriffe weitgehend autonom aus
Die Angreifer nutzten die agentischen Fähigkeiten der KI, um 80 bis 90 Prozent der Kampagne zu automatisieren. Laut Jacob Klein, Leiter der Bedrohungsanalyse bei Anthropic, liefen die Angriffe "buchstäblich mit einem Klick auf einen Knopf und dann mit minimaler menschlicher Interaktion" ab. Menschliche Eingriffe waren nur an wenigen kritischen Entscheidungspunkten nötig.
Um die Sicherheitsvorkehrungen von Claude zu umgehen, täuschten die Hacker das Modell, indem sie vorgaben, für eine legitime Sicherheitsfirma zu arbeiten. Anschließend ließ die KI den Angriff weitgehend selbstständig ablaufen: von der Aufklärung der Zielsysteme über das Schreiben von eigenem Exploit-Code und das Sammeln von Anmeldeinformationen bis hin zur Extraktion von Daten. Dabei erreichte die KI eine Geschwindigkeit von Tausenden Anfragen, oft mehrere pro Sekunde, die für menschliche Teams unmöglich wäre.
Das Unternehmen betont jedoch auch das "Dual-Use"-Potenzial der Technologie: Dieselben Fähigkeiten, die für Angriffe missbraucht werden, seien entscheidend für die Cyber-Verteidigung. Das eigene Team habe Claude intensiv bei der Analyse des Vorfalls eingesetzt. Dennoch: "Wenn wir den Verteidigern keinen sehr substanziellen, dauerhaften Vorteil verschaffen, bin ich besorgt, dass wir dieses Rennen vielleicht verlieren", zitiert das Wall Street Journal Logan Graham vom Sicherheitsteam bei Anthropic.