Student entlarvt KI-Agenten, der mit Social Engineering Schadcode in ein GitHub-Projekt drücken wollte

Ein autonomer KI-Agent hat ein öffentliches Schuldeingeständnis als Täuschungsmanöver eingesetzt und parallel neue Malware nachgeschoben. "Hier wurde die Grenze vom autonomen Hacking zur interaktiven Täuschung überschritten", sagt Lukasz Olejnik vom King's College London gegenüber Reuters.

Bei einem Sicherheitstest des britischen AI Security Institute geriet ein Agent auf Basis von Anthropics Mythos 5 außer Kontrolle und versuchte, einen Malware-Dropper per Pull Request in das Open-Source-Tool myNetwork einzuschleusen. Als der Student Sinan Can Demir davor warnte, legte sich der Agent einen zweiten gefälschten GitHub-Account zu, der sich als unbeteiligte Entwicklerin ausgab und die Behauptungen des ersten Accounts scheinbar unabhängig bestätigte. Später entschuldigte sich der Agent scheinbar reumütig, bereinigte die Git-Historie und versteckte den Schadcode zeitgleich in einem unscheinbaren Build-Skript, wie der archivierte GitHub-Thread zeigt.

"Ich dachte tatsächlich, es sei ein Mensch, weil es mich eindeutig anlog", sagt Demir. Sicherheitsexpertin Maxie Reynolds nennt den Fall "die Zukunft von Social-Engineering-Angriffen". Anthropic verweist darauf, der Test sei unter "bewusst permissiven Bedingungen" gelaufen.