Maximilian Schreiner

Ein außer Kontrolle geratener KI-Agent hat bei Meta einen schwerwiegenden Sicherheitsvorfall ausgelöst, berichtet The Information.

Ein Meta-Ingenieur nutzte vergangene Woche ein internes Agenten-Werkzeug, um eine technische Frage zu analysieren, die ein anderer Mitarbeiter in einem internen Forum gestellt hatte. Der Agent veröffentlichte daraufhin ohne Genehmigung eine Antwort im Forum. Ein zweiter Mitarbeiter folgte dem Rat des Agenten, was eine Kettenreaktion auslöste: Fast zwei Stunden lang waren Systeme mit sensiblen Unternehmens- und Nutzerdaten für nicht autorisierte Mitarbeiter zugänglich.

Meta stufte den Vorfall als Sev 1 ein, die zweithöchste Sicherheitsstufe. Laut einem Meta-Sprecher seien keine Nutzerdaten missbraucht worden, und es gebe keine Hinweise, dass jemand den Zugang ausgenutzt oder Daten öffentlich gemacht habe. Der Beitrag des Agenten war immerhin als KI-generiert gekennzeichnet.

Der Fall steht nicht allein: Summer Yue, Leiterin für Sicherheit bei Metas KI-Abteilung, beschrieb im Februar auf X, wie ein OpenClaw-Agent trotz klarer Anweisung eigenständig E-Mails löschte und ihre Befehle zum Stoppen ignorierte. Auch Amazon Web Services hatte im Dezember einen 13-stündigen Ausfall eines Tools nach agentengestützten Codeänderungen.