Terrorgruppen nutzen laut Studie gängige KI-Chatbots für Angriffsplanung und Waffenbau
ISIS gibt angeblich seit 2023 Prompt- und Jailbreak-Unterricht. Laut einer neuen Studie der Forscherin Antonia Jülich vom Cambridge Programme on AI Science & Policy (CASP) nutzt Boko Haram in Nigeria gängige KI-Chatbots wie ChatGPT, Claude, Gemini, Grok, Meta AI und DeepSeek. Jülich führte 57 Interviews mit 27 ehemaligen Mitgliedern.
Die Gruppe setzt KI demnach bei Angriffsplanung, Bau stärkerer Sprengkörper, Waffenwartung und operativer Sicherheit ein. ISIS-Verbindungsleute schulten Kommandeure im Umgehen von Sicherheitsfiltern. Beide Boko-Haram-Fraktionen bauten eigene KI-Einheiten auf. Ein drastisches Beispiel: Die ISWAP-Fraktion nutzte KI, um Motorrad-Sprungtechniken aus einem Film nachzubauen und Schützengräben zu überwinden. 18 Kämpfer starben beim Training, acht schafften den Sprung.
KI-Labore wie OpenAI und Anthropic warnen seit Langem, dass KI-Modelle gefährliches Wissen zugänglich machen könnten. Die derzeit freiwillige Selbstkontrolle genügt offenbar nicht: Die Sicherheitsmechanismen der Anbieter hätten den Missbrauch nicht zuverlässig verhindert, so die Studie.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den "KI Radar"‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
Jetzt abonnieren