Unter dem Druck schwindender Ressourcen und zunehmender Gewalt in Afghanistan entwickelten die US-Streitkräfte 2019 ein KI-System, um Angriffe der Taliban vorherzusagen. Es war überraschend genau.
Während die NATO-Streitkräfte 2019 ihre Truppenstärke in Afghanistan schrittweise reduzierten, stand das US-Militär vor der Herausforderung, seine Aufklärungsarbeit mit weniger Ressourcen zu bewältigen. Unter dem Druck zunehmender Angriffe der Taliban startete ein kleines Team von Geheimdienstoffizieren das KI-Projekt „Raven Sentry“.
Im Oktober 2019 begann das liebevoll "nerd locker" genannte Team mit der Entwicklung von Raven Sentry. Das KI-Modell sollte anhand von Daten aus offenen Quellen wie Wetterberichten, Posts in sozialen Medien, Nachrichten und kommerziellen Satellitenbildern das Risiko von Anschlägen auf Bezirks- oder Provinzzentren bewerten und die Zahl der möglichen Opfer abschätzen.
Das Team untersuchte zuerst wiederkehrende Muster bei Aufständischenangriffen bis zurück zur sowjetischen Besatzung Afghanistans in den 1980er Jahren. "In einigen Fällen fanden moderne Angriffe an exakt denselben Orten, mit ähnlicher Zusammensetzung der Aufständischen, im selben Kalenderzeitraum und mit identischen Waffen statt - wie ihre russischen Gegenstücke in den 1980er Jahren." schreibt Colonel Thomas Spahr, der das Experiment in einem Artikel für die Zeitschrift Parameters des US Army War College.
Das "nerd locker" Team wurde in eine Spezialeinheit eingebettet, deren Kultur besser für freies Experimentieren geeignet war. Die Analysten wurden verpflichtet, reguläre Schichten in der Operative zu übernehmen, um ein Verständnis für die Missionsanforderungen zu entwickeln und Vertrauen aufzubauen: "Das Vertrauen in die Leute, die das System betreiben, führte zu Vertrauen in die Ergebnisse des Systems.", so Colonel Spahr.
Weniger Angriffe bei kaltem Wetter
Silicon-Valley-Experten halfen bei der Entwicklung eines neuronalen Netzes, das historische Daten zu Angriffen mit einer Vielzahl offener Quellen korrelierte.
In einem ersten Schritt mussten OSINT-Daten (Open-Source Intelligence) maschinenlesbar gemacht werden, d.h. Daten von öffentlich zugänglichen Quellen wie Zeitungen oder soziale Netzwerke. Zusätzlich dekonstruierten die Analysten historische Ereignisse in Einzelteile und markierten diese für das System.
In einem zweiten Schritt wurden zusätzliche Indikatoren, wie umliegende Aktivitäten in Moscheen, Madrassas, Routen der Aufständischen und bekannte Treffpunkte gesammelt. Sogenannte „influence data sets“ mit Faktoren zu Wetterlage und politischer Stabilität wurden ebenfalls inkludiert. Zum Beispiel waren Angriffe laut Raven Sentry wahrscheinlicher, wenn die Temperatur über 4°C, waren, die Mondhelligkeit unter 30 Prozent lag und es nicht regnete.
Der Raven Sentry Prototyp wurde schließlich mit drei umklassifizierten Datenbanken historischer Attacken trainiert und überwachte 17 kommerzielle Geodatenquellen, OSINT-Berichte und GIS-Datensätze (Global Information Systems).
Sobald eine bestimmte Kombination aus Faktoren einen Schwellwert erreichte, löste das System eine Warnung aus. Meldungen über politische oder militärische Versammlung zogen beispielsweise die Aufmerksamkeit des Systems auf sich. Auch Bewegungsmuster entlang historische Infiltrationsrouten der Aufständischen konnten Warnsignale für die Region auslösen.
Um die Risikoschwelle zu überschreiten und eine Warnung auszulösen, waren in der Regel mehrere Anomalien notwendig. Für bestimmte Regionen, sogenannte warning named areas of interest (WNAIs), wurde dann das Risiko erhöht und Maßnahmen konnten in Absprache mit den menschlichen Analysten getroffen werden.
Leistungen vergleichbar mit Menschen
Bis Oktober 2020 hatte das Modell eine Genauigkeit von 70 Prozent erreicht, was einer ähnlichen Leistung wie bei menschlichen Analysten entspricht, "nur mit einer viel höheren Geschwindigkeit", so Spahr gegenüber The Economist. Die Analysten behandelten die Ergebnisse nicht als unfehlbar, sondern nutzten sie, um klassifizierte Systeme wie Spionagesatelliten oder abgefangene Kommunikation gezielter einzusetzen.
Raven Sentry "lernte selbstständig und wurde immer besser, bis es eingestellt wurde", so Colonel Spahr. In der relativ kurzen Einsatzzeit hatte das System wertvolle Erfahrungswerte gesammelt, wie KI-Systeme Analysten bei der Bearbeitung und Sichtung großer Mengen an Sensordaten unterstützen können.
In den drei Jahren seit der Einstellung von Raven Sentry haben Streitkräfte und Geheimdienste viele Ressourcen in die KI-gestützte Früherkennung von Angriffen investiert. "Wenn wir diese Algorithmen im Vorfeld der russischen Invasion in der Ukraine gehabt hätten, wäre vieles einfacher gewesen", sagt eine Quelle aus dem britischen Defence Intelligence (Militärgeheimdienst des Vereinigten Königreichs) gegenüber The Economist.
Doch Colonel Spahr betont die Einschränkungen des Systems: "So wie irakische Aufständische lernten, dass brennende Reifen auf den Straßen die Optik von US-Flugzeugen beeinträchtigten, oder vietnamesische Guerillas Tunnel gruben, um der Beobachtung aus der Luft zu entgehen, werden auch Amerikas Gegner lernen, KI-Systeme zu täuschen und Dateneingaben zu manipulieren." Die Taliban hätten schließlich trotz der fortschrittlichen Technologie der USA und der NATO in Afghanistan die Oberhand behalten.
„Raven Sentry machte die Analysten effizienter, konnte sie aber nicht ersetzen.“, resümiert Colonel Spahr den Erfolg des Experiments. Nach den ersten real gesammelten Erfahrungen stellen sich dringende Fragen über die zukünftigen Anwendungen von KI in kriegerischen Auseinandersetzungen: „In dem Maße, wie die Geschwindigkeit der Kriegsführung zunimmt und die Gegner KI einsetzen, könnte das US-Militär gezwungen sein, eine On-the-Loop-Position einzunehmen, d. h. die Ergebnisse zu überwachen und zu überprüfen, aber der Maschine zu erlauben, Vorhersagen zu treffen und möglicherweise Maßnahmen anzuordnen.“, so Colonel Spahr.
