Die NSA veröffentlicht ein Framework, mit dem KI-Agenten lernen sollen, Netzwerke zu verteidigen.
Mit dem bestärkenden Lernen (Erklärung) trainierte KI-Systeme schlagen Menschen mittlerweile mit Leichtigkeit in komplexen Spielen wie Schach, Go oder Starcraft 2. Vom Erfolg spielender KI bestätigt, versuchen nationale Akteure wie die US Air Force, die Technologie für ihren Vorteil zu nutzen, etwa als Pilot eines Kampfjets oder als Copilot in einem Aufklärungsflugzeug.
Abseits des physischen Schlachtfelds bekriegen sich Nationen auch im Cyberspace: Iranische Atomanlagen, soziale Netzwerke oder ukrainische Stromnetze gehören beispielsweise zu den Zielen. Nun erforscht die amerikanische National Security Agency (NSA) bestärkendes Lernen für die Cyberverteidigung kritischer Infrastrukturen.
FARLAND bringt Cyberkrieg-Baukasten
Der amerikanische Auslandsgeheimdienst stellt in einer neuen Veröffentlichung ein "Framework für fortgeschrittenes Reinforcement Learning für autonome Netzwerk-Verteidigung" (FARLAND) vor. FARLAND soll den Aufbau unterschiedlich komplexer Netzwerkumgebungen ermöglichen, in denen KI-Agenten schrittweise lernen, Netzwerke zu rekonfigurieren als Abwehr gegen Cyberangriffe.
Innerhalb der simulierten Netzwerkumgebungen können verschiedene Akteure hinterlegt werden, darunter normale Prozesse und Aggressoren oder versteckte Aggressoren. FARLAND nutzt die Open-Source-Bibliothek RLLib, die zahlreiche verschiedene Algorithmen des bestärkenden Lernens bietet, mit denen die KI-Verteidiger trainiert werden können. FARLAND bietet außerdem gegnerische Modelle, die gezielt Schwachstellen in den gelernten Abwehrmechanismen ausnutzen.
Ist Angriff die beste Verteidigung?
Laut der Autoren soll FARLAND die Entwicklung übermenschlicher Fähigkeiten in der autonomen Cyberverteidigung ermöglichen, ähnlich wie es Deepmind etwa beim Brettspiel Go mit AlphaGo und AlphaZero gelang.
Ein angestrebter autonomer Netzwerkverteidiger benötige jedoch nicht nur Innovation in Lern- und Entscheidungsalgorithmen, heißt es in der Veröffentlichung. Zusätzlich sei die Integration von Techniken notwendig, die "die Wahrscheinlichkeit von ungültigem Verhalten minimieren". Andernfalls könne ein autonomer Agent Schaden im eigenen Netzwerk anrichten.
Angesichts stetig zunehmender Cyberattacken hätten die USA autonome Agenten aus FARLAND bitter nötig: Es gab Cyberattacken auf Wasseraufbereitungsanlagen, Nuklearanlagen, Wahlsysteme, politische Parteien, Krankenhäuser, eine große Pipeline oder die Fleischindustrie.
US-Präsident Joe Biden und Russlands Präsident Vladimir Putin wollen laut Biden Experten aus beiden Ländern damit beauftragen, bestimmte kritische Infrastrukturen zu identifizieren, die in Zukunft von destruktiven Cyberattacken ausgenommen werden sollen.
Via: Arxiv