KI gegen Cyber-Attacken: NSA stellt Framework vor
Die NSA veröffentlicht ein Framework, mit dem KI-Agenten lernen sollen, Netzwerke zu verteidigen.
Mit dem bestärkenden Lernen (Erklärung) trainierte KI-Systeme schlagen Menschen mittlerweile mit Leichtigkeit in komplexen Spielen wie Schach, Go oder Starcraft 2. Vom Erfolg spielender KI bestätigt, versuchen nationale Akteure wie die US Air Force, die Technologie für ihren Vorteil zu nutzen, etwa als Pilot eines Kampfjets oder als Copilot in einem Aufklärungsflugzeug.
Abseits des physischen Schlachtfelds bekriegen sich Nationen auch im Cyberspace: Iranische Atomanlagen, soziale Netzwerke oder ukrainische Stromnetze gehören beispielsweise zu den Zielen. Nun erforscht die amerikanische National Security Agency (NSA) bestärkendes Lernen für die Cyberverteidigung kritischer Infrastrukturen.
FARLAND bringt Cyberkrieg-Baukasten
Der amerikanische Auslandsgeheimdienst stellt in einer neuen Veröffentlichung ein "Framework für fortgeschrittenes Reinforcement Learning für autonome Netzwerk-Verteidigung" (FARLAND) vor. FARLAND soll den Aufbau unterschiedlich komplexer Netzwerkumgebungen ermöglichen, in denen KI-Agenten schrittweise lernen, Netzwerke zu rekonfigurieren als Abwehr gegen Cyberangriffe.
Innerhalb der simulierten Netzwerkumgebungen können verschiedene Akteure hinterlegt werden, darunter normale Prozesse und Aggressoren oder versteckte Aggressoren. FARLAND nutzt die Open-Source-Bibliothek RLLib, die zahlreiche verschiedene Algorithmen des bestärkenden Lernens bietet, mit denen die KI-Verteidiger trainiert werden können. FARLAND bietet außerdem gegnerische Modelle, die gezielt Schwachstellen in den gelernten Abwehrmechanismen ausnutzen.
Ist Angriff die beste Verteidigung?
Laut der Autoren soll FARLAND die Entwicklung übermenschlicher Fähigkeiten in der autonomen Cyberverteidigung ermöglichen, ähnlich wie es Deepmind etwa beim Brettspiel Go mit AlphaGo und AlphaZero gelang.
Ein angestrebter autonomer Netzwerkverteidiger benötige jedoch nicht nur Innovation in Lern- und Entscheidungsalgorithmen, heißt es in der Veröffentlichung. Zusätzlich sei die Integration von Techniken notwendig, die "die Wahrscheinlichkeit von ungültigem Verhalten minimieren". Andernfalls könne ein autonomer Agent Schaden im eigenen Netzwerk anrichten.
Angesichts stetig zunehmender Cyberattacken hätten die USA autonome Agenten aus FARLAND bitter nötig: Es gab Cyberattacken auf Wasseraufbereitungsanlagen, Nuklearanlagen, Wahlsysteme, politische Parteien, Krankenhäuser, eine große Pipeline oder die Fleischindustrie.
US-Präsident Joe Biden und Russlands Präsident Vladimir Putin wollen laut Biden Experten aus beiden Ländern damit beauftragen, bestimmte kritische Infrastrukturen zu identifizieren, die in Zukunft von destruktiven Cyberattacken ausgenommen werden sollen.
Via: Arxiv
KI-News ohne Hype
Von Menschen kuratiert.
- Mehr als 20 Prozent Launch-Rabatt.
- Lesen ohne Ablenkung – keine Google-Werbebanner.
- Zugang zum Kommentarsystem und Austausch mit der Community.
- Wöchentlicher KI-Newsletter.
- 6× jährlich: „KI Radar“ – Deep-Dives zu den wichtigsten KI-Themen.
- Bis zu 25 % Rabatt auf KI Pro Online-Events.
- Zugang zum kompletten Archiv der letzten zehn Jahre.
- Die neuesten KI‑Infos von The Decoder – klar und auf den Punkt.