Inhalt
newsletter Newsletter

Die NSA veröffentlicht ein Framework, mit dem KI-Agenten lernen sollen, Netzwerke zu verteidigen.

Anzeige

Mit dem bestärkenden Lernen (Erklärung) trainierte KI-Systeme schlagen Menschen mittlerweile mit Leichtigkeit in komplexen Spielen wie Schach, Go oder Starcraft 2. Vom Erfolg spielender KI bestätigt, versuchen nationale Akteure wie die US Air Force, die Technologie für ihren Vorteil zu nutzen, etwa als Pilot eines Kampfjets oder als Copilot in einem Aufklärungsflugzeug.

Abseits des physischen Schlachtfelds bekriegen sich Nationen auch im Cyberspace: Iranische Atomanlagen, soziale Netzwerke oder ukrainische Stromnetze gehören beispielsweise zu den Zielen. Nun erforscht die amerikanische National Security Agency (NSA) bestärkendes Lernen für die Cyberverteidigung kritischer Infrastrukturen.

FARLAND bringt Cyberkrieg-Baukasten

Der amerikanische Auslandsgeheimdienst stellt in einer neuen Veröffentlichung ein "Framework für fortgeschrittenes Reinforcement Learning für autonome Netzwerk-Verteidigung" (FARLAND) vor. FARLAND soll den Aufbau unterschiedlich komplexer Netzwerkumgebungen ermöglichen, in denen KI-Agenten schrittweise lernen, Netzwerke zu rekonfigurieren als Abwehr gegen Cyberangriffe.

Anzeige
Anzeige

Innerhalb der simulierten Netzwerkumgebungen können verschiedene Akteure hinterlegt werden, darunter normale Prozesse und Aggressoren oder versteckte Aggressoren. FARLAND nutzt die Open-Source-Bibliothek RLLib, die zahlreiche verschiedene Algorithmen des bestärkenden Lernens bietet, mit denen die KI-Verteidiger trainiert werden können. FARLAND bietet außerdem gegnerische Modelle, die gezielt Schwachstellen in den gelernten Abwehrmechanismen ausnutzen.

Ist Angriff die beste Verteidigung?

Laut der Autoren soll FARLAND die Entwicklung übermenschlicher Fähigkeiten in der autonomen Cyberverteidigung ermöglichen, ähnlich wie es Deepmind etwa beim Brettspiel Go mit AlphaGo und AlphaZero gelang.

Ein angestrebter autonomer Netzwerkverteidiger benötige jedoch nicht nur Innovation in Lern- und Entscheidungsalgorithmen, heißt es in der Veröffentlichung. Zusätzlich sei die Integration von Techniken notwendig, die "die Wahrscheinlichkeit von ungültigem Verhalten minimieren". Andernfalls könne ein autonomer Agent Schaden im eigenen Netzwerk anrichten.

Angesichts stetig zunehmender Cyberattacken hätten die USA autonome Agenten aus FARLAND bitter nötig: Es gab Cyberattacken auf Wasseraufbereitungsanlagen, Nuklearanlagen, Wahlsysteme, politische Parteien, Krankenhäuser, eine große Pipeline oder die Fleischindustrie.

US-Präsident Joe Biden und Russlands Präsident Vladimir Putin wollen laut Biden Experten aus beiden Ländern damit beauftragen, bestimmte kritische Infrastrukturen zu identifizieren, die in Zukunft von destruktiven Cyberattacken ausgenommen werden sollen.

Empfehlung

Via: Arxiv

Anzeige
Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!

Weiterlesen über Künstliche Intelligenz:

Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Max ist leitender Redakteur bei THE DECODER. Als studierter Philosoph beschäftigt er sich mit dem Bewusstsein, KI und der Frage, ob Maschinen wirklich denken können oder nur so tun als ob.
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!