Microsoft experimentiert mit KI-generierter Malware. Was soll schon schiefgehen?
Im Feld der Computersicherheit entwickeln Expert:innen technologische Lösungen, die etwa Angriffe auf Computernetze automatisch erkennen. Während die Verteidiger ihre Technologien verbessern, suchen die Angreifer nach neuen Lücken und Methoden, in die Netze möglichst unbemerkt einzudringen. In diesem Schlagabtausch entwickeln sich ständig neue Abwehr- und Angriffsmethoden, die für industrielle oder auch geheimdienstliche Cyberattacken eingesetzt werden.
Längst sind solche Attacken auch zum Alltag in kritischen Infrastrukturen geworden: Atomanlagen, Nahrungsmittelketten, soziale Netzwerke oder Stromnetze sind Ziele im Cyberspace.
Im Kampf gegen Cyberattacken setzen Angreifende und Verteidigende auch auf die Hilfe Künstlicher Intelligenz. Mitte des Jahres stellte etwa die amerikanische National Security Agency (NSA) ein Framework vor, mit dem KI-Agenten lernen sollen, Netzwerke zu verteidigen.
Microsoft experimentiert mit KI-generierter Malware
Forschende von Microsoft und der Universität BITS Pilani haben nun ein KI-System vorgestellt, das Malware generiert. Das System heißt "ADVERSARIALuscator" - kurz für "Adversarial Deep Reinforcement Learning based obfuscator and Metamorphic Malware Swarm Generator". Das KI-System paart ein Angriffserkennungssystem (IDS) mit Malware-Beispielen und nutzt einen KI-Agenten, der neue Malware-Varianten generiert, die das IDS überlisten können.
Der KI-Agent setzt dafür auf bestärkendes Lernen (Erklärung) und dient als Generator in dem von GAN-Systemen inspiriertem Aufbau. Das Angriffserkennungssystem ist der Diskriminator.
Der KI-Agent lernt die Malware-Beispiele so zu modifizieren, dass sie ihre Funktion weiter ausführen, jedoch vom Angriffserkennungssystem als harmlos eingestuft werden. Konkret lernt das KI-System, die Malware auf Opcode-Ebene zu verschleiern.
KI verschleiert Malware in 33 Prozent der Fälle erfolgreich
In Tests konnte ADVERSARIALuscator erfolgreich einen Teil der Malware verschleiern und die Wahrscheinlichkeit für Fehlklassifizierungen so stark erhöhen, dass selbst die besten IDS, die mit den ursprünglichen Malware-Varianten trainiert wurden, versagten. Insgesamt konnten mehr als 33 Prozent der generierten Malware-Varianten selbst das stärkste Angriffserkennungssystem umgehen und in das Zielsystem eindringen.
Das KI-System könne daher verwendet werden, um einen Angriff mit verschleierter Malware zu imitieren. Die gesammelten Daten könnten dann für die Verbesserung von Angriffserkennungssystemen verwendet werden, um diese auf einen tatsächlichen KI-basierten Malware-Angriff vorzubereiten, schreiben die Forscher:innen.
Jüngste Fortschritte beim gleichzeitigen Einsatz von mehreren KI-Agenten im bestärkenden Lernen ("Multi-Agent Reinforcement Learning") könnten allerdings noch leistungsfähigere Malware-KIs ermöglichen und sind daher das nächste Projekt des Teams von Microsoft und BITS Pilani.
