NCSC warnt: KI wird Ransomware-Bedrohung in den nächsten zwei Jahren verstärken

Die Fähigkeit von KI, Daten in kürzester Zeit zu aggregieren, würde es Angreifern auch ermöglichen, wertvolle Objekte zu identifizieren, zu untersuchen und zu extrahieren und so den Wert und die Wirkung von Cyberangriffen zu steigern.

KI könne auch bei der Entwicklung von Malware und Exploits, bei der Suche nach Schwachstellen und bei lateralen Bewegungen helfen, indem sie bestehende Techniken effizienter mache.

Kurzfristig würden diese Bereiche jedoch weiterhin von menschlicher Expertise abhängen, was bedeutet, dass begrenzte Verbesserungen auf bestehende Angreifer beschränkt bleiben, die bereits über die entsprechenden Fähigkeiten verfügen.

Laut des NCSC ist Ransomware nach wie vor die größte Cyberbedrohung für britische Organisationen und Unternehmen. Cyberkriminelle würden ihre Geschäftsmodelle ständig anpassen, um ihre Gewinne zu maximieren. Anspruchsvollere und neue Cyberbedrohungen durch KI erwartet die Behörde ab 2025.

"Der aufkommende Einsatz von KI bei Cyberangriffen ist evolutionär und nicht revolutionär, was bedeutet, dass er bestehende Bedrohungen wie Ransomware verbessert, aber die Risikolandschaft in naher Zukunft nicht verändern wird", sagt NCSC CEO Lindy Cameron.

Die britische Regierung hat im Rahmen ihrer Cybersicherheitsstrategie 2,6 Milliarden Pfund investiert, um die Widerstandsfähigkeit des Landes gegenüber Cyberbedrohungen zu verbessern. Das NCSC und der Privatsektor setzen bereits KI ein, um die Widerstandsfähigkeit der Cybersicherheit durch verbesserte Bedrohungserkennung und Security-by-Design zu erhöhen.

Die Bletchley-Erklärung, die auf dem von Großbritannien veranstalteten KI-Sicherheitsgipfel verabschiedet wurde, kündigt globale Anstrengungen an, um die Risiken der KI zu beherrschen und ihre sichere und verantwortungsvolle Entwicklung zu gewährleisten.

Generatives Social Engineering

Neben der NSCS warnen auch andere Institutionen vor überzeugenderen Phishing-E-Mails, die mit generativer KI erstellt werden.

Eine Studie von IBM hat gezeigt, dass KI-generierte Phishing-E-Mails fast genauso effektiv sein können wie von Menschen erstellte, mit dem großen Vorteil, dass der Erstellungsprozess viel schneller ist. Tatsächlich soll der Einsatz von generativer KI bereits zu einem signifikanten Anstieg von Phishing-Angriffen geführt haben.

Obwohl von Menschen verfasste Phishing-E-Mails immer noch einen leichten Vorteil haben, da sie stärker individualisiert und personalisiert werden können, sind KI-generierte Angriffe den von Menschen verfassten fast ebenbürtig. Eine weitere Studie zeigt, dass eine große Anzahl von Menschen anfällig für KI-generierte Phishing-Betrügereien ist.

KI-gestützte Abwehrsysteme können jedoch helfen, Cyberangriffe effektiv zu erkennen und abzuwehren. OpenAI unterstützt etwa ein Programm zur Entwicklung solcher Systeme und zur Quantifizierung der Leistung von KI-Modellen in der Cybersicherheit.