UK und USA entwickeln weltweit erste Richtlinien für KI-Sicherheit
Das britische National Cyber Security Centre hat gemeinsam mit der US-Behörde für Cyber- und Infrastruktursicherheit die erste globale Cybersicherheitsrichtlinie für KI entwickelt.
Die "Guidelines for Secure AI System Development" sollen Entwicklern von KI-Systemen helfen, in jeder Phase des Entwicklungsprozesses fundierte Entscheidungen zur Cybersicherheit zu treffen, so das britische National Cyber Security Centre (NCSC).
Die Richtlinien gelten für Systeme, die von Grund auf neu entwickelt werden, und für solche, die auf Tools und Dienstleistungen Dritter aufbauen. 17 weitere Länder, darunter die USA, haben ihre Unterstützung und Mitwirkung an den neuen Richtlinien zugesagt.
Ziel der Richtlinien ist es, das Cybersicherheitsniveau von KI zu erhöhen und sicherzustellen, dass KI sicher konzipiert, entwickelt und eingesetzt wird. Sie fördern einen "sicherheitsorientierten Designansatz", der sicherstellt, dass Cybersicherheit eine wesentliche Voraussetzung für die Sicherheit von KI-Systemen ist und von Anfang an und während des gesamten Entwicklungsprozesses integriert wird.
Sicherheit in allen Phasen der KI-Entwicklung
Die Richtlinien sind in vier Hauptbereiche unterteilt: sicheres Design, sichere Entwicklung, sichere Implementierung und sicherer Betrieb und Wartung. Sie enthalten empfohlene Verhaltensweisen zur Verbesserung der Sicherheit.
Sicheres Design und sichere Entwicklung behandeln Themen wie Risikoverständnis, Bedrohungsmodellierung, Lieferkettensicherheit und Dokumentation. Sichere Implementierung betont die Notwendigkeit des Schutzes von Infrastruktur und Modellen, des Incident Managements und der verantwortlichen Freigabe. Sicherer Betrieb und Wartung bietet Anleitungen zu Protokollierung und Überwachung, Update-Management und Informationsaustausch.
Die Guidelines können auf der Webseite der NCSC eingesehen werden.
Britische Cyber-Richtlinien finden internationale Unterstützung
NCSC-Geschäftsführer Lindy Cameron bezeichnete die Richtlinien als "einen wichtigen Schritt zur Entwicklung eines wirklich globalen, gemeinsamen Verständnisses von Cyber-Risiken und Mitigationsstrategien rund um KI." Sicherheit müsse eine grundlegende Anforderung an die Systeme sein.
Die Richtlinien wurden vom NSC gemeinsam mit der US-amerikanischen Cybersecurity and Infrastructure Security Agency (CISA) entwickelt. An der Ausarbeitung waren auch Experten aus der Industrie sowie 21 weitere internationale Agenturen und Ministerien aus aller Welt beteiligt, darunter alle Mitglieder der G7 und des Globalen Südens.
Zu den internationalen Unterzeichnern gehören Australien, Chile, Deutschland, Estland, Frankreich, Großbritannien, Israel, Italien, Japan, Kanada, Neuseeland, Nigeria, Norwegen, Polen, Singapur, Südkorea, die Tschechische Republik und die Vereinigten Staaten von Amerika.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den „KI Radar“‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
Jetzt abonnierenKI-News ohne Hype
Von Menschen kuratiert.
- Mehr als 20 Prozent Launch-Rabatt.
- Lesen ohne Ablenkung – keine Google-Werbebanner.
- Zugang zum Kommentarsystem und Austausch mit der Community.
- Wöchentlicher KI-Newsletter.
- 6× jährlich: „KI Radar“ – Deep-Dives zu den wichtigsten KI-Themen.
- Bis zu 25 % Rabatt auf KI Pro Online-Events.
- Zugang zum kompletten Archiv der letzten zehn Jahre.
- Die neuesten KI‑Infos von The Decoder – klar und auf den Punkt.