Die NATO stellt ihre KI-Strategie vor. Eine Milliarde US-Dollar soll in die Entwicklung Künstlicher Intelligenz und neuer Technologien fließen. Autonome Waffen schließt die NATO nicht aus.
Am vergangenen Freitag stellte die NATO eine 18-Punkte KI-Strategie vor, die das Militärbündnis aus 30 Ländern zukunftssicher machen soll. Es ist die erste KI-Strategie der NATO. Sie wird vom Start eines Innovationsfonds begleitet, der eine Milliarde US-Dollar in die Technologie investieren soll.
„Wir sehen, wie autoritäre Regime um die Entwicklung neuer Technologien ringen, von künstlicher Intelligenz bis hin zu autonomen Systemen“, sagt NATO-Generalsekretär Jens Stoltenberg auf einer Pressekonferenz im Brüsseler Hauptquartier der Allianz. Die NATO wolle mit dieser Entwicklung mithalten und mit KI Bereiche wie Datenanalyse, Bildmaterial und Cyberverteidigung verbessern.
NATO-Standards für KI-Technologie
Die neue Strategie soll am Donnerstag formell in Brüssel von den Verteidigungsminister:innen der NATO-Mitgliedsstaaten verabschiedet werden. „Wir müssen unseren technologischen Vorsprung bewahren“, sagt Stoltenberg. „Künftige Konflikte werden nicht nur mit Kugeln und Bomben, sondern auch mit Bytes und Big Data ausgetragen.“ Er erwarte, dass der Innovationsfonds in neue und disruptive Technologien investiere.
KI-Systeme sollen ethisch vertretbar eingesetzt werden, militärische Anwendungen für die Technologie aufzeigen und eine Test-Plattform für Verbündete bieten, um zu sehen, ob sie den NATO-Standards entsprechen, sagte David van Weel im März gegenüber Politico. Weel ist stellvertretender NATO-Generalsekretär für Emerging Security Challenges.
NATO-Strategiepapier enthält ethische Leitlinien für den militärischen KI-Einsatz
Die veröffentlichte KI-Strategie enthält sechs Prinzipien für den „verantwortlichen Einsatz von KI in der Verteidigung“:
- Rechtmäßigkeit: KI-Anwendungen werden im Einklang mit dem nationalen und internationalen Recht, einschließlich des humanitären Völkerrechts und der Menschenrechte, entwickelt und eingesetzt.
- Verantwortung und Rechenschaftspflicht: KI-Anwendungen werden mit einem angemessenen Maß an Urteilsvermögen und Sorgfalt entwickelt und eingesetzt; es gilt eine klare menschliche Verantwortung, um die Rechenschaftspflicht sicherzustellen.
- Erklärbarkeit und Nachvollziehbarkeit: KI-Anwendungen werden angemessen verständlich und transparent sein, auch durch den Einsatz von Überprüfungsmethoden, Quellen und Verfahren. Dies schließt Überprüfungs-, Bewertungs- und Validierungsmechanismen auf NATO-Ebene und/oder auf nationaler Ebene ein.
- Verlässlichkeit: KI-Anwendungen werden eindeutige, klar definierte Anwendungsfälle haben. Die Sicherheit und Robustheit dieser Fähigkeiten wird im Rahmen dieser Anwendungsfälle während ihres gesamten Lebenszyklus geprüft und sichergestellt, auch durch etablierte NATO- und/oder nationale Zertifizierungsverfahren.
- Beherrschbarkeit: KI-Anwendungen werden entsprechend ihren beabsichtigten Funktionen entwickelt und eingesetzt. Sie ermöglichen eine angemessene Interaktion zwischen Mensch und Maschine, die Fähigkeit, unbeabsichtigte Folgen zu erkennen und zu vermeiden, und die Fähigkeit, Maßnahmen zu ergreifen, wie z. B. das Abschalten oder Deaktivieren von Systemen, wenn diese Systeme ein unbeabsichtigtes Verhalten zeigen.
- Abschwächung von Bias: Es werden proaktive Schritte unternommen, um unbeabsichtigte Verzerrungen bei der Entwicklung und Nutzung von KI-Anwendungen und in Datensätzen zu minimieren.
Der Einsatz von KI-Technologie soll grundsätzlich im Rahmen des internationalen Rechts erfolgen. Autonome Waffen schließen die NATO-Prinzipien nicht aus: Angesichts des zunehmenden Einsatzes und steigender Effektivität von Drohnen und anderen autonomen Systemen in Kriegen war das zu erwarten.
Das Vorgehen der NATO bei autonomen Waffen deckt sich mit der KI-Strategie des größten Bündnispartners USA. Die „National Security Commission on Artificial Intelligence“ (NSCAI) der US-Regierung empfahl im März 2021 massive Investitionen in die KI-Entwicklung und explizit die Entwicklung autonomer Waffen. Die letzte Entscheidung für einen Tötungsbefehl solle jedoch beim Menschen bleiben.
