US- und China-Experten fordern gemeinsame Regeln gegen KI-Kontrolle über Atomwaffen

Experten aus den USA und China wollen verhindern, dass KI-Systeme eigenständig über den Einsatz von Atomwaffen entscheiden. Melanie Sisson (Brookings Institution) und Tianjiao Jiang (Fudan-Universität) haben dazu konkrete Vorschläge veröffentlicht,  vor einem geplanten Treffen zwischen Trump und Xi am 24. September.

Die Kernforderungen: Kein KI-System darf eigenständig Atomwaffen einsetzen oder nukleare Kommandosysteme angreifen. Menschen müssten zudem die alleinige Kontrolle über KI-gestützte Cyberangriffe auf strategische Infrastruktur behalten. Beide Länder sollten eine gemeinsame Definition von "menschlicher Kontrolle" vereinbaren. Die Vorschläge bauen auf einer Vereinbarung von Biden und Xi aus November 2024 auf.

Jiang schlägt auch eine Hotline für KI-Vorfälle vor: Wenn etwa eine defensive KI automatisch auf verdächtige Aktivitäten reagiert, könnte die Gegenseite das als Angriff werten. Über die Leitung könnte eine Regierung klären, dass ein Vorfall versehentlich war, bevor er als Angriff behandelt wird.

Neu sind solche Forderungen nicht: Die National Security Commission on Artificial Intelligence (NSCAI) forderte schon 2021, die menschliche Kontrolle über Atomwaffen zu erhalten. Bisher fehlen aber verbindliche Mechanismen. Carla Freeman (Johns Hopkins University) bezweifelt allerdings die Wirksamkeit solcher Hotlines: China habe bei der Spionageballon-Krise 2023 Anrufe der US-Seite nicht beantwortet.