US-Militär hätte wegen eines KI-Fehlers beinahe chinesisches Schiff geentert

Das US-Militär hat im Frühjahr 2026 beinahe ein chinesisches Schiff abgefangen – auf Basis eines falschen, KI-generierten Geheimdienstberichts. Ein Analyst des Special Operations Command hatte einen Chatbot genutzt, der fälschlicherweise behauptete, das Schiff transportiere Komponenten eines Atomwaffenprogramms, berichtet CNN exklusiv. Bewaffnete Soldaten bereiteten sich bereits auf eine Enterung vor, Militärflugzeuge waren in der Luft. Erst kurz vor dem Einsatz wurde der Fehler entdeckt.

Der Chatbot hatte offene und geheime Daten zusammengeführt und dabei die Fracht falsch identifiziert – eine sogenannte "Halluzination" aka "KI-Bullshit". Verteidigungsminister Pete Hegseth treibt die KI-Nutzung im Militär mit einer Beschleunigungsstrategie voran, doch es fehlen einheitliche Standards zur Überprüfung KI-generierter Informationen. Die internen Systeme seien hauptsächlich Kopien kommerzieller Produkte "mit Lippenstift", so ein ehemaliger US‑Beamter. Besonders jüngere Analysten neigten dazu, den KI-Tools unkritisch zu vertrauen. "KI erlaubt es, schneller zu einer schlechten Idee zu kommen", sagte eine der Quellen.

Der Vorfall ist Wasser auf die Mühlen jener KI-Risikowarner, die weniger vor übermächtiger KI fürchten als vor unfähigen Systemen in den Händen unkritischer oder boshafter Nutzer.