An der Spitze des KI-Abteilung des Pentagon sitzt wieder ein Soldat - und spricht über die Zukunft der Behörde und die Gegenwart Künstlicher Intelligenz.
Lieutenant General Michael S. Groen vom United States Marine Corps übernimmt die Aufgabe des Direktors des Joint Artificial Intelligence Centers (JAIC) von Zivilist Nan Mulchandani, der die Geschäfte übergangsweise führte, nachdem der erste Direktor des 2018 gegründeten JAICs, Lieutenant General Jack Shanahan, die Position abgab.
Bei einer Pressekonferenz sprach Groen über seine Pläne für das JAIC, eine übergreifende KI-Plattform und warum KI-Ethik eine ähnliche Rolle wie das Kriegsrecht einnehmen sollte.
Kognitive Assistenz statt Killerroboter
Das JAIC soll die traditionellen Strukturen des US-Militärs durchbrechen und moderne KI-Technologie in die Streitkräfte bringen. Startup-Flair statt Behördentempo war die Botschaft, die Silicon-Valley-Veteran Mulchandani in einem Pressebriefing anlässlich der Gründung des JAIC vermittelte.
Anfangs fokussierte sich das JAIC auf KI-Anwendungen in der Logistik und Wartung, dann kam der Wechsel auf „kognitive Assistenz“ in der gemeinsamen Kriegsführung: KI soll Daten sammeln, zusammenführen, auswerten und auf allen Ebenen zu besseren Entscheidungen helfen. Denn – so der Konsens der KI-Strategen des JAIC – in künftigen Konflikten wird derjenige gewinnen, der einen Informationsvorsprung hat.
Groen teilt diese Ansicht und zieht Parallelen zum Anfang des 20. Jahrhunderts: „Ich nutze oft die Analogie der Transformation des Krieges im Industriezeitalter, in dem buchstäblich Lanzenreiter in den Kampf gegen Maschinengewehre ritten.“
Zu dieser Zeit habe sich eine Transformation, die Jahrzehnte voranschritt, plötzlich zu etwas sehr Tödlichem gewandelt – für diese Erkenntnis hätten viele einen hohen Preis gezahlt.
„Artefakte der neuen technologischen Umgebung waren für alle Teilnehmer in ihrer jeweiligen Gesellschaft deutlich sichtbar. Die Transformation war unmittelbar absehbar, aber wurde in vielen Fällen nicht vorhergesehen.“
Heute befänden wir uns in einer vergleichbaren Situation, so Groen. Wir seien umgeben von den Artefakten des Informationszeitalters. Es sei jetzt an der Zeit, die Auswirkungen dieser weltweit verfügbaren Technologien auf die Zukunft der Kriegsführung zu verstehen. „Wir müssen jetzt hart arbeiten, um vorauszusehen, was vorhersehbar ist“, fordert der General.
Das müsse jetzt sofort passieren: „Ich höre oft, dass die KI unsere Zukunft ist und dem widerspreche ich nicht – aber KI muss auch unsere Gegenwart sein.”
Schneller Wandel, langsame Behörden?
Mit digitalen Medien groß gewordene Menschen im Militär und in der Zivilgesellschaft seien reaktionsfähige und maßgeschneiderte Informationsumgebungen gewohnt, wenn sie zu Hause am Smartphone säßen. „Sie wollen die gleiche Erfahrung für ihre Militär- und Abteilungssysteme.“
Es sei jedoch eine große Herausforderung, die Rolle Künstlicher Intelligenz Laien zu erklären, deutet Groen an. Man arbeite daher im JAIC daran, Führungskräften auf allen Ebenen zu vermitteln, dass KI wesentliche Vorteile in der Kriegsführung liefern kann.
„Künstliche Intelligenz ist keine IT. Sie ist keine Blackbox, die ein Auftraggeber liefert und kein digitales Gerät, bei dem ihnen ein IT-Mitarbeiter zeigt, wie sie sich einloggen können.“
KI liefere relevante Daten und beschleunige so Entscheidungsprozesse: „Wie treffen sie eine Entscheidung im Krieg? Welche Daten beeinflussen ihre Entscheidung? Haben sie diese Daten? Wenn Führungskräfte denken: ‘Ich könnte eine bessere Entscheidung treffen, wenn ich X wüsste‘ – das JAIC will allen Führungsebenen helfen, an dieses X zu kommen.“
Das JAIC in 2020 – JAIC 2.0, wie Groen es nennt – versuche daher jetzt stärker die Einführung von KI in allen Abteilungen des US-Militär voranzutreiben. Die Entwicklung eigener KI-Lösungen tritt weiter zurück, stattdessen fokussiere sich das JAIC auf die Entwicklung von gemeinsamen Hardware-Architekturen, KI-Standards, Datenaustauschstrategien, Ausbildungsstandards und Verfahrensnormen für die Integration von KI-Technologien. Man arbeite außerdem abteilungsübergreifend an KI-Ethik, KI-Politik und KI-Governance.
Im Zentrum dieser Bemühungen steht die Joint Common Foundation (JCF), eine Cloud-basierte KI-Plattform des JAIC. Die JCF-Plattform soll ab 2021 in einer frühen Version nutzbar sein, monatlich neue Fähigkeiten und Werkzeuge erhalten und allen Abteilungen des US-Militärs zur Verfügung stehen.
Welches Kriegsrecht gilt für KI?
Auf die Frage, weshalb er KI-Ethik für wichtig halte, beschreibt Groen einen aus seiner Sicht grundlegenden Denkfehler: Wir verhalten uns ethisch, also werden wir KI auch ethisch einsetzen.
Groen vergleicht die Rolle von KI-Ethik mit der des Kriegsrechts: Alle Prinzipien des Kriegsrechts hätten Auswirkungen auf Entscheidungsfindungen im Militär. So gebe es etwa eine ganze Reihe von Überprüfungen und Abwägungen bei der Zielerfassung, die durch das Kriegsrecht vorgegeben sind.
Einen ähnlichen Ansatz verfolge das JAIC für ethische Abwägungen im KI-Kontext. Dort sollen Prinzipien helfen, die Entwicklung und den Einsatz von KI verantwortungsvoll umzusetzen: Ergebnisse müssten nachvollziehbar sein und KI-Systeme durch rigorose Tests auf Zuverlässigkeit getestet und nur für ihre vorgesehene Aufgabe genutzt werden. Sie sollen außerdem jederzeit Auskunft über die Qualität und Sicherheit der eigenen Antworten geben können und deaktivierbar sein.
Dass er große Pläne beschreibt, räumt Groen ein: Die USA und verbündete Nationen seien “Wegbereiter für die Schaffung eines ethischen Fundaments”. Groens Problem: Es gebe nicht viele Ethiker, die Künstliche Intelligenz wirklich verstünden und es so vermitteln könnten, dass sie „den Designern helfen, Systeme zu entwerfen, den Testern helfen, Systeme zu testen, und den Entwicklern helfen, sie zu implementieren.“
Das JAIC veranstaltete im September das erste Treffen der internationalen KI-Partnerschaft für Verteidigung. Fokus der Veranstaltung waren Debatten über Definitionen ethischer Prinzipien bei Künstlicher Intelligenz und ihre Implementierung in eine Delivery-Pipeline. Zu den insgesamt 13 Teilnehmerstaaten gehörten unter anderem Frankreich, Norwegen, Schweden und Großbritannien. Deutsche Vertreter waren nicht dabei.
Via: DoD
