Nationaler Sicherheitsrat beschließt Gründung eines deutschen KI-Sicherheitsinstituts

Der Nationale Sicherheitsrat hat unter Vorsitz des Bundeskanzlers die Gründung eines KI-Sicherheitsinstituts beschlossen.

Das Institut soll die Fähigkeiten und Risiken moderner KI-Modelle analysieren, den Austausch mit ähnlichen Einrichtungen im Ausland stärken und gemeinsame Standards mit internationalen Partnern entwickeln. Anlass ist eine Bewertung der Auswirkungen fortgeschrittener KI-Modelle auf die Cybersicherheit in Deutschland.

Das Vorbild für das "deutsche AI Security Institute (DE-AISI)" ist laut dem IT-Branchenverband Bitkom explizit die britische Variante UK AISI, das international mit ausführlichen Vorabtests zu den Sicherheitsrisiken der Anthropic-Mythos-Reihe und auch von GPT-5.5 auf sich aufmerksam machen konnte. "Ein DE-AISI sollte sich möglichst stark an dem britischen Vorbild des UK AI Security Instituts und seinem einzigartigen Ansatz orientieren," schreibt Bitkom.

Das DE-AISI brauche vor allem technisches Spitzenpersonal mit internationaler Reputation, um KI-Modelle auf Augenhöhe mit Frontier-AI-Anbietern wie Anthropic oder OpenAI testen zu können. Bitkom fordert außertarifliche Gehälter, agile Strukturen, sichere Infrastruktur und politische Unterstützung auf höchster Ebene.

Deutschland und die EU sind abhängig von China und den USA

Auch die EU bemüht sich um Zugang zu sogenannten Frontier-Modellen, um diese auf Cybersicherheit zu testen. Bislang gibt es jedoch keine offizielle Meldung über eine erfolgreiche Kooperation mit Anthropic oder OpenAI. Laut Bloomberg soll die ENISA, die europäische Agentur für Cybersicherheit, Zugriff auf Mythos erhalten. Doch auch nach mehrmaligen Nachfragen über Tage hinweg sah sich die Behörde nicht imstande, zu diesem Bericht eine Stellungnahme abzugeben.

An dieser Stelle zeigt sich die Abhängigkeit der EU-Staaten von US-amerikanischer und chinesischer KI-Technologie, solange die EU nicht selbst über Frontier-Modelle verfügt. Die Modellanbieter sind eng mit den jeweiligen Regierungen verflochten: So soll unter anderem Anthropic der US-Regierung Ingenieure bereitstellen, die dabei helfen, die Modelle einzusetzen – auch für offensive Aktionen. Beide Regierungen haben zudem gezeigt, dass sie bereit sind, KI-Unternehmen stark zu regulieren und an staatliche Interessen zu binden.