US-Behörde prüft KI-Modelle auf Sicherheitsrisiken, noch bevor sie veröffentlicht werden

Das Center for AI Standards and Innovation (CAISI), eine Einrichtung des US-Handelsministeriums, hat neue Vereinbarungen mit Google Deepmind, Microsoft und xAI geschlossen. Ziel ist die Prüfung fortschrittlicher KI-Modelle auf Sicherheitsrisiken für die nationale Sicherheit, noch bevor diese öffentlich verfügbar sind.

Laut CAISI-Direktor Chris Fall seien unabhängige, strenge Messverfahren nötig, um die Fähigkeiten von KI-Systemen zu verstehen. Bisher hat CAISI mehr als 40 solcher Prüfungen durchgeführt, teils an noch unveröffentlichten Modellen. Die Entwickler stellen dafür auch Modelle mit reduzierten Schutzmaßnahmen bereit.

Die Vereinbarungen bauen auf früheren Abkommen mit Anthropic und OpenAI auf und erlauben Tests in geheimen Umgebungen. Bereits bei den ursprünglichen Vereinbarungen ging es darum, Sicherheitsfähigkeiten und -risiken gemeinsam zu bewerten und Methoden zur Eindämmung dieser Risiken zu erforschen.

Die Ausweitung auf weitere Unternehmen erfolgt insbesondere vor dem Hintergrund zunehmender Fähigkeiten im Bereich der Cybersecurity, also dass KI-Modelle schnell Sicherheitslücken finden und ausnutzen können, und eines sich zuspitzenden Tech-Wettrennens mit China.