Kaliforniens Gouverneur will KI-Kill-Switch und unabhängige Aufsicht in den Laboren

Kaliforniens Gouverneur Gavin Newsom hat eine Anordnung erlassen, um unabhängige KI-Prüfungen zu beschleunigen und einen Not-Aus-Schalter für besonders leistungsfähige KI-Modelle voranzubringen. Anlass sind laut seinem Büro jüngste Vorfälle wie der Angriff auf Hugging Face. Fachleute sollen binnen zwei Monaten Empfehlungen vorlegen. Dazu zählen unabhängige Prüfer direkt in KI-Laboren und laufende Tests der Notabschaltung. Ähnliche Vorschläge kamen bereits aus der KI-Branche.

Newsom kritisiert Donald Trump scharf, der den Laboren zuvor Angstmacherei vorwarf. Laut Newsom verpflichtet kein Bundesgesetz KI-Firmen zur Meldung gefährlicher Vorfälle. Kalifornien hingegen habe bereits Gesetze zu KI-Sicherheit, Kinderschutz, Deepfakes, Datenschutz und Cybersicherheit. Er fordert den Kongress auf, diesen Rahmen als nationalen Mindeststandard zu übernehmen. Neben den KI-Laboren warnt auch eine Gruppe von 42 Mathematikern vor Risiken fortschrittlicher KI-Systeme, die sich in naher Zukunft schnell weiterentwickeln könnten.