Kaliforniens Gouverneur Gavin Newsom hat am Montag eine Verfügung unterzeichnet, die Unternehmen mit staatlichen Aufträgen verpflichtet, Schutzmaßnahmen gegen KI-Missbrauch einzuführen. Konkret müssen Firmen sicherstellen, dass ihre KI-Systeme keine illegalen Inhalte erzeugen, keine schädlichen Vorurteile verstärken und keine Bürgerrechte verletzen. Um Falschinformationen vorzubeugen, müssen staatliche Behörden KI-generierte Bilder oder Videos künftig mit Wasserzeichen kennzeichnen.

Die Verfügung enthält auch eine eigene Regelung zum Umgang mit Bundesvorgaben: Falls die US-Bundesregierung ein Unternehmen als Lieferkettenrisiko einstuft, will Kalifornien eine eigene Prüfung durchführen und den Anbieter gegebenenfalls weiter als Auftragnehmer zulassen. Hintergrund ist unter anderem die Einstufung von Anthropic als Lieferkettenrisiko durch das Pentagon, die es Regierungsauftragnehmern untersagt, Anthropics Technologie für Arbeiten des US-Militärs zu nutzen.

Innerhalb von 120 Tagen sollen Kaliforniens Beschaffungs- und Technologiebehörden Empfehlungen für neue KI-Zertifizierungen erarbeiten. Damit könnten Unternehmen künftig nachweisen, dass sie verantwortungsvolle KI-Regeln und Schutzmaßnahmen für die öffentliche Sicherheit einhalten.

Mit der Verfügung stärkt Newsom Kaliforniens Anspruch auf einen eigenen Kurs in der KI-Regulierung, unabhängig von der Bundesregierung unter US-Präsident Trump, die schon mehrfach versucht hat, solche unabhängigen KI-Regulierungen zu verhindern.