Der kalifornische Gesetzesentwurf SB 1047 zur Regulierung von KI-Modellen mit hohem Risiko wird nicht in Kraft treten. Gouverneur Gavin Newsom lehnt den Entwurf ab und fordert einen empirischeren Ansatz.
SB 1047 ist ein kalifornischer Gesetzesentwurf zur Regulierung von KI-Modellen mit hohem Risiko für katastrophale Schäden. Das Gesetz hätte insbesondere große KI-Modelle von Unternehmen wie OpenAI, Meta oder Anthropic betroffen. Der Entwurf sah vor, dass Unternehmen Sicherheits- und Schutzprotokolle (SSPs) erstellen, veröffentlichen und extern überprüfen lassen müssen.
In seiner Begründung argumentiert Newsom, dass der Gesetzentwurf zwar die Diskussion über mögliche Bedrohungen durch den Einsatz von KI verstärkt habe, aber nicht der richtige Ansatz sei, um die Öffentlichkeit vor realen Gefahren der Technologie zu schützen.
Entscheidend sei, ob der Schwellenwert für die Regulierung auf den Kosten und der Anzahl der Berechnungen basieren sollte, die für die Entwicklung eines KI-Modells erforderlich sind, oder ob die tatsächlichen Risiken des Systems unabhängig von diesen Faktoren bewertet werden sollten.
Der Entwurf berücksichtige nicht, ob ein KI-System in Hochrisiko-Umgebungen eingesetzt wird, kritische Entscheidungen trifft oder sensible Daten verwendet. Stattdessen würden strenge Standards auch für einfachste Funktionen gelten, solange ein großes System sie einsetzt.
Newsom: SB 1047 vermittelt falsches Gefühl der Sicherheit
SB 1047 schaffe daher einen Rechtsrahmen, der der Öffentlichkeit ein falsches Gefühl der Sicherheit vermitteln könnte, so Newsom. Auch kleinere, spezialisierte Modelle könnten sich als ebenso oder sogar gefährlicher erweisen als die von SB 1047 anvisierten Modelle.
"Ich glaube nicht, dass dies der beste Ansatz ist, um die Öffentlichkeit vor echten Bedrohungen durch die Technologie zu schützen", schreibt Newsom.
Jeder Rahmen für eine effektive Regulierung von KI müsse mit der Technologie selbst Schritt halten. Man dürfe sich nicht mit einer Lösung zufrieden geben, die nicht auf einer empirischen Analyse der KI-Systeme und -Fähigkeiten beruhe, so der Gouverneur. Er plädiert für einen evidenzbasierten Ansatz der KI-Regulierung, der sich an den tatsächlichen Risiken und Anwendungsszenarien orientiert.
Mit seiner Ablehnung stoppt Newsom vorerst den Versuch Kaliforniens, als erster US-Bundesstaat eine umfassende Regulierung für KI-Modelle einzuführen. Die Debatte über den richtigen Umgang mit der rasanten Entwicklung der KI-Technologie dürfte damit aber nicht beendet sein.
Insbesondere OpenAI lobbyierte stark gegen den Entwurf. Die Regulierung von KI sei Sache des Bundes. Der Mitbewerber Anthropic unterstützte den Entwurf trotz gewisser Vorbehalte als wichtigen Schritt zur Risikoprävention.
