Mit dem RAISE Act will der Bundesstaat New York große KI-Firmen zu Sicherheitsmaßnahmen verpflichten. Der Gesetzesentwurf wurde bereits vom Senat verabschiedet, ist aber noch nicht unterzeichnet.
Der Bundesstaat New York steht vor der Einführung eines der ersten Gesetze zur Regulierung fortgeschrittener KI-Modelle in den USA. Der sogenannte RAISE Act (Responsible AI Safety and Education), der bereits vom Senat verabschiedet wurde, liegt nun zur Entscheidung bei Gouverneurin Kathy Hochul. Erst mit ihrer Unterschrift würde der Entwurf Gesetzeskraft erhalten.
Das Gesetz verpflichtet große KI-Entwickler wie OpenAI, Google oder Anthropic zu umfassenden Sicherheitsmaßnahmen, um Risiken durch sogenannte „Frontier AI“-Modelle zu minimieren. Diese besonders leistungsfähigen Systeme sollen künftig nur noch dann in New York öffentlich zugänglich gemacht werden dürfen, wenn Sicherheitsprotokolle und Risikobewertungen veröffentlicht werden. Zudem müssen schwerwiegende Vorfälle wie der Diebstahl eines Modells oder gefährliches Verhalten der KI gemeldet werden. Bei Verstößen drohen zivilrechtliche Strafen von bis zu 30 Millionen US-Dollar.
Gezielte Regulierung großer Akteure
Der demokratische Senator Andrew Gounardes, Mitinitiator des Entwurfs, betont, dass das Gesetz ausschließlich auf große Unternehmen mit einem Rechenaufwand von über 100 Millionen US-Dollar beim Modelltraining abzielt. Start-ups oder akademische Institute seien nicht betroffen. Ziel sei es, Sicherheit und Innovation miteinander zu verbinden: „Das Zeitfenster, um Schutzmechanismen einzuführen, schließt sich schnell“, sagte Gounardes gegenüber TechCrunch.
Gemeinsam mit dem Abgeordneten Alex Bores wurde der Entwurf so gestaltet, dass er nicht die Fehler früherer Initiativen wiederholt – insbesondere nicht die des kalifornischen Gesetzes SB 1047, das letztlich scheiterte. Der RAISE Act verzichtet beispielsweise auf eine Pflicht zur Einbindung von Kill-Switches oder auf eine Haftung für nachträglich angepasste Modelle.
Widerstand aus der Tech-Branche
Trotz der Einschränkungen regt sich Widerstand aus dem Silicon Valley. Andreessen-Horowitz-Partner Anjney Midha bezeichnete den Entwurf auf X als „dumm“ und warnt vor einem Wettbewerbsnachteil für die USA. Auch Jack Clark, Mitgründer des KI-Labors Anthropic, zeigte sich besorgt über die potenziellen Auswirkungen auf kleinere Unternehmen. Gounardes wies diese Kritik zurück: Der Entwurf sei bewusst so formuliert worden, dass er nur auf die größten Akteure ziele.
Große Tech-Konzerne wie OpenAI, Google oder Meta haben sich bislang nicht öffentlich zum Entwurf geäußert. Kritiker warnen, dass Unternehmen ihre Modelle in New York möglicherweise nicht mehr anbieten könnten. Bores hält dieses Szenario für wenig plausibel: New York sei der drittgrößte Wirtschaftsraum der USA – ein Rückzug sei ökonomisch kaum sinnvoll.
Bundesweite Blockade droht
Vor wenigen Wochen verabschiedete das US-Repräsentantenhaus ein Gesetzespaket, das ein zehnjähriges Verbot für bundesstaatliche KI-Regulierungen vorsieht. Sollte die sogenannte „One Big, Beautiful“-Bill auch den US-Senat passieren, wären Gesetze wie der RAISE Act in Zukunft unzulässig. Unterstützer des Moratoriums, darunter große Technologiekonzerne und wirtschaftsliberale Thinktanks, argumentieren mit der Notwendigkeit einheitlicher Bundesregeln. Kritiker hingegen warnen vor einem massiven Abbau des Verbraucherschutzes und einer einseitigen Bevorzugung der Industrieinteressen.
