US-Regierung soll Open-Source-Modelle vorerst nicht regulieren
Kurz & Knapp
- Das US-Handelsministerium empfiehlt in einem Bericht, dass die US-Regierung die Veröffentlichung von Open-Source-KI-Modellen vorerst nicht regulieren oder einschränken sollte, um Innovation und Zugang zu dieser Technologie zu fördern. Stattdessen sollte die Regierung die Risiken und Chancen von
- Open-Source-Modellen kontinuierlich beobachten, Kapazitäten aufbauen, um bei Bedarf schnell reagieren zu können, und gegebenenfalls in Zukunft eingreifen, wenn Beschränkungen gerechtfertigt sein sollten.
- Der Bericht bezieht sich insbesondere auf "Open-Weight"-Modelle mit mindestens zehn Milliarden Parametern, die flexibel angepasst werden können und daher ein ernsthaftes Risiko für die öffentliche Sicherheit und Gesundheit darstellen könnten. Sie bieten aber auch den größten Nutzen für die individuelle Anpassung, z.B. für Unternehmen.
Das US-Handelsministerium rät in einem Bericht davon ab, die Veröffentlichung von KI-Modellgewichten einzuschränken. Stattdessen will die Regierung die Risiken und Chancen von Open-Source-KI kontinuierlich bewerten und bei Bedarf eingreifen.
Die US-Regierung sollte die Veröffentlichung von Open-Source-KI-Modellen vorerst nicht regulieren oder einschränken. Das empfiehlt die US-Behörde für Telekommunikation und Informationstechnologie (NTIA) in einem Bericht über "Dual-Use Foundation Models".
Nach einer Definition in einem Präsidialerlass aus dem Jahr 2023 handelt es sich dabei um KI-Modelle mit mindestens zehn Milliarden Parametern, die für ein breites Anwendungsspektrum trainiert wurden und ein ernsthaftes Risiko für die öffentliche Sicherheit und Gesundheit darstellen könnten, etwa indem sie die Verbreitung von Massenvernichtungswaffen erleichtern.
Dem NTIA-Bericht zufolge gibt es derzeit keine ausreichenden Beweise dafür, dass Beschränkungen für Open-Source-Modelle gerechtfertigt wären. Ein Verbot der Veröffentlichung aller oder eines Teils der "Dual-Use Foundation Models" würde zum jetzigen Zeitpunkt das Sammeln wichtiger Beweise einschränken und gleichzeitig Forscher, Regulierungsbehörden, die Zivilgesellschaft und die Industrie daran hindern, mehr über die Technologie zu erfahren, so der Bericht.
Stattdessen empfiehlt die Behörde, dass die Regierung die Risiken und Chancen von Open-Source-KI-Modellen überwacht und Kapazitäten aufbaut, um bei Bedarf schnell reagieren zu können. Das Kosten-Nutzen-Verhältnis könnte sich im Laufe der Zeit ändern.
Open-Weight-Modelle ermöglichen Innovation und Zugang
Insbesondere geht es um "Open-Weight"-Modelle, die von Entwicklern flexibel angepasst werden können, einschließlich der Entwicklung von KI-Tools für kleine Unternehmen, Forscher, gemeinnützige Organisationen und Einzelpersonen. Die Empfehlungen des NTIA-Berichts zielen darauf ab, die Innovation und den Zugang zu dieser Technologie zu fördern.
Um jedoch neu auftretende Risiken zu überwachen, fordert der Bericht die US-Regierung auf, ein fortlaufendes Programm zu entwickeln, um Beweise für Risiken und Nutzen zu sammeln, diese Beweise zu bewerten und auf dieser Grundlage zu handeln. Das könnte mögliche Einschränkungen der Verfügbarkeit von Modellgewichten einschließen, falls dies in Zukunft gerechtfertigt sein sollte.
Der Bericht soll die US-Regierung in die Lage versetzen, schnell auf Risiken zu reagieren, die sich aus zukünftigen Modellen ergeben könnten. Es sei nicht auszuschließen, dass Beschränkungen für Open-Source-Modelle künftig sinnvoll sein könnten, so die NTIA.
KI-News ohne Hype
Von Menschen kuratiert.
- Mehr als 20 Prozent Launch-Rabatt.
- Lesen ohne Ablenkung – keine Google-Werbebanner.
- Zugang zum Kommentarsystem und Austausch mit der Community.
- Wöchentlicher KI-Newsletter.
- 6× jährlich: „KI Radar“ – Deep-Dives zu den wichtigsten KI-Themen.
- Bis zu 25 % Rabatt auf KI Pro Online-Events.
- Zugang zum kompletten Archiv der letzten zehn Jahre.
- Die neuesten KI‑Infos von The Decoder – klar und auf den Punkt.