Das US-Handelsministerium rät in einem Bericht davon ab, die Veröffentlichung von KI-Modellgewichten einzuschränken. Stattdessen will die Regierung die Risiken und Chancen von Open-Source-KI kontinuierlich bewerten und bei Bedarf eingreifen.
Die US-Regierung sollte die Veröffentlichung von Open-Source-KI-Modellen vorerst nicht regulieren oder einschränken. Das empfiehlt die US-Behörde für Telekommunikation und Informationstechnologie (NTIA) in einem Bericht über "Dual-Use Foundation Models".
Nach einer Definition in einem Präsidialerlass aus dem Jahr 2023 handelt es sich dabei um KI-Modelle mit mindestens zehn Milliarden Parametern, die für ein breites Anwendungsspektrum trainiert wurden und ein ernsthaftes Risiko für die öffentliche Sicherheit und Gesundheit darstellen könnten, etwa indem sie die Verbreitung von Massenvernichtungswaffen erleichtern.
Dem NTIA-Bericht zufolge gibt es derzeit keine ausreichenden Beweise dafür, dass Beschränkungen für Open-Source-Modelle gerechtfertigt wären. Ein Verbot der Veröffentlichung aller oder eines Teils der "Dual-Use Foundation Models" würde zum jetzigen Zeitpunkt das Sammeln wichtiger Beweise einschränken und gleichzeitig Forscher, Regulierungsbehörden, die Zivilgesellschaft und die Industrie daran hindern, mehr über die Technologie zu erfahren, so der Bericht.
Stattdessen empfiehlt die Behörde, dass die Regierung die Risiken und Chancen von Open-Source-KI-Modellen überwacht und Kapazitäten aufbaut, um bei Bedarf schnell reagieren zu können. Das Kosten-Nutzen-Verhältnis könnte sich im Laufe der Zeit ändern.
Open-Weight-Modelle ermöglichen Innovation und Zugang
Insbesondere geht es um "Open-Weight"-Modelle, die von Entwicklern flexibel angepasst werden können, einschließlich der Entwicklung von KI-Tools für kleine Unternehmen, Forscher, gemeinnützige Organisationen und Einzelpersonen. Die Empfehlungen des NTIA-Berichts zielen darauf ab, die Innovation und den Zugang zu dieser Technologie zu fördern.
Um jedoch neu auftretende Risiken zu überwachen, fordert der Bericht die US-Regierung auf, ein fortlaufendes Programm zu entwickeln, um Beweise für Risiken und Nutzen zu sammeln, diese Beweise zu bewerten und auf dieser Grundlage zu handeln. Das könnte mögliche Einschränkungen der Verfügbarkeit von Modellgewichten einschließen, falls dies in Zukunft gerechtfertigt sein sollte.
Der Bericht soll die US-Regierung in die Lage versetzen, schnell auf Risiken zu reagieren, die sich aus zukünftigen Modellen ergeben könnten. Es sei nicht auszuschließen, dass Beschränkungen für Open-Source-Modelle künftig sinnvoll sein könnten, so die NTIA.
