Die KI-Organisation LAION hat einen offenen Brief an das Europäische Parlament geschickt, in dem sie empfiehlt, dass die Regulierungsbemühungen im KI-Sektor die Verwendung von Open-Source-KI-Modellen fördern sollten. Die Datensätze von LAION werden für das Training zahlreicher KI-Modelle verwendet.
Open-Source-KI-Modelle böten aufgrund ihrer Transparenz mehr Sicherheit, Erklärbarkeit, Reproduzierbarkeit und Robustheit als Closed-Source-Modelle, heißt es in dem Brief, der vom European Laboratory for Learning and Intelligent Systems und mehreren anderen führenden KI-Entwicklern und -Forschern unterstützt wird.
Der Brief schlägt vor, dass die Verwendung von Open-Source-Modellen die Innovation insbesondere in kleinen und mittleren Unternehmen fördern, redundante Trainingsläufe minimieren und damit umweltfreundlicher machen und globale Herausforderungen in Bereichen wie Gesundheit und Klimawandel angehen kann.
Die Vorteile von Open-Source-KI-Modellen
Die Transparenz von Open-Source-KI erleichtere zudem eine umfassende Überprüfung durch die Community und trage dazu bei, Sicherheitsschwachstellen früher zu erkennen und zu beheben, als dies bei geschlossenen Systemen möglich sei. Als positives Beispiel nennt LAION das offene Betriebssystem Linux.
Reproduzierbare und transparente Open-Source-Modelle ermöglichten eine unabhängige Validierung von KI-Ergebnissen und gewährleisteten Vertrauen und wissenschaftliche Integrität.
Eine Konzentration der Regulierungsbemühungen auf die KI-Anwendungen statt auf die Basistechnologien könne die Vorteile von Open-Source-Modellen erhalten, ohne die Innovation zu bremsen, so die grundlegende These des Briefes.
Hintergrund dieser Forderung dürfte sein, dass es für kleinere Unternehmen oder Open-Source-Bewegungen schwierig sein dürfte, komplexe regulatorische Anforderungen zu erfüllen, wenn sie neue KI-Technologien ohne unmittelbare kommerzielle Absichten entwickeln wollen.
Die Autoren empfehlen zudem, Anreize für kommerzielle Unternehmen zu schaffen, ihre Basismodelle als Open Source zu veröffentlichen, während sie die Urheberrechte an fein-abgestimmten Versionen für branchenspezifische Anwendungen behalten. Diese Strategie würde einen breiteren Zugang zu den Basismodellen ermöglichen, ohne die kommerzielle Wettbewerbsfähigkeit zu beeinträchtigen.
Meta scheint derzeit mit seinen Llama-Modellen diese Strategie zu verfolgen, aber andere KI-Technologieunternehmen wie Google, OpenAI und Microsoft verfolgen strikt das Closed-Source-Prinzip.
OpenLM soll effizienteres Open Source KI-Training fördern
Mit OpenLM stellt LAION zudem eine neue PyTorch-Codebasis für das effiziente Training mittelgroßer Sprachmodelle vor. OpenLM soll die GPU-Leistung ausreizen und die Trainingsgeschwindigkeit erhöhen und zudem für neue Forschungs- und Entwicklungsprojekte leicht anpassbar sein.
Für Tests hat LAION die Sprachmodelle OpenLM-1B und OpenLM-7B mit einer großen Menge an Text-Token (1,6 Billionen bzw. 1,25 Billionen) trainiert. Ein Token ist eine einzelne Dateneinheit, die zusammengesetzt eine größere Dateneinheit ergibt, ähnlich wie Sätze, die aus Wörtern, Buchstaben und Satzzeichen bestehen.
Bei Aufgaben wie Zero-Shot-Textklassifikation und Multiple-Choice sollen die OpenLM-Modelle Open-Source-Alternativen wie OPT-1.3B und Pythia-1B übertreffen und eine Leistung auf Augenhöhe mit LLAMA-7B und MPT-7B erzielen. Die Sprachmodelle und die Trainingsdatensätze stellt Laion bei Huggingface zur Verfügung.
LAIONs Petition für einen internationalen Open-Source-KI-Supercomputer
Zusätzlich zum offenen Brief hat LAION bereits im April eine Petition für die Einrichtung eines öffentlich finanzierten Supercomputers zur Unterstützung der internationalen Open-Source-KI-Forschung und -Entwicklung gestartet. Die Petition sammelte 3.627 Unterschriften.
Der Vorschlag zielt darauf ab, die technologische Unabhängigkeit von den großen Technologiekonzernen zu sichern. Der vorgeschlagene Supercomputer soll die Entwicklung grundlegender Open-Source-KI-Modelle unterstützen und die notwendige Infrastruktur für eine transparente Zukunft der KI bereitstellen.
Laion wurde kürzlich mit dem "The Falling Walls Science Breakthrough of the Year Award" in der Kategorie "Science and Innovation Management" für seinen Beitrag zur Demokratisierung der KI-Forschung durch die Bereitstellung von KI-Modellen, -Werkzeugen und -Datensätzen sowie für sein Engagement in der internationalen Vernetzung für transparente KI ausgezeichnet.
