Mark Zuckerbergs Meta steht für die eigenwillige Interpretation des Begriffs "Open Source" in der Kritik der Open-Source-Community: Das Unternehmen versuche, "Open-Source"-KI nach eigenen Vorstellungen zu definieren und dabei möglicherweise regulatorische Schlupflöcher auszunutzen.
Meta-CEO Mark Zuckerberg sieht sich dem Vorwurf des "Open Washings" bei den KI-Modellen des Unternehmens ausgesetzt. Die Open Source Initiative (OSI) hat kürzlich Entwürfe für Open-Source-KI-Standards vorgelegt, welche Metas populäre Llama-Modelle laut Branchenexperten nicht erfüllen. Die OSI-Definition verlangt, dass Entwickler ausreichende Informationen über Trainingsdaten, Quellcode und interne Modellgewichtungen zur Verfügung stellen, um eine Replikation zu ermöglichen.
Meta veröffentlicht zwar die Gewichtungen seiner Llama-Modelle, hält aber Trainingsdaten zurück und erlegt Lizenzbeschränkungen auf, was den OSI-Kriterien nicht genügt. Open Source bedeutet "quelloffen", als für jeden Entwickler zugänglich. Die Llama-Modelle sind offen nachvollziehbar, aber legen buchstäblich ihre Quelle (also ihre Trainingsdaten) nicht offen.
Laut The Economist wirft Stefano Maffulli, Direktor des OSI, Zuckerberg vor, "die Industrie [in Bezug auf die Definition von Open Source] zu drängen, seiner Führung zu folgen". Ali Farhadi, Chef des Allen Institute for AI, das das transparentere OLMo-Modell entwickelt hat, erkennt Llamas Beiträge an, sagt aber: "Wir mögen sie, wir feiern sie, wir schätzen sie. Sie gehen in die richtige Richtung. Aber sie sind einfach nicht Open Source."
Nichts zu verbergen, aber alles zu verbergen
Kritiker argumentieren, dass Metas Ansatz ein Versuch sein könnte, regulatorische Schlupflöcher auszunutzen. Der EU-AI-Act, der dieses Jahr in Kraft getreten ist, bietet attraktive Ausnahmen für Open-Source-Modelle (etwa keine Offenlegung der Trainingsdaten). Allerdings enthält die Gesetzgebung widersprüchliche Definitionen zu Open-Source-KI, wie Kai Zenner, ein politischer Berater im Europäischen Parlament, gegenüber The Economist anmerkt.
Mark Surman, Direktor der Mozilla Foundation, warnt ebenfalls vor der Gefahr des "Open Washing“ ohne eine klare Definition von Open-Source-KI. Er argumentiert, dass eine klare Definition Entwicklern die Sicherheit geben würde, Modelle wie Llama zu nutzen, zu kopieren und zu modifizieren, ohne "der Willkür" von Zuckerbergs Wohlwollen ausgeliefert zu sein.
Meta verteidigt seine Position und wendet sich gegen den Ansatz der OSI. Das Unternehmen argumentiert, dass die Kosten und Komplexität der Entwicklung großer Sprachmodelle (LLMs) ein Spektrum an Offenheit erfordern. Meta behauptet, dass nur wenige Modelle der OSI-Definition entsprechen, von denen keines dem neuesten Stand der Technik entspricht.
Die Debatte über Open-Source-KI-Definitionen gewinnt zusätzlich an Bedeutung, während sich Regulierungen weiterentwickeln. Der kalifornische Gesetzentwurf SB 1047, der auf eine verantwortungsvolle KI-Entwicklung im Silicon Valley abzielt, hat Open-Source-Befürworter dazu veranlasst, eine präzise Definition von Open-Source-KI in Zusammenarbeit mit der OSI zu fordern.
Meta scheint strategisch zu versuchen, die Vorteile der Zusammenarbeit mit der Open-Source-Gemeinschaft zu nutzen, insbesondere den Zugang zu großen Teilen der KI-Entwicklung, und gleichzeitig seinen Schatz an Trainingsdaten für sich zu behalten. Zuckerberg warnte vor einigen Wochen in einem Essay mit Spotify-CEO Daniel Elk vor dem Risiko einer Überregulierung in Europa.
