StarCoder2: Neues Code-Modell als Open Source verfügbar

Max ist leitender Redakteur bei THE DECODER. Als studierter Philosoph beschäftigt er sich mit dem Bewusstsein, KI und der Frage, ob Maschinen wirklich denken können oder nur so tun als ob.

Profil

E-Mail

ServiceNow, Hugging Face und Nvidia haben StarCoder2 veröffentlicht, eine Familie von Open-Access-LLMs zur Codegenerierung. StarCoder2 wurde in Zusammenarbeit mit der BigCode Community als Nachfolger zu dem im Mai 2023 erschienen Starcoder entwickelt und auf 619 Programmiersprachen trainiert. StarCoder2 bietet drei Modellgrößen: ein 3-Milliarden-Parameter-Modell von ServiceNow, ein 7-Milliarden-Parameter-Modell von Hugging Face und ein 15-Milliarden-Parameter-Modell von Nvidia. StarCoder2 wurde mit dem neuen Code-Datensatz Stackv2 trainiert, der ebenfalls verfügbar ist. Neue Trainingsmethoden sollen dem Modell helfen, besser ressourcenarme Programmiersprachen, Mathematik und Diskussionen über Programmquellcode zu verstehen. Das Modell kann von Unternehmen für ihre eigenen Aufgaben verfeinert werden.

Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:

Banküberweisung

Quellen

GitHub Bigcode

Maximilian Schreiner

Max ist leitender Redakteur bei THE DECODER. Als studierter Philosoph beschäftigt er sich mit dem Bewusstsein, KI und der Frage, ob Maschinen wirklich denken können oder nur so tun als ob.

Profil

E-Mail