Das chinesische Start-up 01.AI, gegründet vom Informatiker und KI-Pionier Kai-Fu Lee, hat in weniger als acht Monaten mit einer Bewertung von mehr als einer Milliarde US-Dollar den Unicorn-Status erreicht.
Das von 01.AI entwickelte KI-Modell "Yi-34B" ist für nicht-kommerzielle und Forschungszwecke uneingeschränkt Open Source. Lee schreibt auf Linkedin, dass China derzeit im LLM-Rennen hinterherhinke, das neue Modell aber "weltweit konkurrenzfähig" sei.
Das Unternehmen veröffentlicht Benchmark-Ergebnisse, bei denen Yi-34B auf oder sogar deutlich über dem Niveau von Metas Llama2-70B und Falcon-180B liegt, die mehr als doppelt oder fünfmal so viele Parameter haben. Das kleinere Modell Yi-6B liegt auf dem Niveau von Llama2-34B.
Entwickler:innen und Forschende können die Modelle kostenlos testen und nutzen. Sie sind bei HuggingFace, ModelScope und Github verfügbar.
Für eine "freie kommerzielle Nutzung" muss über die Webseite ein Antrag gestellt werden. Die Modelle seien "nicht nur für China, sondern für die ganze Welt" gedacht, sagt Lee gegenüber Bloomberg.
Hohe Datenqualität verbessert die LLM-Leistung
Yi-34B wurde laut Webseite von Grund auf neu mit einem "qualitativ hochwertigen" Korpus von drei Billionen Token trainiert. Dass Yi-34B deutlich größere Modelle übertrifft, führt Lee genau auf diese hohe Datenqualität zurück. Durch die geringere Größe sind die Modelle zudem günstiger im Betrieb.
Auch andere Forschungsansätze zeigen, dass die Datenqualität einen entscheidenden Einfluss auf das LLM-Training hat. Lee geht davon aus, dass eine Skalierung auf diesem Niveau bereits im nächsten Jahr "dramatisch bessere" KI-Modelle hervorbringen wird und kündigt weitere Modelle an.
Wenn es nach Lee geht, soll das nächste proprietäre Modell von 01.AI mit OpenAIs GPT-4 mithalten können. Da die USA Nvidia mit einem Exportverbot nach China belegt hat, hat 01.AI laut Lee sein Bankkonto überzogen und massenhaft Chips gekauft, die es auf absehbare Zeit benötigt.
Kai-Fu Lee steigt ins KI-Rennen ein
An der jüngsten Finanzierungsrunde von 01.AI hat sich unter anderem die Cloud-Sparte der Alibaba Group Holding Ltd. beteiligt, die Bewertung des Unternehmens hat in nur acht Monaten die Marke von einer Milliarde US-Dollar überschritten.
Kai-Fu Lee, CEO des Risikokapitalunternehmens Sinovation Ventures, wird auch als CEO von 01.AI fungieren, berichtet Bloomberg. Lee begann im März 2023 mit dem Aufbau des Teams für 01.AI, das erst im Juni den Betrieb aufnahm. Das Start-up beschäftigt mehr als 100 Mitarbeitende, darunter erfahrene Persönlichkeiten aus der Branche, die beispielsweise an Google Bard oder TensorFlow gearbeitet haben.
Lee ist eine bekannte Persönlichkeit in der KI-Branche mit umfangreicher Erfahrung in Informatik und KI-Forschung. Er promovierte in Informatik an der Carnegie Mellon University und hatte zahlreiche Führungspositionen in renommierten Technologieunternehmen wie Apple, Microsoft und Google inne.
