MOSS ist zwar noch lange nicht auf dem Niveau von ChatGPT, aber dorthin wollen die chinesischen Forscherinnen und Forscher mit MOSS eines Tages gelangen. Die Veröffentlichung als Open Source soll dabei helfen.
Im Bereich der KI-Chatbots ist ChatGPT derzeit das Maß der Dinge, gleichwohl schon die Grundversion von OpenAI alles andere als perfekt ist und dessen Integration in Microsofts Suchmaschine Bing zwar für Begeisterung, aber auch für Irritationen sorgt.
Der chinesische KI-Chatbot MOSS vergleicht sich mit seinem amerikanischen Vorbild. Wie ChatGPT sei MOSS in der Lage, Fragen zu beantworten, Code oder Text zu generieren oder zusammenzufassen. Außerdem würde MOSS falsche Behauptungen erkennen und unangemessene Anfragen ablehnen.
Im Gegensatz zu ChatGPT, dessen Code streng gehütet wird, wollen die chinesischen Wissenschaftler:innen der Fudan-Universität in Shanghai MOSS ab Ende März quelloffen weiterentwickeln.
Dieser Schritt könne die Schwelle für die Entwicklung und Anwendung vortrainierter Sprachmodelle effektiv senken, sagt Chefentwickler Qiu Xipeng laut der parteinahen Tageszeitung China Daily. "Wir wollen MOSS, Code und Entwicklungserfahrungen mit allen teilen und hoffen, dass China bei großen Sprachmodellen weltweit eine Vorreiterrolle einnehmen kann."
MOSS: Hohe Nachfrage nach Chinas ChatGPT legt Service lahm
Um das Sprachmodell durch menschliches Feedback zu verbessern, haben die Forschenden am 20. Februar den Zugang zu MOSS frei geschaltet. Wie bei ChatGPT war die technische Infrastruktur der Nachfrage nicht gewachsen. MOSS ist daher derzeit nicht verfügbar.
Chinesischer Chatbot spricht besser Englisch als Chinesisch
Screenshots auf der offiziellen Website geben einen Eindruck von der Leistungsfähigkeit. Aufgrund der verwendeten Trainingsdaten ("deutlich weniger Parameter als ChatGPT") beherrscht MOSS neben Englisch noch keine weiteren Sprachen. Als nächstes stünde die Verbesserung des Chatbots auf Chinesisch auf der To-Do-Liste der Forschenden.
Obwohl MOSS einige Fähigkeiten von ChatGPT übernommen hat, wissen wir, dass viele Einschränkungen bestehen bleiben und MOSS aufgrund des Mangels an qualitativ hochwertigen Daten, Rechenressourcen und der Modellkapazität noch weit hinter ChatGPT zurückliegt.
Tianxiang Sun & Xipeng Qiu
Wird MOSS das Stable Diffusion der Sprachmodelle?
Schon im Bereich der Bildmodelle hat Stable Diffusion gezeigt, wie die Open-Source-Veröffentlichung die Entwicklung vorantreiben kann - Midjourney und DALL-E 2 lassen sich schließlich nicht mit eigenen Daten trainieren und für individuelle Anwendungsfälle anpassen.
Die beiden kommerziellen Alternativen liefern dafür ab Werk bessere Ergebnisse. Eine ähnliche Entwicklung ist auch bei MOSS wahrscheinlich, sofern der Code tatsächlich quelloffen wird.