Mit Command R+ stellt das KI-Unternehmen Cohere ein neues großes Sprachmodell (Large Language Model, LLM) vor, das auf Retrieval Augmented Generation (RAG) und die Nutzung von Werkzeugen für Unternehmensanwendungen spezialisiert ist. Das Modell ist ab sofort auf Microsoft Azure verfügbar.
Das Modell baut auf den Stärken des kürzlich vorgestellten Command R auf und verbessert die Leistung in allen Bereichen. Command R+ übertrifft laut Cohere ähnliche Modelle in derselben Kategorie und ist wettbewerbsfähig mit deutlich teureren Modellen wie GPT-4.
Command R+ zeichnet sich laut Cohere durch folgende Stärken aus:
- Fortschrittliche Retrieval Augmented Generation (RAG) mit Quellenangaben zur Reduzierung von Fehlinformationen
- Unterstützung von zehn Schlüsselsprachen: Englisch, Französisch, Spanisch, Italienisch, Deutsch, Portugiesisch, Japanisch, Koreanisch, Arabisch und Chinesisch.
- Einsatz von Tools zur Automatisierung komplexer Geschäftsprozesse
Speziell der RAG-Fokus (Datenbank-Chat) soll für Unternehmen interessant sein. Das neue Modell verbessert die Genauigkeit der Antworten und liefert Quellenangaben, die Halluzinationen verringern.
In einem Vergleichstest, bei dem die flüssige Textwiedergabe, die Qualität der Zitate und der Gesamtnutzen bewertet wurden, schnitt Command R+ besser ab als Konkurrenzmodelle wie GPT-4. Auch bei Frage-Antwort-Tests mit Wikipedia- und Internetdaten erzielte Command R+ eine höhere Genauigkeit.
Die Input- und Output-Kosten für eine Million Token betragen $3 bzw. $15 und liegen damit auf dem gleichen Preisniveau wie Claude 3 Sonnet. Das neueste GPT-4-Turbo-Modell mit 128K kostet $10 für eine Million Input-Token und $30 für eine Million Output-Token, Claude 3 Opus kostet $15 bzw. $75.
Sprachmodell mit Werkzeugzugriff
Command R+ verfügt über Funktionen zur Nutzung von Tools, die über die APIs von Cohere und LangChain zugänglich sind. Laut Cohere kann das Modell damit Aufgaben wie die automatische Aktualisierung von CRM-Datensätzen übernehmen.
Neu in Command R+ ist die Unterstützung von Multi-Step Tool Use, bei der das Modell mehrere Tools in mehreren Schritten kombinieren kann, um komplexe Aufgaben zu lösen. Command R+ soll sogar in der Lage sein, sich selbst zu korrigieren, wenn es versucht, ein Werkzeug zu verwenden und dabei einen Fehler macht oder das Werkzeug ausfällt.
In Tool-Tests wie ToolTalk (Hard) von Microsoft und dem Function Calling Leaderboard von Berkeley erzielt das Modell Ergebnisse auf dem Niveau von Claude 3 Sonnet und GPT-4-turbo.
Command R+ ist einschließlich der Gewichte frei verfügbar, die Lizenz gilt jedoch nur für Forschungszwecke. Wer das Modell kommerziell und lokal oder nicht in einer der angebotenen Clouds nutzen möchte, sollte sich für eine Lizenzvereinbarung direkt mit Cohere in Verbindung setzen. Eine Demo-Version ist hier verfügbar.
Außerdem kündigt Cohere eine Zusammenarbeit mit Microsoft Azure an: Entwickler und Unternehmen können ab sofort über Azure auf die neuesten Modelle von Cohere zugreifen. In den kommenden Wochen wird Cohere auch auf Oracle Cloud Infrastructure (OCI) und anderen Cloud-Plattformen verfügbar sein.
