Höherer Token-Verbrauch kann die Effizienz offener Sprachmodelle reduzieren

Sogenannte "Reasoning-Modelle" generieren deutlich mehr Wörter (Token), bevor sie antworten. Offene KI-Modelle benötigen dabei mitunter drei- bis viermal mehr Token als geschlossene Modelle wie Grok-4 oder OpenAI, zeigt eine Analyse von Nous Research. Besonders bei einfachen Wissensfragen produzieren offene Modelle unnötige Gedankenschritte, was trotz niedrigerer Tokenpreise zu höheren Gesamtkosten führen kann.

Anzahl der durchschnittlich verbrauchten Token zur Lösung einer Aufgabe. | Bild: Nous Research

OpenAIs gpt-oss-120b zeige jedoch, dass auch Open-Source-Modelle mit sehr kurzen Denkpfaden effizient arbeiten können, insbesondere bei Mathematikaufgaben. Mistrals Magistral-Modelle hingegen fallen durch hohen Tokenverbrauch auf. Die Token-Effizienz hängt stark vom Aufgabentyp ab.

Community beitreten

Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!

Höherer Token-Verbrauch kann die Effizienz offener Sprachmodelle reduzieren

Matrix-Game 2.0 ist eine Open-Source-Reaktion auf Deepminds Genie 3

GPT-oss: OpenAI veröffentlicht erste Open-Source-Modelle seit GPT-2

Wan2.2 A14B führt bei Open-Source-Videomodellen, bleibt hinter Top-Modellen zurück

Googles KI-Umweltstudie verharmlost Energieverbrauch und schönt CO₂-Werte

Deepseek stellt neues Hybrid-KI-Modell V3.1 vor

Metas KI-Chatbot lädt Senior zu fiktivem Treffen ein – mit tödlichem Ausgang

Höherer Token-Verbrauch kann die Effizienz offener Sprachmodelle reduzieren

Matrix-Game 2.0 ist eine Open-Source-Reaktion auf Deepminds Genie 3

GPT-oss: OpenAI veröffentlicht erste Open-Source-Modelle seit GPT-2

Wan2.2 A14B führt bei Open-Source-Videomodellen, bleibt hinter Top-Modellen zurück