Googles offenes KI-Modell Gemma 4 wird schneller, vollständiger und besser bei Werkzeugaufrufen

Google hat ein Update für sein offenes KI-Modell Gemma 4 veröffentlicht, das unter anderem die Geschwindigkeit auf Nvidia-Hopper-GPUs deutlich erhöht und Probleme bei Antworten und Werkzeugaufrufen behebt. Durch die Aktivierung von Flash Attention 4 soll die Geschwindigkeit, mit der das Modell eingehende Prompts einliest, um 25 bis 70 Prozent steigen, die Wartezeit bis zur ersten Antwort sinkt laut Google um bis zu 31 Prozent. Beim Tool Calling, dem automatischen Aufrufen externer Werkzeuge durch das Modell, wurden Fehler behoben.

Google gibt außerdem an, Fälle deutlich reduziert zu haben, in denen das Modell Antworten abkürzte oder unvollständig ausgab. Für die Bildverarbeitung lässt sich der Parameter "max_soft_tokens" manuell von 280 auf 1120 erhöhen, um schärfere OCR-Ergebnisse und eine Auflösung von bis zu 2,51 Megapixeln zu erzielen. Google stellt dafür einen interaktiven Konfigurator auf Hugging Face bereit. In den veröffentlichten Benchmarks vergleicht Google nur die Varianten 31B und E4B mit ihren Vorgängern, dem Hugging Face Repository zufolge wurden aber alle Parametergrößen dieser Modellgeneration inklusive der neusten 12B-Ausgabe aktualisiert. Die Community kritisiert, dass Google das Update weiterhin unter dem Namen "Gemma 4" ausliefert, statt es als separate Version wie etwa "Gemma 4.1" zu kennzeichnen.