Amazon baut aus Anthropics großen KI-Modellen kleinere Versionen – aus Angst vor steigenden Kosten

Aus Sorge vor steigenden Kosten destillieren einige Amazon-Ingenieure bereits vorsorglich Anthropic-Modelle, um daraus kleinere, günstigere Modelle für den internen Gebrauch zu bauen. Das berichtet The Information. Bei der Destillation lernt ein kleineres Modell aus den Antworten eines größeren. Amazon hat laut einer informierten Quelle bestimmte Rechte, Anthropic-Modelle dafür zu nutzen, ähnlich wie Apple bei Google Gemini. Amazon bietet zwar einen Destillations-Service auf seiner Cloud-Plattform Bedrock an. Dort sind Anthropics Claude-Modelle allerdings derzeit nicht verfügbar. Unterstützt werden nur Amazons eigene Nova-Modelle und Metas Llama-Modelle.

Hintergrund der angeblichen internen Destillation ist eine Neuverhandlung der Partnerschaft. Ab nächstem Jahr zahlt Amazon für Anthropics Modelle nicht mehr nach Rechenstunden, sondern nach verarbeiteten Tokens. Das könnte die Kosten deutlich erhöhen. Ein Amazon-Sprecher widersprach. Es sei falsch, dass die Änderungen aus der erweiterten Zusammenarbeit die Kosten erhöhen würden. Anthropic verweist auf gesunkene Preise in Relation zur gebotenen Leistung.