pxpipe: Token-Kosten für Claude Code durch Bild-Rendering senken

pxpipe funktioniert als lokaler Proxy, der System-Prompts, Tool-Dokumentation und ältere Chat-Verläufe als Bilder rendert, während aktuelle Nachrichten und Modell-Ausgaben unverändert bleiben. Das Bild unten zeigt, wie das Modell den gerenderten Text sieht. Rund 48.000 Zeichen System-Prompt und Tool-Dokumentation werden auf eine einzige dicht beschriebene PNG-Seite komprimiert, die als Text etwa 25.000 Tokens kosten würde, als Bild aber nur rund 2.700.

Laut dem Entwickler Steven Chong ergibt das eine Gesamtkostenersparnis von durchschnittlich 59 bis 70 Prozent. In einem Fable-5-Beispiel aus der Demo sanken die Sitzungskosten von 42,21 Dollar auf 6,06 Dollar. Die KI-Modellhersteller könnten mit höheren Bildverarbeitungspreisen entgegenwirken, sollte sich diese etwas exotische Sparmaßnahme etablieren.

Ungenauer und langsamer

Das Verfahren hat Nachteile. Es ist verlustbehaftet, exakte Zeichenketten wie Hashes können beim Lesen aus Bildern fehlerhaft wiedergegeben werden. Zudem ist die Verarbeitung langsamer, da das Modell die gerenderten Bilder erst per Vision-Encoder interpretieren muss, statt Text direkt zu lesen.

Standardmäßig unterstützt pxpipe Claude Fable 5 und GPT 5.6. Benchmarks und Evaluierungen sind im Repository dokumentiert. Laut dem Entwickler lesen Opus 4.7 und 4.8 etwa 7 Prozent der gerenderten Bilder falsch, GPT 5.5 zeigt ebenfalls schlechtere Ergebnisse bei Bild-Kontext. Beide Modelle sind deshalb nicht standardmäßig aktiviert, sondern nur optional zuschaltbar. Fable 5 erreicht dagegen in den Benchmarks 100 Prozent Genauigkeit bei Rechenaufgaben mit neuen Zufallszahlen, die das Modell nicht auswendig kennen kann.

Die Idee, Texte in komprimierter Bildform an KI-Modelle zu übergeben, ist nicht neu. Deepseek hat mit OCR ein System entwickelt, das Textdokumente als Bilder verarbeitet und laut dem technischen Paper um das bis zu Zehnfache komprimieren kann, bei 97 Prozent Informationserhalt.