Nvidia PAIR: Open-Source-Tool macht das Heimnetzwerk zum KI-Cluster

Nvidias PAIR (Personal AI Router) verteilt lokale KI-Anfragen automatisch auf alle verfügbaren Geräte im Heimnetzwerk und verkürzt so die Wartezeit bei parallelen Agenten-Aufgaben. Das Open-Source-Tool arbeitet als virtueller Router zwischen bestehenden Werkzeugen wie Ollama oder LM Studio und den Rechnern im Netzwerk, ohne dass Nutzer ihre Agenten oder Anwendungen anpassen müssen. Um eine einzelne GPU nicht zu überlasten, leitet PAIR Anfragen an freie Rechner weiter und bündelt die Ergebnisse für die aufrufende Anwendung.

Unterstützt werden GeForce RTX ab der 20er-Serie, RTX-Pro-Workstations, DGX Spark und Silicon-Chips ab Apple M4. In einer Demo erledigte ein Drei-Geräte-Cluster eine Aufgabe mit fünf Subagenten in knapp 9 statt 18 Minuten auf einem einzelnen Laptop. PAIR findet kompatible Geräte im Netzwerk selbstständig und sichert den gesamten Datenverkehr zwischen den Rechnern mit MTLS-Verschlüsselung ab. Die Beta steht für Windows, macOS und Linux bereit. PAIR passt zu Nvidias Bestreben, offene KI stärker an die eigene Hardware zu binden, wie auch die Übernahme von Hugging Face für 12,9 Milliarden Dollar zeigt.