Nvidia Project Digits mit neuem GB10-Superchip ermöglicht als weltweit kleinster KI-Supercomputer das Ausführen von großen 200-Milliarden-Parameter-Modellen im Homeoffice.
Nvidia hat auf der CES in Las Vegas seinen "persönlichen KI-Supercomputer" Project Digits vorgestellt, der KI-Forscher:innen, Datenwissenschaftler:innen und Student:innen weltweit Zugang zur Leistung der Grace-Blackwell-Plattform bieten soll.
Project Digits verwendet den neuen Nvidia GB10 Grace Blackwell Superchip, der in Zusammenarbeit mit dem taiwanesischen Unternehmen MediaTek entwickelt wurde und eine Petaflop-KI-Rechenleistung für Prototyping, Fine-Tuning und Ausführung großer KI-Modelle bietet.
Mit Project Digits können Benutzer:innen Modelle auf ihrem eigenen Desktop-System entwickeln und Inferenz ausführen und die Modelle dann nahtlos auf beschleunigter Cloud- oder Rechenzentrumsinfrastruktur einsetzen.
"KI wird in jeder Anwendung für jede Branche zum Mainstream. Mit Project Digits kommt der Grace-Blackwell-Superchip zu Millionen von Entwicklern", sagt Jensen Huang, Gründer und CEO von Nvidia.
GB10 bietet eine Petaflop energieeffizienter KI-Leistung
Der GB10 ist ein System-on-a-Chip, das auf der Nvidia Grace Blackwell-Architektur basiert und bis zu 1 Petaflop KI-Leistung mit FP4-Präzision liefert.
Der GB10 verfügt über eine Nvidia Blackwell GPU mit CUDA-Kernen der neuesten Generation und Tensor-Kernen der fünften Generation, die über die Chip-to-Chip-Verbindung NVLink-C2C mit einer leistungsstarken Nvidia Grace CPU verbunden sind.
Diese CPU umfasst 20 energieeffiziente Kerne, die mit der Arm-Architektur gebaut wurden. Hinzu kommen 128 GB Arbeitsspeicher und bis zu 4 TB NVMe-Datenspeicher.
Mit dem Supercomputer können Entwickler:innen laut Nvidia bis zu 200 Milliarden Parameter große Sprachmodelle ausführen. Darüber hinaus können mit Nvidia-ConnectX-Netzwerken zwei Digits-Computer verbunden werden, um Modelle mit bis zu 405 Milliarden Parametern auszuführen.
Das würde für einige größere Open-Source-Modelle wie Llama-3.1-405B ausreichen, Deepseek-V3 mit mehr als 600 Milliarden Parametern dürfte Digits jedoch nicht mehr ausführen können.
Einstieg in die Nvidia-Cloud
Entwickler:innen können so KI auf Project Digits prototypisieren und dann in der Nvidia DGX Cloud oder Rechenzentrumsinfrastruktur skalieren, wobei sie die gleiche Grace Blackwell-Architektur und Enterprise-Softwareplattform nutzen. Ein Geschäftsbereich, der für den GPU-Spezialisten immer mehr an Relevanz gewinnt: Kürzlich hatte Nvidia sogar ein Start-up übernommen, das sich auf KI-Infrastruktur konzentriert.
Project Digits wird ab Mai bei Nvidia und Partnern ab 3.000 US-Dollar erhältlich sein.
