Hewlett Packard und Nvidia bauen in der Schweiz den schnellsten KI-fähigen Supercomputer der Welt.
Das „Alps“ genannte System soll den zuletzt 2018 aktualisierten „Piz Daint“-Supercomputer des „Swiss National Supercomputing Centre“ (CSCS) ersetzen. Das CSCS ist das nationale Hochleistungsrechenzentrum der Schweiz und stellt nach einem Wettbewerbsverfahren Forschenden kostenlosen Zugang zum Hochleistungsrechner zur Verfügung.
„Alps“ soll 2023 als Allzweck-Supercomputer online gehen. Einer der Einsatzzwecke ist das rechenintensive KI-Training etwa für Physik, Materialwissenschaften, Quantenchemie oder Lebenswissenschaften.
Der Supercomputer wird von Hewlett Packard Enterprise (HPE) gebaut und basiert auf der neuen HPE Cray X Produktlinie. Nvidia liefert dafür die HGX-Supercomputing Plattform, die auf Nvidia GPUs der nächsten Generation und die Anfang der Woche vorgestellten Grace-CPUs setzt.
Insgesamt soll „Alps“ 20 Exaflops an KI-Rechenleistung liefern. Bis dato galt der aktuell in Italien entstehende KI-Supercomputer „Leonardo“ mit 10 Exaflops als schnellstes System.
GPT-3 in zwei Tagen: Alps soll KI-Training beschleunigen
Laut des CSCS erlaubt die enge Zusammenarbeit der Nvidia GPUs und CPUs große KI-Modelle in bisher nicht vorhandener Geschwindigkeit zu trainieren. Das riesige Sprachmodell GPT-3 von OpenAI soll „Alps“ in zwei Tagen trainieren können.
Bisheriger Spitzenreiter war Nvidias eigener Supercomputer Selene, der dafür noch knapp 14 Tage benötigt. Damit wäre „Alps“ nach heutigem Stand der schnellste KI-Supercomputer. Wie lange OpenAI für den Trainingsprozess benötigte, ist unbekannt, das Unternehmen setzte allerdings noch auf die im Schnitt um den Faktor drei langsameren V100-GPUs von Nvidia.
Neben „Alps“ und „Selene“ entstehen in Europa zahlreiche weitere Supercomputer im Rahmen der EuroHPC-JU-Partnerschaft. Nvidias Hardware steckt etwa in Systemen, die in Luxemburg, Slowenien und Tschechien entstehen. In Zukunft sollen weitere in Bulgarien, Finnland, Portugal und Spanien die europäischen Hochrechenleistungskapazitäten erweitern.
Titelbild: CSCS | Via: CSCS