„KI-SuperCluster“ mit Nvidia-Blackwell-GPUs Supermicro sorgt für höhere Inferenzleistung bei geringerem Energieverbrauch

Anbieter zum Thema

Supermicro Germany

PANDUIT

Stäubli TEC-Systems GmbH Connectors

DAXTEN GmbH

Serverhersteller Supermicro hat neue flüssigkeitsgekühlte „KI-SuperCluster“ angekündigt. Der Clou: Die Systeme auf Basis von Nvidias Blackwell-GPUs sorgen im Vergleich zu bisherigen Servern für 30-fach höhere Inferenzleistung bei 40 Prozent geringerem Stromverbrauch.

Die sofort einsatzbereiten „KI-SuperCluster“ wurden speziell für Cloud-native Lösungen entwickelt. Mit ihrer Hilfe sollen Unternehmen die Vorteile von Cloud- und On-Premises-Systemen vereinen und ein betriebsfertiges KI-Rechenzentrum mit umfangreicher Software-Umgebung erhalten können.

In den flüssigkeitsgekühlten 4HE-Systemen lassen sich die Blackwell-GPUs von Nvidia einsetzen. (siehe: Kasten) Laut Supermicro erreichen sie 20 PetaFlops an KI-Leistung auf einer einzigen GPU. Die KI-Trainingsleistung liegt um den Faktor 4, die Inferenzleistung um den Faktor 30 über den bisher eingesetzten GPUs.

Entsprechend seiner „First to Market“-Strategie wird Supermicro eine komplette Produktlinie auf Basis der Blackwell-Architektur anbieten. Diese wird die GPUs der Serien „HGX B100“, „B200“ und „GB200“ umfassen.

KI-Super Cluster erhalten leistungsfähigen Zuwachs

Supermicro bietet bereits verschiedene Super-Cluster-Varianten an: Dazu zählen flüssigkeitsgekühlte „HGX H100 SuperCluster“ und „HGX H200 SuperCluster“ mit je 256 „H100“- oder „H200“-GPUs als skalierbare Recheneinheit in fünf Racks, einschließlich eines dedizierten Netzwerk-Racks. Diese Bestückung ist auch als luftgekühltes System in neun Racks erhältlich.

Ebenfalls neun Racks umfasst der Super Cluster mit 256 „GH200-Superchips“ („Grace Hopper“). Systeme mit „HGX B100/B200“- sowie „GB200 HVL36“- oder „GB200 NVL72“-GPUs sollen in Kürze folgen und wurden bereits im Rahmen der Messe „Computex“ präsentiert.

Alle „KI-SuperCluster“ sind „Nvidia AI Enterprise ready“ und unterstützen Nvidia NIM Microservices sowie die „Nemo“-Plattform für durchgängige generative KI-Anpassung. Die Systeme sind für „Nvidia-Quantum-2“-Infiniband sowie die „Spectrum-X“-Ethernet-Plattform optimiert. Letztere ermöglicht Datenraten von bis zu 400 Gigabit pro Sekunde und GPU. Als mögliche Anwendungsgebiete der „SuperCluster“ nennt Supermicro etwa LLM-Training („Large Language Models“), Deep Learning und Inferenz mit hohem Volumen und hoher Stapelgröße.

Branchenübergreifend einsetzbar, schnell geliefert

„Unsere Lösungen sind mit der Nvidia AI Enterprise Software für Kunden in allen Branchen optimiert und wir bieten globale Fertigungskapazitäten mit Spitzeneffizienz“, nennt Supermicro-CEO Charles Liang weitere Vorzüge des „SuperCluster“-Portfolios. Man könne dadurch die Lieferzeiten für schlüsselfertige Cluster verkürzen. Dies wird durch die vor kurzem durchgeführte Eröffnung von drei zusätzlichen Fertigungsstandorten im kalifornischen Silicon Valley unterstrichen.

„Von Cold Plates über CDUs („Coolant Distribution Units“) bis hin zu Kühltürmen - unsere Rack-Komplettlösungen für die Flüssigkeitskühlung können den Stromverbrauch von Rechenzentren um bis zu 40 Prozent senken“, so Liang. Neue Rechenzentren würden effizienter betrieben, was ihren CO₂-Fußabdruck verringere. „Sie können im Vergleich zu luftgekühlten Rechenzentren praktisch kostenlos sein, was im Laufe der Zeit zu erheblichen betrieblichen Einsparungen durch geringeren Stromverbrauch führt“, so der Supermicro-CEO.

(ID:50071475)