KI-Infrastruktur im Wettbewerb mit Nvidia Supermicro setzt mit AMD auf eine Alternative zu Nvidia

Von Paula Breukel 3 min Lesedauer

Anbieter zum Thema

Supermicro erweitert sein H15-Serverportfolio mit AMD-EPYC-Prozessoren der 6. Generation. Gemeinsam mit AMD entsteht eine KI-Infrastruktur aus CPU, GPU, Netzwerk und Software, die als Alternative zu Nvidias Plattformen antritt.

CPU, GPU, Netzwerk und Software stammen aus dem AMD-Portfolio. Gemeinsam mit Supermicro entsteht eine durchgängige Infrastruktur für KI-Training und Inferenz.(Bild:  Gemini / Paula Breukel / KI-generiert)
CPU, GPU, Netzwerk und Software stammen aus dem AMD-Portfolio. Gemeinsam mit Supermicro entsteht eine durchgängige Infrastruktur für KI-Training und Inferenz.
(Bild: Gemini / Paula Breukel / KI-generiert)

Auf der „AMD Advancing AI“ in San Francisco stellt Supermicro sein neues H15-Serverportfolio vor. Die Systeme sollen mit der „AMD Helios“-Plattform auch großskaliges KI-Training abdecken. Die Systeme basieren auf Prozessoren der AMD-„EPYC-9006“-Serie der 6. Generation und sind auf Grafikprozessoren (GPUs) der Reihe „AMD Instinct“ sowie auf die Netzwerktechnik „AMD Pensando“ abgestimmt.

Nach Angaben von Supermicro bieten die neuen Prozessoren bis zu 256 Kerne und 512 Threads. Das ist ein Plus von 33 Prozent gegenüber der Vorgängergeneration. Die PCIe-Bandbreite soll sich verdoppelt, die Speicherbandbreite um das 2,6-Fache erhöht haben. Auf Basis von AMD-eigenen Benchmarks nach dem Standard SPECInt Rate 2017 soll die CPU-Leistung im Generationsvergleich um das 1,7-Fache gestiegen sein. Dadurch soll es möglich sein, mehr KI-Agenten parallel auf einem einzelnen Host betreiben zu können, ohne dass die Leistungsaufnahme steigt.

Sechs Systemvarianten für unterschiedliche Workloads

Das H15-Portfolio umfasst mehrere Bauformen, die Supermicro auf unterschiedliche Einsatzszenarien zuschneidet:

Das neue H15-Portfolio reicht von CPU-Servern bis zu Rack-Scale-Systemen für KI-Training. Gemeinsam bauen AMD und Supermicro ihre Infrastruktur als Alternative zu Nvidias Plattform weiter aus.(Bild:  Supermicro)
Das neue H15-Portfolio reicht von CPU-Servern bis zu Rack-Scale-Systemen für KI-Training. Gemeinsam bauen AMD und Supermicro ihre Infrastruktur als Alternative zu Nvidias Plattform weiter aus.
(Bild: Supermicro)

  • Die Plattform „Hyper“ ist ein Zwei-Sockel-System für Unternehmensanwendungen, KI-Inferenz, Virtualisierung und Cloud-Workloads.
  • „CloudDC“ richtet sich mit ein oder zwei Sockeln an Cloud-Umgebungen und folgt der Spezifikation „Data Center Modular Hardware System“ (DC-MHS) des Open Compute Project (OCP).
  • „GrandTwin“ ist eine 2U-Architektur mit vier Rechenknoten für Scale-out-Szenarien wie Objektspeicher oder Hochleistungsrechnen.
  • „FlexTwin“ bringt zwei Rechenknoten mit Flüssigkeitskühlung in einem 1OU-Gehäuse unter und zielt auf hohe Rechendichte bei Cloud-nativen und Hyperscale-Umgebungen.

Für Datenintensive Workloads bietet Supermicro zudem All-Flash-Speichersysteme in 1U- und 2U-Bauform an, die bis zu 4,8 Petabyte pro System fassen sollen und für KI-Data-Lakes sowie HPC-Analysen ausgelegt sind. Die „SuperBlade“-Reihe kombiniert CPU und GPU in einem 8U-Rack-System mit Platz für zehn Blades, wahlweise luft- oder flüssigkeitsgekühlt.

GPU-Server und offenes Netzwerk für KI-Cluster

Neben den H15-Servern erweitert Supermicro sein Angebot an GPU-basierter KI-Infrastruktur. Die neuen 5U-Systeme „AS-5126GS-TNRT“ und „AS-5126GS-TNRT2“ nehmen bis zu zehn PCIe-Grafikprozessoren vom Typ „AMD Instinct MI350P“ auf und laufen laut Hersteller luftgekühlt in bestehender Rechenzentrumsinfrastruktur.

Die MI350P-GPUs bringen bis zu 144 Gigabyte HBM3e-Speicher mit und unterstützen KI-Rechenformate mit reduzierter Genauigkeit, die Training und Inferenz beschleunigen sollen.

Für die Vernetzung dieser Systeme bietet AMD mit der Netzwerkkarte „Pensando Pollara 400“ eine Ethernet-basierte Lösung an, die laut AMD Front-End-, Storage- und Scale-out-Verbindungen mit hoher Bandbreite und geringer Latenz abdeckt.

Der Ansatz erlaubt es, KI-Cluster auf Basis von Standard-Ethernet-Infrastruktur von einzelnen Servern bis zu Multi-Rack-Umgebungen zu skalieren. Eine Alternative zu proprietären Interconnect-Technologien, wie sie etwa Nvidia mit InfiniBand einsetzt.

„AMD Helios Platform“ für Training im großen Maßstab

Für Unternehmen, die eigene Frontier-KI-Modelle trainieren wollen, hat Supermicro gemeinsam mit AMD die „Supermicro AMD Helios Platform“ entwickelt. Die flüssigkeitsgekühlte Rack-Scale-Lösung bündelt 72 Grafikprozessoren vom Typ „AMD Instinct MI455X“ mit AMD-EPYC-Prozessoren der 6. Generation, der Pensando-Netzwerktechnik und dem Software-Stack „AMD ROCm“. Die Plattform ist für groß angelegtes KI-Training sowie Inferenz mit hohem Durchsatz konzipiert und soll sich je nach Bedarf skalieren lassen.

Supermicro bündelt die vorgestellten Komponenten unter der Bezeichnung „Data Center Building Block Solutions“ (DCBBS) zu einer validierten Gesamtarchitektur, die vom Einzelserver bis zur Rack- und Rechenzentrumsebene reicht. Für den Markt fügt sich die Ankündigung in den branchenweiten Trend, GPU-Infrastruktur zunehmend als vorab konfigurierte Rack-Scale-Systeme statt als Einzelkomponenten anzubieten. Diesen Ansatz verfolgen auch Hersteller wie Dell, die ebenfalls zunehmend vorab konfigurierte Rack-Scale-Systeme für KI-Workloads anbieten.

(ID:50910264)

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zu RZ- und Server-Technik

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung