Mobile-Menu

KI für den Netzwerkrand Supermicro mit neuem Systemdesign

Von Dr. Dietmar Müller 1 min Lesedauer

Anbieter zum Thema

SUPER MICRO COMPUTER, Inc.
Supermicro Germany
Vertiv GmbH
DAXTEN GmbH
Fsas Technologies GmbH

Auf dem „Mobile World Congress“ (MWC) Anfang dieses Monats in Las Vegas vorgestellt: Der neuer 3U-Server von Supermicro unterstützt bis zu 18 GPUs und verfügt über zwei „Intel Xeon 6900“-Prozessoren mit „P“-Cores.

Auf der Veranstaltung MWC die in diesem Monat in Las Vegas stattgefunden hat, hat Supermicro angekündigt, eine neue Infrastrukturplattform mit hoher Dichte einzuführen, die für das KI-Inferencing gedacht ist. (Bild: Supermicro)
Auf der Veranstaltung MWC die in diesem Monat in Las Vegas stattgefunden hat, hat Supermicro angekündigt, eine neue Infrastrukturplattform mit hoher Dichte einzuführen, die für das KI-Inferencing gedacht ist.
(Bild: Supermicro)

Supermicro hat auf dem MWC in Las Vegas mit „SYS-322GB-NR“ eine neue Infrastrukturplattform vorgestellt, die für KI-Inferenz am Netzwerkrand ausgelegt ist, also komplexe Large Language Models (LLM) an die Edge bringt. Bis zu zehn GPUs mit doppelter Breite können in ein System gesteckt werden, das auch in luftgekühlten Umgebungen laufen soll.

Charles Liang, President und CEO von Supermicro, sagt dazu: „Dank des thermischen Designs des Systems kann Supermicro diese Leistung in einem hochdichten 3U 20 PCIe-System mit 256 Kernen anbieten, das in Edge-Rechenzentren eingesetzt werden kann.“ Da der Markt für künstliche Intelligenz exponentiell wachse, benötigten Kunden eine leistungsstarke, vielseitige Lösung zum Inferenzieren von Daten, etwa um LLM-basierte Anwendungen vor Ort auszuführen, nahe bei dem Ort, an dem die Daten generiert werden. „Unser neues 3U Edge AI-System ermöglicht es ihnen, innovative Lösungen mit minimaler Latenzzeit zu betreiben“, so der Supermicro-Chef.

Die Plattform SYS-322GB-NR enthält zwei Intel Xeon 6900-Prozessoren mit P-Kernen, 8800 MT/s MRDIMM und bis zu 20 PCIe 5.0-Erweiterungssteckplätze. Es unterstützt eine Vielzahl von GPUs mit einfacher oder doppelter Breite oder alternativ die Nutzung einiger der Erweiterungssteckplätze für Hochleistungs-E/A- oder andere Zusatzkarten. Zusätzlich bietet der Server bis zu 6 TB RDIMM-Speicher und bis zu 14 E1.S- oder 6 U.2-NVMe-Laufwerke.

Einsatzszenarien

Ein Beispiel für den Einsatz dieses Systems ist die Fertigungsindustrie, wo das System in einer automatisierten Produktionsumgebung eingesetzt werden kann, etwa um Daten von Kameras und Sensoren zu verarbeiten. Ein weiteres Einsatzgebiet des SYS-322GB-NR sind große Kontrollräume, in denen die KI-Beschleunigerkarten teilweise durch Multi-Display-Karten ersetzt werden können, um bis zu 64 unabhängige Displays zu unterstützen.

(ID:50203433)

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zu RZ- und Server-Technik

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Weiterführende Inhalte