Dell-Server mit jüngstem Intel-Akzelerator an Bord Poweredge Server optimieren KI-Workloads mit Gaudi 3

Anbieter zum Thema

Dell GmbH

Portus Data Centers

Vertiv GmbH

DAXTEN GmbH

KI-Workloads stellen höchste Anforderungen an die Beschleuniger im Server - in der Regel GPUs. Der Server „Dell Poweredge XE9680" unterstützt ab sofort den „Intel Gaudi 3 AI Accelerator“.

Es ist fast jedes Mal dasselbe Wechselspiel: Der Chiphersteller kündigt eine neue CPU an, die Hardwarelieferanten ziehen nach mit den Ankündigungen neuer Rechner oder gar Rechnergenerationen. Seit Nvidia mit seinen Grafikprozessoren die Workloads für Anwendungen der Künstlichen Intelligenz (KI) beschleunigt, gibt es diese Aufeinanderfolge von neuen Chips und neuen Servern auch für die GPUs; Intel stellte schon auch welche her, aber Nvidia hat hier die Nase vorne.

Allerdings gibt es hier eine Verknappung auf dem Markt, Lieferengpässe und durch die Marktmacht der Hyperscaler leergefegte Märkte. Selbst wenn die Hardwarehersteller Computer mit den jüngsten GPU-Spezifikationen bauen wollte, konnte sie nicht.

Doch jetzt hat Intel Gaudi 3 vorgestellt (siehe: „ Intel Vision 2024: Schnellerer KI-Beschleuniger und Xeon-6-Prozessoren Konkurrenz für Nvidia: Intel stellt KI-Chip Gaudi 3 vor“) und Dell sowie andere kündigen damit ausgestattete Server vor.

Dell Poweredge XE9680

Die Server Poweredge XE9680 liefern mit einer 8-Wege-GPU-Beschleunigung in einer x86-Serverarchitektur schon Performance für anspruchsvolle Rechenprozesse und sind, nebenbei bemerkt auch mit den „H100“-GPUs von Nvidia bestückbar.

Die Art der Anwendungen reicht von KI und generativer KI über Maschinelles Lernen und Deep-Learning-Training bis hin zur HPC-Modellierung. Mit der Einbindung des Intel Gaudi 3 Accelerator in die Serverreihe kann Dell Technologies die Möglichkeiten noch einmal deutlich ausweiten, so dass Unternehmen die Systeme besser auf ihre spezifische Anforderungen zuschneiden können.

Der Rechner, der für Umgebungen mit bis zu 35 Grad ausgelegt ist, bekommt durch den Gaudi-3-Beschleuniger zusätzliche Konfigurationsmöglichkeiten. Dazu gehören bis zu 32 DDR5-Memory-DIMM-Steckplätze für verbesserten Datendurchsatz, 16 EDSFF3-Speicherlaufwerke für Datenspeicher sowie acht PCIe-Gen-5.0-Steckplätze für erweiterte Konnektivität und Bandbreite.

Die Ausgestaltung

In Verbindung mit zwei „Intel Xeon Scalable“ Prozessoren der 4. Generation und ihren bis zu 56 Kernen eignet sich der XE9680 für die Ausführung anspruchsvoller KI- und ML-Workloads. Während andere Hersteller auch wassergekühlte Varianten anbieten, setzt Dell Technologies primär auf effizient arbeitende Lüfter.

Der Intel Gaudi 3 Accelerator liefert mit seinen 64 benutzerdefinierten und programmierbaren „Tensor“-Prozessorkernen (TPCs) sowie 128 GB HBMe2-Speicherkapazität mit 3,7 TB Bandbreite und 96 Megabyte On-Board-SRAM die dafür notwendige Performance. Das Ökosystem von Gaudi 3 wird durch Partnerschaften und ein Framework an Modellbibliotheken unterstützt. Die Entwicklungswerkzeuge vereinfachen den Übergang für eine bestehende Codebasis und reduzieren die Migration auf nur eine Handvoll Codezeilen.

Netzwerk- und Video-Dekodierungsfunktionen

Der mit dem Gaudi-3-Beschleuniger ausgestattete Poweredge XE9680 bietet laut Dell Technologies auch neue Netzwerkfunktionen, die über sechs OSFP-800GbE-Ports direkt integriert sind. Diese Links ermöglichen eine Verbindung zu einer externen „Accelerator Fabric“, ohne dass eigens NICs im System platziert werden müssen.

Dies reduziert die Komplexität der Infrastruktur und senkt laut Anbieter auch die Gesamtbetriebskosten. Darüber hinaus sind die spezialisierten Intel Gaudi 3 Media Decoder für KI-Vision-Anwendungen konzipiert. Diese sind in der Lage, umfangreiche Pre-Processing-Aufgaben zu bewältigen, wodurch die Video-zu-Text-Konvertierung rationalisiert und die Leistung von Enterprise-KI-Anwendungen verbessert werden kann.

(ID:49998453)