Server mit Testat für Anwendungen der Künstlichen Intelligenz Ab jetzt gibt es Nvidia-zertifizierte KI-Rechner

Autor: Ulrike Ostler

Nvidia setzt auf zertifizierte Rechner. Die Begründung: Künstliche Intelligenz erfordere eine neue Generation von Computern, die darauf abgestimmt und getestet sind. Das erleichtere die Auswahl. Erste Hardwarehersteller liefern nun zertifizierte Server für Rechenzentren aus.

Firmen zum Thema

Nvidia kreiert ein Label für KI-geeignete, mit GPUs oder DPUs ausgesattete Server.
Nvidia kreiert ein Label für KI-geeignete, mit GPUs oder DPUs ausgesattete Server.
(Bild: Nvidia)

Der Vorteil Nvidia-zertifizierter Systeme bestehe für die Anwenderunternehmen darin, dass sie leichter geeignete Server identifizieren und auswählen könnten. Um die Zertifizierung zu bestehen, müssen diese Systeme Aufgaben etwa in den Bereichen Maschinelles Lernen (ML), Datenanalyse und Visual Computing bewältigen, wobei sich die Tests sich auf reale Anwendungsfälle konzentrieren, konkret:

  • Deep Learning-Training und -Inferenz
  • Algorithmen für Maschinelles Lernen
  • Video-Analytik
  • Netzwerk- und Speicher-Offload

Die Rechner sind mit Nvidia-Grafikprozessoren (GPUs) und Mellanox-Netzwerkkomponenten ausgestattet. Dazu gehören Rechenzentrumsserver mit bis zu acht „A100“-GPUs und Hochgeschwindigkeits-Infiniband- oder Ethernet-Netzwerkadaptern. Andere sind Mainstream-KI-Systeme, die für die Ausführung von KI am Rande des Unternehmensnetzwerks zugeschnitten sind.

OEMs zertifizieren die Systeme mit Nvidia Mellanox Kabeln, Switches und Netzwerkkarten wie „Connectx-6 Infiniband“- oder Ethernet-Adaptern und „Bluefield-2“ DPUs (DPU = Data Parallel Unit).

Bis heute sind 14 Server von sechs Systemherstellern zertifiziert. Sie gehören zu 70 Systemen von mindestens 11 Systemherstellern, die an dem Programm teilnehmen. Zu den ersten Systemen, die mit „A100 Tensor Core“ GPUs in sich tragen, gehören:

  • Die Rack-Server „Dell EMC Poweredge R7525“ und „R740“
  • Die Gigabyte-Systeme „R281-G30“, „R282-Z96“, „G242-Z11“, „G482-Z54“ und „ G492-Z51“
  • Die HPE-Rechner „Apollo 6500 Gen10 System“ und „Proliant DL380 Gen10 Server“
  • Inspur ist mit dem System „NF5488A5“ dabei
  • und Supermicro mit den „A+“ Servern „ AS -4124GS-TNR“ und „AS -2124GQ-NART“

Die Nvidia-zertifizierten Systeme sind mit Enterprise-Support über den gesamten Software-Stack erhältlich, einschließlich Unterstützung für Open-Source-Code.

Ein Wendepunkt für Enterprise AI

Laut Nvidia kommen diese Systeme zu einem Zeitpunkt auf den Markt, zu dem führende Unternehmen in die KI einsteigen. Gartner schätzt, dass 37 Prozent aller Unternehmen heute KI in der Produktion einsetzen und prognostiziert, dass sich diese Zahl bis 2024 auf 75 Prozent steigen wird.

American Express beispielsweise nutzt die neuesten KI-Modelle zur Betrugserkennung in Echtzeit. Ford nutzt generative kontradiktorische Netzwerke, um Daten zu generieren, die für die Erprobung selbstfahrender Autos benötigt werden. Und Dominos setzt KI ein, um besser vorhersagen zu können, wann die Bestellungen für die 3 Milliarden Pizzen, die das Unternehmen jedes Jahr ausliefert, fertig sind.

Zugleich steigt, wie bekannt, das Datenaufkommen und die Versuche, aus dem wachsenden Datenberg strategischen Erkenntnisse zu schürfen. Walmart zum Beispiel verarbeitet jede Stunde mehr als 2,5 Petabyte an Daten.

Bis heute sind 14 Server von sechs Systemherstellern zertifiziert. Das sind die ersten, die mit mit „A100 Tensor Core“ GPUs ausgestattet sind.
Bis heute sind 14 Server von sechs Systemherstellern zertifiziert. Das sind die ersten, die mit mit „A100 Tensor Core“ GPUs ausgestattet sind.
(Bild: Nvidia)

So sind auch die KI-Modelle, die diese Daten durchforsten sollen, in nur fünf Jahren um das fast 30.000-fache gewachsen. Und die Vielfalt der Modelle und Workloads, die sie nutzen, nimmt weiter zu.

Die Nvidia-zertifizierten Systeme sollen die Leistung, Programmierbarkeit und den sicheren Durchsatz bieten, den Unternehmen für KI benötigen. Die Tests, die nötig sind, um das Label zu bekommen, reichen von Jobs, die mehrere Compute Nodes benötigen, bis hin zu Aufgaben, die nur einen Teil der Leistung einer einzelnen GPU brauchen, zu finden im NGC-Katalog, dem Nvidia-Hub für GPU-optimierte Anwendungen.

Dieser beziehungsweise der Katalog beherbergt auch eine wachsende Anzahl von Software Development Kits, die KI in vertikale Märkte wie das Gesundheitswesen (Clara) und die Robotik (Isaac) bringen. Darüber hinaus enthält er Frameworks, die Unternehmen den Einstieg in neue Anwendungsfälle wie Empfehlungssysteme (Merlin) und intelligente Video-Analyse (Metropolis) erleichtern.

(ID:47103490)

Über den Autor

 Ulrike Ostler

Ulrike Ostler

Chefredakteurin DataCenter-Insider, DataCenter-Insider