Suchen

HPC-Anwender für Supermicro-Nvidia-Technik GPU-Server in der KI-Forschung

| Autor / Redakteur: Michael McNerney* / Ulrike Ostler

Der 10U-GPU-Server von Supermicro mit „Nvidia HGX-2“-GPU-Baseboards hilft den belgischen Forschern, die Berechnungszeiten um das 10-fache zu verkürzen, was eine schnellere KI-Entwicklung ermöglicht. Letztlich beschleunigt das Idlab der Universitäten Gent und Antwerpen die Experimentierdauer in der KI-Forschung: von fast 7 Stunden auf 40 Minuten.

Firmen zum Thema

Das Idlab konnte die Experimentierdauer in der KI-Forschung mithilfe von Supermicro GPU-Server von fast 7 Stunden auf 40 Minuten verkürzen.
Das Idlab konnte die Experimentierdauer in der KI-Forschung mithilfe von Supermicro GPU-Server von fast 7 Stunden auf 40 Minuten verkürzen.
(Bild: Universität Antwerpen)

Für eine führende Position in Forschung und Lehre erweitert Idlab seine bestehende „Ilab.t“-Testbed-Infrastruktur, um die Forschung in drei neuen Schwerpunktbereichen zu unterstützen: KI-Robotik, KIoT und Data Mining.

Idlab ist ein Imec-Forschungslabor der Universitäten Gent und Antwerpen. Die Finanzierung für den GPU-Server wurde von der Universität Gent über die FWO (Forschungsstiftung Flandern) sichergestellt.

Idlab ist ein Imec-Forschungslabor der Universitäten Gent und Antwerpen; heir ein Bild der Uni Antwerpen.
Idlab ist ein Imec-Forschungslabor der Universitäten Gent und Antwerpen; heir ein Bild der Uni Antwerpen.
(Bild: Universität Antwerpen)

Die Universität Gent wiederum ist eine öffentliche Forschungseinrichtung mit Sitz in Gent, Belgien. Sie wurde 1817 gegründet und ist mit 44.000 Studenten und 15.000 Mitarbeitern eine der größten flämischen Universitäten. Die Universität Gent zählt durchweg zu den 100 besten Universitäten der Welt und ist für ihre Fakultäten Biotechnologie, Medizin und Agrarwissenschaften bekannt.

Die Voraussetzungen

Idlab verfügt in Gent bereits über mehrere Server, die mit Graphics Processing Units (GPUs) bestückt sind, und Massenspeichersysteme mit traditionellen PCIe-basierten Lösungen in seinem Rechenzentrum. „Allerdings, so Brecht Vermeulen, Forschungsleiter Ilab.t des Idlab an der Universität Gent, „stoßen unsere Forscher ständig an die Grenzen unserer Hardware-Infrastruktur. Als führendes Unternehmen im Bereich KI-Forschung benötigen wir jedoch eine Lösung, die den wachsenden Anforderungen unseres Teams gerecht wird.“

Die Forscher des Idlab benötigten einen extrem schnellen GPU-Server, der mindestens sechs verschiedene Aufgaben gleichzeitig ausführen und die meisten von ihnen innerhalb von 40 Minuten erledigen kann. Vermeulen erläutert: „Wir führen mehrere Aufgaben gleichzeitig aus, und dabei ist es vorrangig, dass wir zeitnahe Ergebnisse erzielen. Unsere Analyse hat gezeigt, dass wir die Leistungsfähigkeit um den Faktor 10 steigern mussten, um mit unseren aktuellen Anforderungen Schritt zu halten.“

Technik on Supermicro

Der letztlich gewählte GPU-Server von Supermicro wurde speziell für KI-Anwendungen der nächsten Generation entwickelt und enthält zwei Nvidia HGX-2-Boards mit jeweils acht „V100“-GPUs, um ein schnelles Training komplexer KI-Modelle zu ermöglichen. Mit dem Zusammenspiel von Big-Data-Analyse und maschinellem Lernen (ML) sowie verbesserter ML-Algorithmen erfordern Deep-Learning-Anwendungen die Verarbeitungsleistung mehrerer GPUs, die effizient und effektiv miteinander kommunizieren müssen, um immer größere KI-Modelle zu trainieren.

Das ist der Rechner „Superserver 9029GP“ von Supermicro.
Das ist der Rechner „Superserver 9029GP“ von Supermicro.
(Bild: Supermicro)

Vermeulen führt aus: „Supermicro lieferte uns die technischen Daten ihres neuen GPU-Servers – und dessen Leistungsfähigkeit war beeindruckend. Wir haben ein Gerät in unser Labor integriert und waren äußerst zufrieden mit seiner Rechenleistung.“

Neben dem Hardware-Design sei ein weiterer Grund, warum sich Idlab für die Supermicro-Plattform entschieden hat, dass Supermicro eine hohe Flexibilität bei der Auswahl des geeigneten Speichers ermögliche, der I/Os und CPUs bietetund den Nutzern erlaubt, ihre eigene Software zu verwenden. Darüber hinaus vertraut Idlab bei kundenspezifischen Lösungen auf Server Storage Solutions, einem Partner von Supermicro, der technische Beratung und Unterstützung vor Ort bietet.

Die Erfolge

„Es ist sicherlich von Vorteil, über die Flexibilität zu verfügen, unsere eigene Software für die Verwaltung interner Aufgaben zu verwenden“, sagt Vermeulen. „Wir haben unsere eigene Software entwickelt, mit der unsere Forscher problemlos Deep-Learning-Aufgaben an das System senden können. Die Supermicro-Plattform lässt sich leicht an unsere Bedürfnisse anpassen.“

Der Supermicro-Server ist mit „Volta“-GPUs von Nividia bestückt.
Der Supermicro-Server ist mit „Volta“-GPUs von Nividia bestückt.
(Bild: Supermicro)

Idlab nutzt den neuen GPU-Server von Supermicro nun seit fast einem Jahr und erledigt viele KI-Aufgaben wesentlich schneller als zuvor. „Es ist erstaunlich, wie viel schneller wir unsere Aufgaben jetzt ausführen können“, so Vermeulen. „Wir haben die Experimente von fast 7 Stunden auf 40 Minuten verkürzen können. Durch die höhere Geschwindigkeit können unsere Forscher schneller recherchieren, indem sie mehrere Iterationen in kurzer Zeit ausführen und sich schneller auf die beste Lösung herantasten können.“

Idlab hat bereits viele Forschungsaufträge erfolgreich durchgeführt. „Wir haben etwa an der 'DARPA Spectrum Collaboration Challenge 2019' teilgenommen“, erklärte Vermeulen. „Mithilfe von Supermicro und unserer eigens entwickelten GPULab-Software für die Aufgabenplanung haben wir gelernt, wie man GPUs für eine optimale Zusammenarbeit im Funkspektrum mithilfe softwaredefinierter Funksysteme (SDR) und KI umfassend nutzt. Unser Team ist damit in das Finale dieses Wettbewerbs eingezogen.“

* Michael McNerney ist Vice President Marketing & Network Security bei Supermicro.

(ID:46664334)