IPU-POD16 verfügbar KIT beschleunigt KI-Forschung mit Graphcore-Servern

Von Martin Hensel

Das Karlsruher Institut für Technologie (KIT) verfügt ab sofort über einen IPU-POD16-Server von Graphcore. Mit dem Hochleistungssystem will die Universität die KI-Forschung beschleunigen.

Anbieter zum Thema

Im KIT kommen bei der KI-Forschung ab sofort auch IPU-POD16-Server von Graphcore zum Einsatz.
Im KIT kommen bei der KI-Forschung ab sofort auch IPU-POD16-Server von Graphcore zum Einsatz.
(Bild: KIT)

In komplexen Forschungsgebieten wie etwa Materialwissenschaften, Mobilität, Energie, Medizin oder Umwelt sind Hochleistungsrechner unverzichtbar. Als Mitglied des Verbundes Nationales Hochleistungsrechnen (NHR) stellt das Nationale Hochleistungsrechenzentrum am KIT (NHR@KIT) Supercomputing-Ressourcen und ein breites Spektrum unterstützender Dienstleistungen für Forscher bereit.

Methoden und Algorithmen aus den Bereichen Künstliche Intelligenz (KI) und maschinelles Lernen nehmen dabei eine immer wichtigere Rolle ein. Sie benötigen ein hohes Maß an Rechenleistung, das über die Möglichkeiten herkömmlicher Systeme hinausgeht. Wissenschaftliche Rechenzentren setzen deshalb auf spezielle Beschleunigerprozessoren, um höhere Verarbeitungs- und Energieeffizienz zu erreichen.

Graphcore-Server ergänzt Testumgebung

Als erstes wissenschaftliches Hochleistungsrechenzentrum in Deutschland bietet das NHR@KIT ab sofort einen Graphcore IPU-POD16 im Rahmen seiner Hardware- und Software-Testumgebung Future Technologies Partition an. Forscher können hierbei ihre Anwendungen auf innovative und bislang nicht in großen Produktivsystemen genutzte Hardware-Architekturen und -Technologien portieren, testen und ausführen.

Die Graphcore-IPU („Intelligence Processing Unit“) nutzt ein Multiple-Instruction-Multiple-Data-Design (MIMD). Es ermöglicht beim Training von KI-Modelle eine detaillierte Parallelität über mehrere Dimensionen hinweg. Diese Prozessarchitektur eignet sich für eine breite Palette neuer und kommender KI-Berechnungsverfahren, wie zum Beispiel Sparse Data Structures. In derartigen Datenstrukturen lassen sich Informationen nicht in dichten, zusammenhängenden Blöcken verarbeiten. Die KI-zentrierten Fähigkeiten der IPU ermöglichen KI-Forschern die Erkundung neuer Problemlösungsansätze, die mit anderen Technologien nicht möglich wären.

Technische Details

Das beim NHR@KIT installierte IPU-POD16-System von Graphcore bietet 16 IPUs mit insgesamt vier PetaFLOPS (FP16) KI-Rechenleistung. Zudem steht ein knappes Terabyte Gesamtspeicher bereit, wovon 14,4 Gigabyte auf prozessorinternen Speicher entfallen. Für die Installation des Systems zeichnete der Graphcore-Elite-Partner MEGWARE verantwortlich.

Das Graphcore Poplar SDK unterstützt alle wichtigen KI-Frameworks, wie beispielsweise TensorFlow, PyTorch, PyTorch Lightning, Hugging Face, Keras, ONNX oder PaddlePaddle. Somit ist die Portierung bestehender KI-Modelle von anderen Rechenplattformen auf IPUs problemlos möglich.

(ID:48138117)