KI-Pod für sensible Daten Fraunhofer IGD startet Cluster mit 24 „Nvidia B200“-GPUs

Anbieter zum Thema

Fraunhofer Institut für Graphischen Datenverarbeitung

RITTAL GmbH & Co. KG

Vertiv GmbH

DAXTEN GmbH

Der KI-Cluster „Baltic Brain“ geht im „Green IT Cube“ von GSI/FAIR in Darmstadt in Betrieb. Drei „B200“-Server sollen sensible Daten kontrolliert verarbeiten. Nvidia liefert dabei Hardware und Orchestrierung.

Das Fraunhofer-Institut für Graphische Datenverarbeitung (IGD) nimmt den GPU-Cluster „Baltic Brain“ in Betrieb. Es geht dabei um einen „DGX POD“, einem Verbund aus drei „DGX B200“-Servern mit je 8 und insgesamt 24 B200-GPUs. Ein Hochgeschwindigkeitsnetzwerk bindet die Rechner an einen All-Flash-Speicher an. Für die Verteilung und Verwaltung der Rechenaufträge nutzt Fraunhofer IGD Software von Nvidia und der Nvidia-Tochter Run:ai.

Der Cluster steht nicht an einem Standort von Fraunhofer IGD, sondern im „Green IT Cube“ des GSI Helmholtzzentrums für Schwerionenforschung und der Facility for Antiproton and Ion Research (FAIR) in Darmstadt. Dort soll er sensible Forschungsdaten in einer kontrollierten Umgebung verarbeiten, ohne Rechenleistung internationaler Cloud-Anbieter zu benötigen. Angaben zur Investitionssumme, zur Kapazitätsverteilung und zu den Zugangsbedingungen für externe Partner machen die Beteiligten nicht.

„Rettungsanker für die deutsche Industrie“ und der „Staat als Ankerkunde“

Telekom-KI-Fabrik: ein Vorzeigeprojekt mit Warnfunktion

Gemessen an aktuellen KI-Großprojekten ist „Baltic Brain“ eine spezialisierte, kleinere Forschungsanlage, keine groß angelegte KI-Fabrik. Die Friedrich-Alexander-Universität Erlangen-Nürnberg baut etwa bis Herbst 2026 einen Cluster mit 1.024 B200-GPUs auf; die KI-Fabrik der Deutschen Telekom in München setzt 10.000 GPUs ein. Naheliegende Aufgaben für „Baltic Brain“ sind die Feinabstimmung vorhandener Modelle, das Training spezialisierter Modelle und die Ausführung von KI auf sensiblen Daten.

Kontrolle über Daten bei Abhängigkeit von Nvidia

Fraunhofer IGD stellt die Kontrolle über Daten und Modelle in den Mittelpunkt. Datensouveränität bedeutet hier, dass das Institut Speicherort, Zugriffsrechte und Verarbeitung kontrolliert. Bei dem Einsatz der marktdominanten KI-Beschleuniger des US-Herstellers Nvidia geht es dagegen nicht um technologische Unabhängigkeit.

„Dem Ingeniör ist nix zu schwör!“

Das macht Nvidia richtig (und falsch)

Das gilt nicht nur auf Hardware-Seite, sondern auch für wesentliche Teile der Orchestrierungs- und Verwaltungssoftware von Nvidia und Run:ai. Nvidia schloss die Übernahme des israelischen Anbieters Ende 2024 ab. Im Mittelpunkt des Projektes steht somit eine verringerte Abhängigkeit von US-amerikanischen Cloud-Diensten.

Geodaten, Landwirtschaft und Meeresforschung

Als erste Einsatzfelder nennt Fraunhofer IGD Bioökonomie, Smart Farming, Geodatenanalyse und maritime Forschung. Für Geodaten will das Institut KI-Modelle entwickeln, die auf deutsche und europäische Datensätze zugeschnitten sind. Sie sollen Behörden und Unternehmen bei Analyse- und Planungsaufgaben unterstützen.

In der maritimen Forschung sollen die GPUs unter anderem Verfahren zur automatisierten Erkennung von Objekten und Organismen auf Unterwasseraufnahmen ermöglichen. Welche dieser Einsatzgebiete besonders von einer kontrollierten Datenumgebung profitieren, lässt das Institut offen.

Höchstleistungsrechner für KI und Simulation

LRZ plant Supercomputer Blue Lion mit Nvidia-Vera-Rubin

Die Wahl des „Green IT Cube“ trägt der Leistungsdichte der drei DGX-Server Rechnung. GSI/FAIR kühlt die Serverschränke über wassergekühlte Rücktüren und beziffert den Energiebedarf der Kühlung auf weniger als sieben Prozent der Rechenleistung bei einem PUE-Wert (Power Usage Effectiveness) von unter 1,07. Das Rechenzentrum wird laut GSI/FAIR mit Strom aus erneuerbaren Quellen versorgt und das Umweltzeichen „Blauer Engel“.

Bund und Länder finanzieren den Aufbau

Der Aufbau gehört zur Forschungsinitiative „Biogene Wertschöpfung und Smart Farming“. Das Gesamtprogramm ist mit über 80 Millionen Euro dotiert: Der Bund trägt davon 40 Millionen Euro, Bayern und Mecklenburg-Vorpommern jeweils 20 Millionen Euro. Welcher Anteil davon auf den GPU-Cluster entfällt, teilen Fraunhofer IGD und GSI/FAIR nicht mit.

Die Förderstruktur liefert auch einen Hinweis auf die Hintergründe einer ungewöhnlichen Geografie: Fraunhofer IGD forscht in Darmstadt und Rostock, die Initiative bündelt Standorte in Mecklenburg-Vorpommern und Bayern, die Hardware steht in Hessen.

(ID:50926312)