Im Interview mit Bechtle über KI-Infrastruktur: Bechtle-CTO – Für KI braucht es nicht immer ein neues Rechenzentrum

Von Paula Breukel 4 min Lesedauer

Anbieter zum Thema

Mit der „Nvidia AI Factory Specialization“ baut Bechtle sein Portfolio für KI-Infrastruktur aus. Im Gespräch erläutert CTO Dirk Müller-Niessner, warum vorkonfigurierte Systeme in bestehende Rechenzentren häufig besser passen als individuelle Neuplanungen.

Viele Bestandsrechenzentren sind nicht auf dreistellige Kilowattleistungen pro Rack und Flüssigkühlung ausgelegt. Daher will Bechtle KI-Cluster standardisiert in vorhandene Infrastrukturen bringen.(Bild:  Bechtle)
Viele Bestandsrechenzentren sind nicht auf dreistellige Kilowattleistungen pro Rack und Flüssigkühlung ausgelegt. Daher will Bechtle KI-Cluster standardisiert in vorhandene Infrastrukturen bringen.
(Bild: Bechtle)

Bechtle hat mit der „Nvidia AI Factory Specialization“ die höchste Partnerstufe erreicht, die Nvidia für KI-Infrastrukturen vergibt. Am Standort Nürnberg betreibt das Unternehmen dazu gemeinsam mit Dell Technologies eine „Dell AI Factory“ als Demo- und Proof-of-Concept-Umgebung. Im Gespräch mit DataCenter-Insider ordnet CTO Dirk Müller-Niessner ein, was hinter dem Konzept steckt und wo die Grenzen von Standardlösungen liegen, wenn sie auf historisch gewachsene Rechenzentrumslandschaften treffen.

Vorkonfigurierte Bausteine statt Neuentwicklung

Unter einer AI Factory versteht Bechtle laut Müller-Niessner eine in sich geschlossene Lösung, die in drei Größen nach dem T-Shirt-Prinzip angeboten wird: klein, mittel und groß. Für jede Größe gibt es einen Blueprint, der von der physischen Infrastruktur bis zur Softwarearchitektur reicht. Ziel sei eine schnelle Inbetriebnahme, weil die Systeme bereits abgestimmt seien und nicht für jeden Kunden neu entwickelt werden müssten.

Bei der Umsetzung arbeitet Bechtle nach eigenen Angaben eng mit Dell Technologies zusammen. Die technische Abstimmung reiche bis auf Ebene der Produktentwicklung, größere Implementierungen erfolgten überwiegend auf Basis von Dell-Hardware in Kombination mit Nvidia-Technologie. Die AI Factory im „Nürnberger Democenter“ sei eine komplette Dell-Nvidia-Lösung.

Wann Standardisierung sinnvoll ist

Ein zentrales Argument für den Blueprint-Ansatz liefert laut Müller-Niessner das Netzwerk: Kauft ein Kunde einen mittleren oder großen Server-Cluster, ist nicht sichergestellt, dass das bestehende Netzwerk-Backbone die dafür nötige Bandbreite bereits bereitstellt. Ein in sich geschlossenes System lässt sich in diesem Fall häufig einfacher integrieren, als wenn der gesamte Kunden-Backbone auf ein deutlich höheres Bandbreitenniveau gebracht werden müsste.

Der CTO beobachtet allerdings auch, dass vor allem Forschungseinrichtungen, die langjährige Erfahrung im High Performance Computing (HPC) haben, eher eine individuelle Planung anstelle eines vorkonfigurierten Pakets brauchen.

Strom und Kälte zuerst

Wer eine bestehende Rechenzentrumsumgebung auf KI-Workloads auslegen will, sollte laut Müller-Niessner nicht bei der Recheneinheit ansetzen, sondern bei der Basisinfrastruktur: Verfügbare Stromkapazität und Kälteleistung seien die ersten Fragen, die geklärt werden müssten.

Flüssigkeitskühlung ist dabei nicht automatisch vorhanden. Nach Beobachtung des CTO sind selbst Colocation-Rechenzentren, die erst vor fünf Jahren gebaut wurden, baulich häufig nicht darauf ausgelegt, Wasser bis ans Rack zu führen. Ein Grund dafür liegt in den Investitionszyklen der Branche: Ein Colocation-Rechenzentrum sei üblicherweise auf eine Nutzungsdauer von 20 bis 25 Jahren kalkuliert.

Ein technologischer Umbruch, wie er derzeit stattfindet, sei in dieser Grundkalkulation meist nicht vorgesehen gewesen, entsprechend schwierig gestalteten sich Gespräche über einen vorzeitigen Umbau.

Als Übergangslösung setzt Bechtle nach Angaben von Müller-Niessner auf Systeme, die intern flüssiggekühlt sind und die Abwärme dann über einen Luftweg an die bestehende Gebäudekühlung abgeben, statt einen durchgängigen Wasseranschluss vorauszusetzen.

Netzwerk, Storage und Kühlung im Detail

Innerhalb der AI Factory sei Direct-to-Chip-Kühlung mittlerweile Standard, Immersion Cooling spiele in der Praxis dagegen keine relevante Rolle, so Müller-Niessner. Bei der Speicheranbindung hänge die Ausgestaltung stark davon ab, ob die Daten eines Kunden bereits strukturiert und gelabelt vorliegen oder nicht.

Interne, gut dokumentierte Datenbestände wie SAP-Daten seien verhältnismäßig einfach zu erschließen, unstrukturierte Daten benötigten zusätzlichen Aufwand. Eine feste Storage-Architektur nennt Bechtle dafür nicht, die Lösung werde je nach Kundenumgebung individuell zusammengestellt.

Die Dell AI Factory basiert auf dem Open-Source-Network-Operating-System (NOS) „Sonic“ und nutzt eine Spine-Leaf-Architektur. Die Switches sind über eine 200-Gbit/s-Topologie angebunden. Für die Kommunikation zwischen den GPUs kommt die „NVLink“-Architektur zum Einsatz. Die Netzwerkinfrastruktur umfasst Dell „PowerSwitches“ mit Sonic und Technologien von Nvidia.

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zu RZ- und Server-Technik

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Leistungsdichte steigt trotz Effizienzgewinnen

Aktuelle KI-Racks bewegen sich nach Einschätzung von Müller-Niessner im dreistelligen Kilowattbereich pro Rack, unabhängig vom jeweiligen Prozessorhersteller. Kleinere Fertigungsstrukturen, eine Umstellung auf 48-Volt-Systeme und eine zentrale statt dezentrale Stromversorgung im Rack tragen aus seiner Sicht zur Effizienz bei.

Gleichzeitig steigt die punktuelle Leistungsdichte, weil mehr Rechenleistung auf derselben Fläche konzentriert wird. Aus Sicht des CTO zielt der Business Case der Kunden dabei nicht auf eine Ausweitung der Stellfläche, sondern auf weniger, dafür leistungsfähigere Racks bei gleichbleibendem oder wachsendem Rechenbedarf.

Klein starten, dann skalieren

Beim Einstieg in eigene KI-Infrastruktur beobachtet Müller-Niessner zwei wiederkehrende Fehleinschätzungen bei Kunden: In frühen Projektphasen sei die Annahme, welcher Workload CPU- und welcher GPU-optimiert läuft, häufig nicht zutreffend gewesen. Zudem berichtet er von einer Tendenz, größere GPU-Cluster zu fordern, als der tatsächliche Bedarf rechtfertigt.

Dem sollen die T-Shirt-Sizes entgegenwirken: Bechtle empfiehlt, mit einer kleineren Konfiguration zu starten, den eigenen Workload darauf zu erproben und erst danach hochzuskalieren. Die Fähigkeit, den Bedarf im Vorfeld realistisch einzuschätzen, habe sich gegenüber den vergangenen anderthalb bis zwei Jahren durch eigene Erfahrungswerte aus On-Premises-Projekten verbessert.

Ausblick: Quantencomputing und europäische Infrastruktur

Neben klassischer KI-Infrastruktur beschäftigt sich Bechtle auch mit Quantencomputing. Das Unternehmen hat dafür das „Competence Center Quantum Technologies“ am Standort Bonn aufgebaut. Der Markt sei nach wie vor stark forschungsgetrieben, bis zu einer breiteren Marktreife rechnet Müller-Niessner mit einem Zeitraum von drei bis zehn Jahren, verbunden mit der Unsicherheit, die Prognosen in diesem Bereich grundsätzlich mit sich bringen.

Mit Blick auf die europäische Rechenzentrumslandschaft plädiert Müller-Niessner, für einen dezentralen Ansatz, der sich stärker an regional verfügbaren erneuerbaren Energien orientiert etwa Wasserkraft, Windkraft und Solarenergie oder Geothermie, statt wie in den USA auf sehr große, zentrale Standorte zu setzen.

Über den Gesprächspartner:
Dirk Müller-Niessner ist Bereichsvorstand und Chief Technology Officer bei der Bechtle Gruppe. Nach seiner Ausbildung zum Feinmechaniker und einer Weiterbildung zum Techniker für Automatisierungstechnik war er von 2001 bis 2013 in verschiedenen Führungsfunktionen der TCC Gruppe tätig.

Seit 2018 arbeitet er für Bechtle, seit 2021 als Geschäftsführer der Bechtle Hosting und Operations GmbH. Seit Januar 2023 verantwortet er als CTO die Plattformstrategie der Bechtle Gruppe.

Bildquelle: Bechtle

(ID:50934554)