gesponsertInsider Research im Gespräch So funktioniert Megawatt-Kühlung für KI

2 min Lesedauer

Gesponsert von

KI-Anwendungen versprechen revolutionäre Vorteile. Aber ist die IT-Infrastruktur dafür schon bereit? Die Leistungsdichte für Anwendungen wie das Training und der Betrieb von Large Language Models (LLMs) wird die heute übliche konventionelle Luftkühlung schnell an ihre physikalischen und wirtschaftlichen Grenzen bringen. Daher steht ein radikaler Technologiewandel an, der das gesamte Rechenzentrum als System betreffen wird. Das Interview von Insider Research mit Martin Dörrich von Rittal liefert Einblicke.

So funktioniert Megawatt-Kühlung für KI, ein Interview von Oliver Schonschek, Insider Research, mit Martin Dörrich von Rittal.(Bild:  Vogel IT-Medien / Rittal / Schonschek)
So funktioniert Megawatt-Kühlung für KI, ein Interview von Oliver Schonschek, Insider Research, mit Martin Dörrich von Rittal.
(Bild: Vogel IT-Medien / Rittal / Schonschek)

Mit Modularisierung und den Design-Vorteilen des Open Rack V3, dessen Entwicklung Rittal im Open Compute Project (OCP) vorangetrieben hat, wird eine neuartige Kühlung möglich: Nach dem Vorbild der Stromversorgung wird der Server im Rack mit standardisierten Anschlüssen an die zentralen Zu- und Abläufe des Wasserkreislaufs gekoppelt.

Funktionseinheiten wie die zentrale Controller Unit und mehrere Kühlmittel-Fördereinheiten (CCUs) je nach Leistungsanforderung sind vollständig modular und werden unkompliziert ins Rack geschoben. Sie garantieren hohe Verfügbarkeit durch n+1 redundante Auslegung. Das Monitoring von Leckagen setzt schon auf Komponenten-Ebene an.

Beim Service bietet dieses Konzept einen wesentlichen Vorteil: Komponenten wie Controller, Sensoren, Filter oder die Pumpeneinheiten der In-Row-Lösung können im laufenden Betrieb gewartet und einfach per „Hot Swap“ getauscht werden. Die Stromversorgung erfolgt über die standardisierte DC Busbar im Rack. Der Aufbau ist so gestaltet, dass die Module ähnlich wie beim üblichen Umgang mit Servern bewegt werden können.

Im Gespräch mit Oliver Schonschek, News-Analyst bei Insider Research, erklärt Martin Dörrich, Head of Product Management IT Cooling bei Rittal, unter anderem:

  • Die Erwartungen an KI sind groß in der deutschen Wirtschaft. Doch es gibt auch Herausforderungen. Vielen denken an Datenschutz bei KI, doch auch Fragen zur Infrastruktur müssen gelöst werden. Was sind hier die Herausforderungen?
  • Wie kann denn KI bei der Abwärmenutzung bzgl. Nachhaltigkeit helfen, was braucht es denn zur Kühlung von leistungsstarken GPUs?
  • Wo sind die technischen und wirtschaftlichen Grenzen bisheriger Ansätze und Lösungen für die Kühlung?
  • Wird die direkte Flüssigkeitskühlung die Luftkühlung kurz bis mittelfristig ersetzen?
  • Rittal bietet mehr als 1 Megawatt Kühlung. Was ist die Technologie dahinter?
  • Bei Wasserkühlung müssen Leakagen so früh wie möglich gefunden werden. Wie machen Sie das?
  • Wie haben Sie die Anforderungen der Hyperscaler bei der Spezifizierung einbezogen?
  • Können Sie die Bedeutung von Open Compute Project erklären?
  • Welche Rolle spielen Standardisierung und Skalierbarkeit bei der Infrastruktur für den weiteren KI-Ausbau?
  • Könnten Sie zum Schluss noch einen Ausblick geben, wie sich die Leistungsanforderung im KI-Bereich in den nächsten Jahren entwickeln könnten?

Der Podcast steht bei Captivate, bei Apple Podcasts, bei Spotify, bei Deezer und bei YouTube zur Verfügung. Am besten gleich reinhören bei Insider Research im Gespräch!

(ID:50661238)

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zu RZ- und Server-Technik

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung