Immersion Cooling neu gedacht OVHcloud entwickelt hybride Eintauch-Flüssigkeitskühlung

Von Ulrike Ostler

Anbieter zum Thema

Wie in den vergangenen Jahrzehnten sind Rechenzentren auf Racks angewiesen, deren Kühlung von einer Vielzahl von Systemen abhängt, die häufig aus Lüftern bestehen. Die tödliche Wärme ist nach wie vor ein Hauptproblem, wenn es darum geht, Server am Laufen zu halten. Die Datacenter setzen stromhungrige Lösungen wie Klima-Anlagen (direkte Expansion) ein oder auch freie Kühlung – in diversen Kombinationen. Techniker von OVHcloud haben sich Neues ausgedacht.

(Bild: OVHcloud)

OVHcloud leistet seit 2003 Pionierarbeit bei der direkten Serverkühlung mit Wasser. in großem Maßstab zur Kühlung unserer Server. Der einzigartige Ansatz hat dem Cloud-Anbieter dabei geholfen, hohe Standards bei den PUE/WUE-Indizes seiner Rechenzentren zu setzen und gleichzeitig die gesamte Kohlenstoffbelastung zu senken -und zwar in einem großen Maßstab.

Nun arbeitet die Forschungs- und Entwicklungsabteilung von OVHcloud an einer neuen Generation von Kühlungslösungen für Datacenter. Denn eine der vielversprechendsten Technologien ist heute die Immersionskühlung. Dabei kommt es zu einem direkten Kontakt der Kühlflüssigkeit mit den Hardwarekomponenten.

Der Artikel basiert auf einem Blog-Beitrag von Ali Chehade, Mohamad Hnayno und Julien Jay, der am 13. Oktober veröffentlicht wurde. Darin schildern sie, wie sie eine eigene Art der Immersionskühlung entwickelt haben. Die Ziele, die dabei verfolgt haben, sind: Verbesserung des Platzbedarfs von Rechenzentren, Reduzierung des Stromverbrauchs, Anpassung an neue Betriebsbedingungen und Verbesserung der allgemeinen Zuverlässigkeit.

Unter Immersionskühlung versteht man das Eintauchen von elektronischen Geräten in eine thermisch und nicht elektrisch leitende Flüssigkeit.
Unter Immersionskühlung versteht man das Eintauchen von elektronischen Geräten in eine thermisch und nicht elektrisch leitende Flüssigkeit.
(Bild: OVHcloud)

Eine typische Tauchkühlungslösung verwendet in der Regel etwa Pumpen, Kühlkörper, Wärmetauscher, Kondensatoren und versiegelte Verdunstungsanlagen, die entweder viel Energie verbrauchen, versiegelte Gehäuse erfordern oder eine relativ große Oberfläche einnehmen, was die Anzahl der implementierbaren Server begrenzt. Die Hybrid Immersion Liquid Cooling-Technik von OVHcloud aber besteht aus einem Wasserkühlsystem, das direkt auf den Chip trifft, und einem passiven Einphasen-Tauchkühlsystem, das zwei Flüssigkeiten enthält: Wasser und eine chemische Verbindung.

  • Das Wasser dient der Kühlung eines Kühlkörpers durch Wasserblöcke auf den CPUs und GPUs - es ist im Prinzip die gleiche Technik, die heute in allen OVHcloud-Servern verwendet wird. Dazu kommt eine proprietäre Serpentinen-Konvektionsspule, die mit einer Pumpstation (PSS) und einem Trockenkühler verbunden ist, um die Wärme aus dem Datacenter abzuführen.
  • Die zweite Flüssigkeit befindet sich in einem Tank und kühlt die gesamte IT-Ausrüstung des Servers, nicht nur CPUs und GPUs. Diese Flüssigkeit ersetzt im Grunde die Luft, die in den OVHcloud-Servern zirkuliert, wodurch die Effizienz aller Komponenten, die nicht durch das OVHcloud-Wasserkühlsystem gekühlt werden, verbessert wird.

Die Technik wird mit einem neuen 3-stöckigen Server-Rack-Design (siehe: Abbildung) im Bibliotheksformat geliefert, das OVHcloud mit bis zu 48 Servern (1U) oder 24 Servern (2U) hochkant bestücken kann. Jeder Server ist in einem eigenen Tank untergebracht. Das sorgt für eine unabhängige Kühlung und ermöglicht somit den Einsatz in einem großen Maßstab. Darüber hinaus profitiert jeder Server von einem speziellen Überwachungssystem für alle Umgebungsfaktoren, das einen sicheren Betrieb auf Serverebene gewährleistet.

Die Vorteile für Stromverbrauch und Effizienz

Nach Angaben der OVHcloud-Techniker hat dieses Hybrid Immersion Liquid Cooling System gleich mehrere Vorteile:

  • Das passive Rack-Design bedeutet, dass es weder Pumpen noch Lüfter gibt, was zu einem Null-Stromverbrauch für die Kühlung auf Rack-Ebene führt.
  • Hochleistungs-Racks können mit Vorlauftemperaturen im Rechenzentrum von bis zu 45 Grad betrieben werden und ermöglichen unterschiedliche Kühllasten bei verschiedenen klimatischen Bedingungen.
  • Die Technik bleibt Energie-effizient, indem sie die vor Ort verfügbare freie Kühlung nutzt.
  • Der Stromverbrauch und die Investitionskosten werden durch den Wegfall der Verdunstungskühlung (ohne Pumpen), die bei Trockenkühlern für Rechenzentren in Gebieten mit Umgebungstemperaturen unter 43 Grad eingesetzt wird, weiter reduziert.
  • Der Unterschied zwischen der zugeführten und der wiedergewonnenen Temperatur des Gleichstromwassers (DT) von 20 K kann durch hocheffiziente CPU- und GPU-Kühlplatten und eine große thermische Kontaktfläche zwischen der Serpentine und dem Dielektrikum erreicht werden.
  • Das zum Patent angemeldete Serpentinen-Design nimmt nur eine vergleichsweise kleine Fläche innerhalb des Servergehäuses ein und maximiert somit den Platz für die Komponenten.
  • Der Energieverbrauch der gesamten Kühlungsinfrastruktur eines Rechenzentrums würde mithilfe des Hybridsystems von OVHcloud im Vergleich zur bisherigen Wasserkühlung von OVcloud um mindestens 20,7 Prozent reduziert.
    WUE wird auf 0 reduziert - in Bereichen, in denen die Lufttemperatur unter 43 Grad liegt.
  • Der Energieverbrauch eines Servers pro Jahr ließe sich im Vergleich zu luftgekühlten Servern um mindestens 20 Prozent und im Vergleich zu wassergekühlten Servern um 7 Prozent senken.
  • Ein geringerer Stromverbrauch bedeutet niedrigere Betriebskosten (OPEX),
  • Schließlich unterstützt die Lösung vor dem Hintergrund der ständig steigenden CPU/GPU-TDP eine höhere Leistungsdichte.
  • So kann etwa eine tatsächliche Stellfläche von bis zu 37 Units pro Quadratmeter ohne zusätzliche Pumpen- und Kondensatorsysteme garantiert werden. Das Design ist auf das Zwei- oder Dreifache der Grundfläche skalierbar, wenn die Eintauchkühlschränke in gestapelten Seecontainern installiert werden.
  • Da weder Versiegelung noch komplizierte Wärmetauscher und Pumpkreise erforderlich sind, bleiben die Investitionskosten (CAPEX) niedrig.
  • Bei einer Auslasstemperatur von 65 Grad im Rechenzentrum lässt sich die Abwärme vermutlich leichter für erschwingliche Wärmerückgewinnungssysteme nutzen.
  • Bei OVHcloud sorgt vorgeschlagene Rack-Design für einen Zugang an der Vorderseite und damit für mehr Flexibilität und Freiheit bei der Gestaltung.

Neue Indizes für Rechenzentren

Mit einer derartigen Technik änderten sich die üblichen Leistungsindikatoren für Rechenzentren – „dramatisch“, wie die OVHcloud-Tehniker schreiben.

Verbesserung des Werts für Partial Power Usage Effectiveness (PPUE) auf 1,004. Die Techniker erwarten, dass sich aber auch die globale PUE bei einem ähnlichen Ansatz, bei dem die Verlustleistung im Energieverteilungssystem einbezogen wird, verbessert. Entsprechend seiner Transparenzverpflichtung wird OVHcloud die PUE-Werte bekanntgeben, sobald aussagekräftige Daten über die langfristige Nutzung an einem bestimmten Standort vorliegen, kündigt das Unternehmen an.

Die PPUE für die Kühlung der Infrastruktur ist wie folgt:

(Bild: OVHcloud)


Außerdem steigt der Wassernutzungseffizienz (WUE) , der Wert reduziert sich sogar auf 0 für Rechenzentren in Gebieten, in denen die klimatischen Umgebungstemperaturen unter 43 Grad liegen. Dieser Wert ist eine Nachhaltigkeitsmetrik zur Messung der Wassermenge, die von Rechenzentren zur Kühlung von IT-Geräten verwendet wird. Der jährliche Wasserverbrauch am Standort umfasst das für die Befeuchtung verwendete Wasser und das vor Ort für die Energie-Erzeugung oder Kühlung des Rechenzentrums und seiner unterstützenden Systeme verdunstete Wasser. Er ist wie folgt definiert:

(Bild: OVHcloud)

Überlegungen zur Umwelt

Neben Wasser kommt eine nicht flüchtige dielektrische Kohlenwasserstoffflüssigkeit zum Einsatz. Die Forschungs- und Entwicklungsabteilung von OVHcloud hat das System mit einer Vielzahl von marktüblichen Flüssigkeiten getestet und insbesondere darauf geachtet, dass sie die folgenden Punkte erfüllt:

  • nicht korrosiv
  • extrem niedrige Verdampfung
  • ungiftig
  • nicht allergen
  • biologische Abbaubarkeit in 30 Tagen
  • sehr hoher Flammpunkt
  • dielektrische Festigkeit bis zu 42 kV
  • GWP=0 - Global Warming Potential (Treibhauspotenzial). Die Flüssigkeit trägt nicht zur globalen Erwärmung bei, im Gegensatz zu den meisten gasförmigen/flüssigen Flüssigkeiten, die in Kühltechnologien verwendet werden.
  • ODP=0 - ODP steht für Ozonabbaupotenzial. Die Flüssigkeit trägt nicht zum Ozonabbau bei, im Gegensatz zu den meisten gasförmigen/flüssigen Flüssigkeiten, die in Kühltechnologien verwendet werden.

Das Design

Das neue 3-stöckige Rack-Design für Server im Hochkantformat ist für eine hohe Serverdichte und eine geringe Rechenleistung pro Quadratmeter (U/m2) optimiert. Es kann mit einer manuellen/automatischen Führung zum Herausziehen von Servern ausgestattet werden, wodurch die Auswirkungen eines einzelnen Servers auf das gesamte Rack reduziert werden.

So funktioniert der Kreislauf von Erhitzung und Abkühlung bei der hybriden Immersionskühlung von OVHcloud.
So funktioniert der Kreislauf von Erhitzung und Abkühlung bei der hybriden Immersionskühlung von OVHcloud.
(Bild: OVHcloud)

Nach Angaben der OVHcloud-Techniker verbessert sich mit der hybriden Immersionskühlung auch die Zuverlässigkeit. Die Ausfallrate reduziert sich um bis zu 60 Prozent, indem sie das Risiko der Staubzirkulation eliminiert.

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zu RZ- und Server-Technik

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung.

Aufklappen für Details zu Ihrer Einwilligung

Durch den Wegfall jeglicher Lüfter auf Rack- und Serverebene trägt sie zu einem geräuschlosen Datacenter bei. Schließlich werden mehrere Geräte nicht mehr benötigt:

  • an den Racks angebrachte Wärmetauscher (drei Wärmetauscher pro Rack werden eliminiert),
  • 36 Lüfter, die normalerweise pro Rack installiert sind,
  • alle kleinen Lüfter in den Servern, und
  • Kühlmodule, die aus Pumpen und Plattenwärmetauschern bestehen

Die Autoren

Ali Chehade, Leiter F&E-Kühlung bei OVHcloud
Ali Chehade, Leiter F&E-Kühlung bei OVHcloud
(Bild: OVHcloud)

Ali Chehade ist Doktor der Ingenieurwissenschaften in Strömungsmechanik und thermischer Energie. Er verfügt über 12 Jahre Erfahrung im Bereich F&E/Ingenieurwesen und hat an der Innovation von Gleichstromkühlsystemen und Industrieanlagen gearbeitet. Er hat Projekte geleitet, die sich mit deren thermischer Leistung und Energieeinsparung befassen und hat Techniken/Strategien implementiert, um sie umweltfreundlich zu machen.

Innerhalb von OVHcloud fördert und koordiniert Ali als Leiter der Abteilung R&D-Cooling seit sieben Jahren und umgeben von einem Dutzend Ingenieuren die Entwicklung von Lösungen zur Verbesserung der Konstruktion und der Energieleistung von Rechenzentren.

Mohamad Hnayno ist F&E-Ingenieur bei OVHcloud.
Mohamad Hnayno ist F&E-Ingenieur bei OVHcloud.
(Bild: OVHcloud)

Mohamad Hnayno ist F&E-Ingenieur in der Kühlungsabteilung von OVHcloud und Doktorand im Bereich Wärme und Energie an der Universität Reims Champagne-Ardenne in Frankreich. Er hat einen Master 2 in Computational Mechanics und ein Ingenieursdiplom in der Fachrichtung: Energie.

Mohamad verfügt über einen F&E- und Ingenieurshintergrund, der ihm die Möglichkeit gab, während seiner langjährigen Praxiserfahrung wichtige Projekte in verschiedenen Technologien durchzuführen. Zu seinen Fachgebieten gehören Wärme-Übertragungsprozesse, Hardwarekomponenten und Software, Industrieprodukte, elektronische Kühlsysteme, thermische Leistung von Rechenzentren und Energiesparanalysen.

Julien Jay ist Manager für Kommunikation und Öffentlichkeitsarbeit bei OVHcloud.
Julien Jay ist Manager für Kommunikation und Öffentlichkeitsarbeit bei OVHcloud.
(Bild: OVHcloud)

Julien Jay ist Manager für Kommunikation und Öffentlichkeitsarbeit bei OVHcloud. Julien verfügt über mehrere Jahre Erfahrung in der PR-Branche und ist ein langjähriger Technologie-Enthusiast und ehemaliger professioneller Tech-Journalist. Mit mehr als 20 Jahren Erfahrung in der IT-Branche hat er viele IT-Zyklen miterlebt, verschiedene Teams geleitet und eine ganze Reihe von Artikeln geschrieben. Zu seinen Fachgebieten gehören Hardwarekomponenten und Software.

(ID:48674895)