Modulare Rechenzentren „Der Kunde braucht nicht einmal ein Gebäude“

Anbieter zum Thema

KAYTUS

Portus Data Centers

Vertiv GmbH

DAXTEN GmbH

Hohe Strompreise bremsen den Ausbau von KI-Infrastruktur in Deutschland. Darren Cox von Kaytus erläutert, warum Unternehmen in die Nordics ausweichen und wie containerisierte Rechenzentren die Bereitstellungszeit verkürzen.

Herr Cox, wie schätzen Sie die aktuelle Entwicklung des deutschen Marktes für KI-Infrastruktur ein?

Darren Cox, General Manager Europa, Kaytus: Der deutsche Markt hinkt beim Ausbau von KI-Infrastruktur der globalen Entwicklung seit einiger Zeit hinterher, vor allem wegen fehlender und kaum bezahlbarer Energie infolge der energiepolitischen Lage. In Deutschland liegen wir aktuell bei etwa 34 bis 35 Cent pro Kilowattstunde, in den nordischen Ländern bekommt man dieselbe Kilowattstunde für rund zwei Cent. Deshalb setzen viele deutsche Unternehmen, die KI-Infrastruktur aufbauen wollen, derzeit eher auf Standorte in den Nordics als auf Deutschland.

Digitale Infrastrukturpolitik in Deutschland

Kommentare zur Rechenzentrumsstrategie der Bundesregierung

Gleichzeitig wird hierzulande viel gebaut. Die Schwarz Gruppe etwa errichtet derzeit drei Rechenzentren in Deutschland, die mit Grünstrom versorgt und sehr energieeffizient sowie technologisch auf dem neuesten Stand sein werden. Je nach Standort sollen sie in den kommenden sechs bis zwölf Monaten ans Netz gehen, es wären die ersten Projekte dieser Art in Deutschland. Insgesamt erwarte ich, dass sich die Entwicklung in Deutschland bis 2027 deutlich beschleunigt und wir einen spürbaren Wandel sehen werden.

Was sind aktuell die größten Anforderungen von Betreibern und Unternehmenskunden?

An erster Stelle steht die Ausführungsgeschwindigkeit, von der Planung über Design und Fertigung bis zu Lieferung und Inbetriebnahme. Diese Geschwindigkeit verkürzt das Zeitfenster vor der Investition, und das ist bei Investitionssummen von mehreren Hundert Millionen bis zu mehreren Milliarden Dollar entscheidend, insbesondere bei den aktuell hohen Zinsen. Je länger das Kapital gebunden ist, ohne Erträge zu erwirtschaften, desto teurer wird es.

Zweitens braucht es Fläche und Strom. In der Vergangenheit war das der klassische Flaschenhals. Das ändert sich gerade drastisch, weil derzeit sehr viele Rechenzentren gebaut werden.

Containerbasierte KI-Rechenzentren

Wie lässt sich der Bedarf nach einer schneller Bereitstellung decken?

Mit containerbasierten KI-Rechenzentren. Bis zu 90 Prozent der Infrastruktur entstehen bereits in Werken. Dadurch verkürzt sich die Installationszeit vor Ort erheblich. . Der Kunde braucht nicht einmal ein Gebäude, er benötigt im Grunde nur Strom. Ein Dieselgenerator ist als Notstromlösung sinnvoll, aber keine dauerhafte Lösung. Steht an einem Standort ausreichend Strom zur Verfügung, können wir dort auch ohne bestehendes Gebäude liefern. Wenn ausreichend Strom verfügbar ist, können wir die Infrastruktur auch ohne klassische Rechenzentrumsumgebung bereitstellen.

Ein konventionelles Rechenzentrum benötigt häufig bis zu 24 Monate Bauzeit. Es handelt sich um eine schlüsselfertige Lösung. Wir liefern die gesamte Infrastruktur, also Netzwerktechnik, Kühlung und die Power Cubes, sowie alles Weitere, was für den Betrieb notwendig ist, inklusive des kompletten Software-Stacks und der Managementsoftware. Auch hier gilt: Etwa 90 Prozent wird bereits im Werken vorgefertigt, sodass der Aufwand für die Installation vor Ort minimal ist.

Netzwerk und Kühlung für KI-Cluster

Welche Rolle spielt Flüssigkühlung?

Direct Liquid Cooling (DLC), also direkte Flüssigkühlung, kühlt nicht nur die CPUs, sondern auch die GPUs, den Arbeitsspeicher und weitere Komponenten. Das senkt nicht nur die Kühlkosten, sondern verlängert auch die Lebensdauer der Infrastruktur. Hitze ist für elektronische Komponenten ein entscheidender Faktor, der die Lebensdauer massiv verkürzt. Es gab vor einigen Jahren eine Faustregel, wonach jedes zusätzliche Grad über zehn Grad Temperaturanstieg die Lebensdauer über die Betriebszeit um bis zu 30 Prozent reduziert. Je kühler und je länger man die Systeme entsprechend betreibt, desto mehr spart man an Kühlkosten, und desto zuverlässiger laufen sie über einen deutlich längeren Zeitraum.

Unterscheidet sich die Infrastruktur für KI-Training und KI-Inferenz?

Das hängt vor allem davon ab, wo das Inferencing stattfindet, im Rechenzentrum oder am Edge. Irgendwann wird jedes trainierte Modell zu einer Anwendung. Ein typisches Beispiel ist der Einzelhandel: Ist das Training abgeschlossen und das Modell fertig, bekommt jede Filiale ihren eigenen, kleineren KI-Server oder eine entsprechende Workstation, auf der das Inferencing läuft, etwa für automatisierte Kassen, Sicherheitsanwendungen oder die Erkennung von Ladendiebstahl. Das ist ein völlig anderes System als das, was wir für das Training im Rechenzentrum einsetzen. Wir decken beides ab.

Worin unterscheiden sich die Systeme am Edge konkret von denen im Rechenzentrum?

Es sind grundsätzlich andere Maschinen. Die großen, sehr leistungsstarken Trainingssysteme im Rechenzentrum, etwa auf Basis der neuen Nvidia „B300“ oder „GB300“, sind, wenn sie nicht flüssiggekühlt sind, mit vielen Lüftern ausgestattet und entsprechend laut. Das eignet sich nicht für den Edge-Einsatz. Steht ein solches System zum Beispiel im Backoffice eines Supermarkts, muss es eine vergleichsweise leise Desktop- oder kompakte 19-Zoll-Lösung sein. Auch die eingesetzten GPUs sind deutlich weniger leistungsstark als bei den großen Trainingssystemen im Rechenzentrum, entsprechend liegt der Preis für ein Edge-System auch nur bei einem Bruchteil dessen, was ein Rechenzentrumssystem kostet.

Neuigkeiten von der Nvidia GTC

Neue Leistungshorizonte mit Nvidia Vera-Rubin-Systemen

Vera-Rubin-Architektur

Nvidia erweitert Plattform für KI und wissenschaftliche Simulationen

Häufige Fehler bei KI-Projekten

Wo sehen Sie die größten Fehleinschätzungen beim Aufbau von KI-Infrastruktur?

Manche Unternehmen unterschätzen die Komplexität. Manche denken, es reicht, ein paar GPU-Server zu kaufen und in den bestehenden Serverraum zu stellen, um KI nutzen zu können. So einfach ist es nicht. KI stellt völlig andere Anforderungen an Netzwerk und Storage. Das muss bei der Planung der Infrastruktur und der Installation berücksichtigt werden, denn nicht jede Installation ist gleich.

Die meisten Systeme basieren zwar auf Nvidia-Referenzdesigns, müssen aber trotzdem auf die konkreten Anforderungen des jeweiligen Rechenzentrums oder Kunden abgestimmt werden.

Wie lässt sich KI-Infrastruktur energieeffizient betreiben?

Ein wichtiger Bestandteil ist die „Deployment-Management“-Software. Durch Lastverteilung der GPUs und die Optimierung der Stromversorgung lassen sich laut unseren Erfahrungen mindestens 20 Prozent Energie einsparen. Bei flüssiggekühlten Installationen kommen weitere Einsparungen hinzu.

Die Software unterstützt Deployment, Betrieb und verbrauchsbasierte Abrechnung und soll die Gesamtbetriebskosten senken. Durch ein Load Balancing der GPUs bis hin zur Steuerung der Stromversorgung lassen sich mindestens 20 Prozent einsparen, bei flüssiggekühlten Installationen zusätzlich rund 10 Prozent beim Strombedarf.

Bei Deployments mit bis zu einem Gigawatt Gesamtleistung geht es dabei um sehr viel Geld. Die Software deckt Deployment und Management bis hin zur automatisierten, verbrauchsbasierten Abrechnung ab, was auch die gesamte Backoffice-Verwaltung spürbar entlastet. Bei mehreren Mietern im Rechenzentrum funktioniert das entsprechend mandantenfähig. Insgesamt ist es eine schlüsselfertige Lösung, die speziell darauf ausgelegt ist, Workloads zu analysieren, Lasten auszubalancieren und die Gesamtbetriebskosten (Total Cost of Ownership, TCO) zu senken.

Ist die Plattform an bestimmte KI-Anbieter gebunden?

Nein, die Plattform „MotusAI“ ist eine KI-Infrastruktur- und DevOps-Plattform für Enterprise-KI-Anwendungen und KI-Agenten. Sie steht grundsätzlich jedem KI-Agenten offen und lässt sich mit LLMOps- sowie KI-Anwendungs-Frameworks wie „Open Claw“ und „Dify“ integrieren.

Über Rechenleistung, Ressourcenorchestrierung, Modell-Deployment und Betriebsfunktionen beseitigt „MotusAI“ zentrale Engpässe beim Ausrollen von KI-Workloads und -Agenten und sorgt für mehr Ressourceneffizienz und Zuverlässigkeit im Unternehmenseinsatz beim Skalieren. Die Plattform basiert auf Kubernetes und ermöglicht das zentrale, einheitliche Management heterogener KI-Infrastruktur, also unterschiedlicher KI-Server, GPU-Beschleunigungsplattformen und weiterer Rechenressourcen.

HPC und KI wachsen weiter zusammen

Wie entwickelt sich das Verhältnis von HPC und KI?

HPC und KI wachsen zunehmend zusammen. Viele klassische HPC-Anwendungen werden bereits GPU-beschleunigt. Perspektivisch werden beide Workload-Arten auf derselben Infrastruktur laufen können. Unternehmen benötigen dann nicht mehr zwingend separate Umgebungen für HPC und KI.

Welche Herausforderungen erwarten Sie in den nächsten ein bis zwei Jahren?

Ein wichtiges Thema bleiben die Preise für Flash-Speicher. Sie treiben derzeit die Infrastrukturkosten nach oben. Langfristig dürfte sich die Situation durch neue Halbleiterfabriken entspannen. Gleichzeitig beschleunigt sich das Innovationstempo erheblich. Während neue GPU-Generationen früher alle zwei bis drei Jahre erschienen, liegen die Zyklen heute bei weniger als zwölf Monaten. Infrastruktur und Engineering müssen mit dieser Entwicklung Schritt halten.

Die achte Nutanix-Studie mit dem Enterprise Cloud Index

KI liebt Container, erzeugt Schatten-IT und organisatorische Silos

Vorbereitet für die industrielle KI

Brainqubes liefert KI-Datacenter-Container ab 2,8 Megawatt

(ID:50924252)