eBook: Die KI macht das schon...

Energiemanagement, Geräteverwaltung, Workload-Management und Sicherheit – vier Bereiche, in denen sich der Einsatz von KI bereits bewährt hat.
Bis zum Jahre 2035 soll KI die Unternehmensgewinne um durchschnittliche 38 Prozent anheben. Die Wirtschaft steht unter Druck, Reserven der Produktivität freizusetzen und neue Wege der Entscheidungsfindung zu betreten. Gerade im Mittelstand herrscht noch viel Unkenntnis und Unsicherheit, was den Einsatz von KI bis jetzt ausbremst. Jedoch hält gerade Künstliche Intelligenz mittlerweile in allen Bereichen der IT und OT unerbittlich Einzug. (PDF | ET 29.02.2024)
Hier das Inhaltsverzeichnis:

... OT mit KI: Facility Management

... IT mit KI: Hardware & Co.

....Intelligente Ressourcenzuteilung

....KI-gestützte Cyber-Abwehr

eBook: „Die KI macht das schon...“ zum Download

In solchen Fällen arbeitet Digital Realty als Rechenzentrumsbetreiber zu Beginn des Projekts mit dem Kunden zusammen, um das Layout des geplanten Schrankaufbaus zu überarbeiten und sowohl für den Kunden als auch für den Betreiber zu optimieren. Es kann sein, dass das Layout so angepasst wird, dass von Anfang an keine leeren Schränke vorhanden sind und ein dedizierter Netzwerkschrank nicht erforderlich ist, sondern die Netzwerkkomponenten auch in den Rechen- und Speicherschränken installiert werden. Die frühzeitige Einbindung des Rechenzentrumsanbieters, insbesondere dessen Solution Architects, ist daher oft ein Erfolgsfaktor und kann auch zu Kostensenkungen führen.

Schränke und Erweiterungen

Bei KI-Projekten mit hoher Dichte ist es manchmal eine gute Entscheidung, mit Wärmetauschern an der Rückseite der Racks zu arbeiten oder Kühlsysteme in den Schrankreihen zu installieren. Ab und zu werden Schränke mit Kühlern an der Oberseite geplant oder die Rechensysteme benötigen Flüssigkeit, zum Beispiel gekühltes Wasser.

All diese Schränke unterscheiden sich von Standardschränken ohne besondere Anforderungen. Insbesondere bei der direkten Flüssigkeitskühlung muss der Schrank zusätzlichen Platz für die Wasserverteilung bieten. Diese Produkte ähneln den Stromverteilern und benötigen zusätzlichen Platz im IT-Schrank. Diese Einheiten, Manifolds genannt, spielen eine entscheidende Rolle bei der effektiven Verteilung von gekühltem Wasser.

Wasser für die Kühlung

Datev eG: Wassergekühlte Racks sparen uns 60 Prozent Stellfläche für Hardware

An dieser Stelle soll nicht auf all die neuen Kühllösungen eingegangen werden, die zur Verfügung stehen, aber es lohnt sich, daran zu denken, dass es viele davon gibt und viele neue Produktnamen darunter sind, wie Rack-Chiller, Coolant Distribution Units, RDHX (Rear Door Heat Exchanger), Immersion Cooling, Inrow Coolers, usw. Und es geht nicht nur um Kühlung und Belüftung. High-Density-Schränke benötigen viel Strom, und die in HD-Schränken installierten Systeme benötigen oft eine große Anzahl von Stromanschlüssen, die von Rack-PDUs bereitgestellt werden müssen. Um diese Herausforderung zu lösen, müssen oft 4, 6 oder 8 Rack-PDUs in einem einzigen Schrank installiert werden.

IT-Netzwerke

Das Netzwerk ist der Eckpfeiler von KI-Projekten und deren Erfolg. Die verteilte Datenverarbeitung ist entscheidend für den Erfolg der KI, und die Skalierbarkeit des Netzwerks und seine Fähigkeit, eine wachsende Zahl von Computenodes zu bewältigen, sind von entscheidender Bedeutung.

Im Hinblick auf die Vernetzung sind viele Herausforderungen für einige Kunden neu. Themen wie „Performance at Scale“, Multicloud, hybrides Arbeiten, Cluster-Netzwerke, Infiniband, MTP/MPO usw. sind nur einige von ihnen. KI-Systeme bestehen manchmal aus Tausenden von Verarbeitungseinheiten (vor allem GPUs), die hoch ausgelastet werden. Dies stellt die KI-Netzwerkinfrastruktur, die oft Hunderte von Hochgeschwindigkeits-Ports (100 Gbit/s, 400 Gbit/s und 800 Gbit/s) unterstützen muss, vor erhebliche Herausforderungen.

Bei der Entwicklung der Netzwerkarchitektur für KI-Rechenzentren ist es wichtig, eine integrierte Lösung zu schaffen, die eine verteilte Datenverarbeitung priorisiert. Die Berücksichtigung von Netzwerkaspekten ist der Schlüssel zur Erschließung des vollen Potenzials von KI-Technologien und zur Förderung von Innovationen in der Rechenzentrumsbranche. Neben der Anbindung von Kunden an Cloud-Infrastrukturen zur Nutzung ihrer KI-Ressourcen können sich Unternehmen auch mit anderen Kunden verbinden oder Netzwerkverbindungen mit ihren Partnern herstellen.

Digital Realty bietet seinen Kunden auch eine strukturierte Rack-Verkabelung an, unabhängig von der jeweiligen Technologie. Oft wird ein sicherer Internet-Zugang benötigt, den der Rechenzentrumsbetreiber ebenfalls im Rahmen seines Produktportfolios anbietet.

Daten-Management

Wenn es darum geht, KI-Infrastruktur zu betreiben, ist es wichtig, dass eine stabile Verbindung zu den gespeicherten Daten gewährleistet ist. In den meisten Fällen stammen die von der KI zu verarbeitenden Datenmengen aus dem Internet. Dabei handelt es sich hauptsächlich um Texte, Bilder, Videos, Sprache in Form von gesprochenem Wort, Sensordaten und andere zu verarbeitende Informationen.

Daten stammen oft aus mehreren und unterschiedlichen Netzen. Vor allem bei der „Predictive AI“ sehen die Experten von Digital Realty die Notwendigkeit, Daten aus verschiedenen Quellen zusammenzuführen. Colocation-Rechenzentren haben erhebliche Vorteile gegenüber On-Prem-Installationen, wenn es um Vernetzungslösungen geht.

Um eine stabile, belastbare und schnelle Verarbeitung zu gewährleisten, muss die Netzwerkverbindung nicht nur leistungsstark, sondern auch zuverlässig sein. Auch die Latenzzeit spielt hier eine große Rolle. Viele Kunden entscheiden sich daher für Internet-Breakouts an mehreren Standorten ihres Co-Location-Anbieters und setzen auf "Blended Internet". Dabei werden mehrere Upstream-Provider genutzt, was die Verfügbarkeit weiter erhöht.

Um externe Angriffe wie zum Beispiel DDoS-Attacken zu verhindern, werden auch Firewall-Systeme und spezielle DDOS-Schutzlösungen eingesetzt.

Wo soll die KI-Infrastruktur betrieben werden?

Viele Kunden sind sich nicht sicher, welcher der beste Standort für den Betrieb der KI-Infrastruktur ist. Ist es am besten, sie in der Cloud zu betreiben oder sollte man in seine eigene Lösung investieren, die in einem Colocation-Rechenzentrum läuft? Außerdem stellt sich die Frage, ob es sinnvoll ist, ein Hybridmodell aufzubauen oder die Ressourcen von einem IaaS-Anbieter zu mieten.

Als Experte in diesem Bereich weiß Digital Realty, dass dies eine ganz individuelle Entscheidung ist. Um diese Frage zu beantworten, ist daher eine genaue Betrachtung der Use-Cases wichtig. Nur so kann eine gute Strategie erarbeitet werden, die auch den rechtlichen Anforderungen entspricht.

Weitere Punkte, die es zu beachten gilt:

• Ist die Anwendung auf Sicherheit, Leistung, Compliance, Kosten und Verfügbarkeit ausgerichtet?

• Stromverbrauch in der Trainingsphase versus Inferenzphase: Meistens verbraucht die Trainingsphase weitaus mehr Energie als die Inferenzphase.

• Wie oft führe ich Trainingsphasen durch und wie lange dauern diese Phasen?

• Habe ich einen globalen Anbieter, der es mir ermöglicht, Trainingsphasen gegebenenfalls an Standorten außerhalb des eigenen Landes laufen zu lassen, die weniger stromkostenintensiv sind und gleichzeitig die Möglichkeit bieten, Data-Storage konform geltender Gesetzgebung vor Ort zu betreiben?

(ID:50204343)