Das Betreiben von Legacy-VMs neben eiem KI-Training Red Hat Openshift 4.21 optimiert KI-Ressourcen und Virtualisierung

Anbieter zum Thema

Red Hat GmbH

Vertiv GmbH

DAXTEN GmbH

EPS Rechenzentrum Infrastruktur GmbH

Red Hat veröffentlicht „Openshift 4.21“. Das Update bindet APIs für KI-Workloads und Ressourcen-Monitoring ein und macht Funktionen zur Orchestrierung verteilter Workloads und dynamischer Ressourcenverteilung allgemein verfügbar. Mit dabei: Optimierungen bei Speicherauslastung, Hybrid-Cloud-Architekturen und Virtualisierung.

Das Update auf Basis von Kubernetes 1.34 und der Container-Runtime „CRI-O 1.34“ soll die Position von Openshift als integrierter Plattform für den Produktivbetrieb von KI-Workloads, Container-Microservices und virtuellen Maschinen (VMs) zugleich stärken. Mit dem Openshift-Release könne etwa eine Bank, so Ju Lim und Duncan Hardie von Red Hat, kosteneffizient und skalierbar „Legacy-VMs für das Kerngeschäft betreiben und zugleich neue KI-Modelle für Betrugserkennung trainieren“.

Integriertes Management diverser KI-Workloads

Somit stehen effiziente Ressourcenverteilung für KI-Workloads, aber auch Funktionsverbesserungen für klassischere Container-Orchestrierung und Virtualisierung im Mittelpunkt des Updates. Konkret ermöglicht ein Red Hat-Build des Ressourcenmanagers „Kueue“ mit Unterstützung für den Operator „Kubeflow Trainer v2“ ein einheitliches Management von KI-Trainingsaufgaben aus verschiedenen ML-Frameworks (Machine Learning) über eine gemeinsame „Trainjob“-API.

Ressourcen-, Netzwerk- und Sicherheitsoptimierungen für komplexe Workloads

Weltbaum-Update für Kubernetes

Eine 'Visibility API' (API = Application Programming Interface) macht zudem die Position von Batch-Aufgaben in Warteschlangen für die Ausführung sichtbar. Nutzer sollen so Wartezeiten einschätzen und Administratoren gezielt Staus und Überbuchungen angehen können. Gleichzeitig tritt der Operator für Orchestrierung von verteilten Workloads 'Jobset' mit Openshift 4.21 aus der Betatest-Phase heraus. Dieser erlaubt die Integration verteilter Workloads mit etablierten Gitops-Abläufen, rollenbasierten Zugriffsrechten und Monitoring-Tools.

DRA-Funktionen für passendere GPU-Zuweisungen bei KI-Workloads

Die insbesondere für KI-Workloads entscheidende dynamische Ressourcenverteilung (Dynamic Resource Allocation, DRA), welche in Kubernetes 1.34 in die allgemeine Verfügbarkeit überführt wurde, wird in Openshift 4.21 um drei zusätzliche Funktionen erweitert. Im Zusammenspiel mit einem Hersteller-Treiber oder Operator können nun GPUs mit den passenden Hardware-Eigenschaften (etwa einer Mindestkapazität des Grafikspeichers) für bestimmte Workloads spezifisch angefragt werden.

„Kubernetes ist ein Biest“, so die Cloud-Native-Experten Narang und Pathak

Für LLMs ist Kubernetes das perfekte Zuhause, man muss es nur einrichten

Sollten einzelne GPU-Typen nicht verfügbar sein, schützt eine Fallback-Liste von Alternativen künftig vor dem Ausfall der Aufgaben. Zudem ermöglicht die neue DRA-Version einen Admin-Zugang zu aktiven GPUs für das Monitoring und Live-Debugging, während zuvor DRA nach der Bindung einer GPU mit einem Pod keinen Zugriff ermöglichte.

Effizienz- und Skalierungsfunktionen für VMs

Auch jenseits von KI-Workloads soll das Update 4.21 Verbesserungen bei Skalierbarkeit und Ressourceneffizienz mit sich bringen. Kontrollschichten (control planes) in Openshift können nun über den „Vertical Pod Autoscaler“ automatisiert und dynamisch Ressourcen je nach ausgelesener Auslastung verteilen. In Phasen der Inaktivität wechseln Kontrollschichten in einen Schlafmodus mit Erhaltung von Zustand und Konfiguration und fahren bei Bedarf wieder hoch.

CNCF Annual Survey: Die Infrastruktur der KI-Zukunft

Cloud Native wird zum KI-Zuhause, aber die Infrastruktur ächzt

„Openshift Virtualization“ kann zudem in Openshift 4.21 VMs mit ohne Neustart zwischen Cluster migrieren. Die Funktion ist allerdings noch in einem frühen „Technical Preview“- Status. Google-Cloud-Nutzer können zudem VMs direkt auf dedizierter Hardware (Bare Metal) in Google Cloud betreiben, ohne Overhead durch Nested Virtualization zu erzeugen. Zudem soll ein neuer KI-Assistent „Lightspeed“ Administratoren bei der Verwaltung und dem Troubleshooting von Openshift Virtualization unter die Arme greifen, während neue Konsolenfunktionen Unterstützung bei der Konfiguration virtueller Netzwerke bieten.

Ebenfalls führt das Update die Unterstützung aktueller Versionen von „VMware vSphere Foundation“ und „Cloud Foundation“ sowie der „Oracle Database Appliance“ ein, welche als integrierte Plattform den Aufwand bei dem Einrichten von Datenbank-Servern reduzieren soll. Im Zusammenspiel mit „Microsoft Azure“ unterstützt Openshift 4.21 zudem „Confidential Containers“ mit einer zusätzlichen Sicherheitsschicht auf Hardware-Ebene. Auch die IPv6-Unterstützung wurde ausgebaut.

Studienergebnisse von Red Hat aus deutschen Unternehmen

Das Verlangen nach Souveränität und KI

Lokale Containerumgebung

Rancher Desktop bündelt Containerverwaltung und Kubernetes

Kubernetes-Distribution mit Entwicklerfokus und Open-Source-Wurzeln

Community-getriebene Platt­form OKD für Container- Anwendungen

(ID:50705181)