Datacenter-Fabrics binden Betreiber oft an Betriebssystem und Lizenzmodelle. Hedgehog legt eine offene Steuerungsschicht vor über handelsübliche Switches mit dem freien Netzbetriebssystem Sonic.

SGLang bedient große Sprachmodelle mit hohem Durchsatz und teilt gemeinsame Präfixe im KV-Cache über viele Anfragen. Das quelloffene Framework läuft auf GPU-Clustern von Nvidia und AMD und bündelt eingehende Anfragen fortlaufend. Betreiber senken damit die Kosten je Token im produktiven Betrieb.

GPUStack fasst verstreute Grafikkarten und KI-Beschleuniger zu einem gemeinsamen Cluster zusammen und stellt darauf große Sprachmodelle bereit. Das quelloffene Projekt richtet sich an Betreiber, die eigene Modelle im Rechenzentrum ausführen und dabei Hardware mehrerer Hersteller mischen.

GPU-Kapazität bleibt knapp und teuer. HAMi teilt eine physische GPU in Anteile nach Speicher, Rechenkernen oder Gerätezahl und lässt mehrere Kubernetes-Pods parallel darauf rechnen. Die harte Isolation zur Laufzeit hält die Workloads dabei getrennt.

Coroot sammelt Metriken, Logs, Traces und Profile über eBPF im Linux-Kernel und formt daraus eine automatische Service-Map. Die quelloffene Plattform arbeitet ohne Agenten im Anwendungscode und ordnet Anomalien einer konkreten Ursache zu. So sehen Administratoren den Zustand verteilter Dienste an einer einzigen Stelle.

Deklarative Infrastruktur-Verwaltung steuert Rechenzentren über Code, doch der Zustand im State-File bleibt heikel. Ein Fehlgriff löscht produktive Ressourcen oder blockiert das Team über eine hängende Sperre. Die aktuelle OpenTofu-Linie verfeinert diese Punkte und gibt Administratoren mehr Sicherheit bei riskanten Vorgängen.

Der Strombedarf im Rechenzentrum steigt mit jeder neuen KI-Last, doch die Verteilung des Verbrauchs auf einzelne Anwendungen bleibt oft unklar. Ein quelloffener Exporter ordnet die aufgenommene Leistung einzelnen Containern, Pods und Knoten zu und liefert die Werte an gängige Monitoring-Systeme im Betrieb.

Proxmox VE liefert eine umfangreiche Web-Oberfläche, doch im laufenden Betrieb zählt oft der schnelle Griff zur Kommandozeile. Ein quelloffenes Terminal-Werkzeug bündelt jetzt Knoten, virtuelle Maschinen und Container in einer Ansicht und bringt Tastaturnavigation in den Proxmox-Betrieb.

Verteilter Objektspeicher schont Kapazität, kostet bei Schreibzugriffen aber Rechenzeit und I/O. Die aktuelle Tentacle-Generation ordnet den Erasure-Code-Pfad neu und senkt den Aufwand pro Schreibvorgang. Administratoren gewinnen Durchsatz für Blockspeicher und Dateisysteme, ohne dabei Redundanz aufzugeben

Proxmox VE verbreitet sich in Rechenzentren als Ersatz für VMware. Beim Sprung von einem Cluster auf mehrere Standorte fehlt vielen Betreibern aber eine gemeinsame Sicht. ProxCenter bündelt mehrere Cluster und Backup-Server in einem Web-Dashboard und bringt eine vCenter-ähnliche Übersicht ohne Lizenzkosten.

Verteilte Rechenzentren, Cloud-Instanzen und Außenstandorte brauchen sichere Verbindungen ohne offene Eingangsports. NetBird spannt ein WireGuard-Overlay auf, in dem jeder Knoten direkt und verschlüsselt mit seinen erlaubten Gegenstellen spricht. Die Identität steuert den Zugriff anstelle der Firewall-Regel am Gateway.

Ein Rechenzentrum betreibt Linux-Workloads in Systemcontainern und in virtuellen Maschinen. Incus führt beide Betriebsarten in einer Steuerung zusammen und läuft vom einzelnen Host bis zum Cluster im Rack. Die Version 7.2 härtet die Trennung der Instanzen und erweitert Netzwerk und Storage.