Unternehmen holen KI-Workloads aus der Cloud zurück

„Enterprise AI Infrastructure Survey 2026“ Unternehmen holen KI-Workloads aus der Cloud zurück

18.03.2026 Von Paula Breukel 2 min Lesedauer

Anbieter zum Thema

Cloudian B.V.

Vertiv GmbH

DAXTEN GmbH

DeRZ - Deutsche Rechenzentren GmbH

Die Cloudian-Studie „Enterprise AI Infrastructure Survey 2026“ zeigt: Fast vier von fünf Unternehmen haben KI-Workloads bereits aus der Public Cloud abgezogen oder tun es gerade. Datensouveränität, Kostenüberschreitungen und Latenzanforderungen treiben die Verlagerung meist in Richtung Hybrid-Infrastruktur.

Die Public Cloud bleibt für Künstliche Intelligenz wichtig. Doch für produktionsnahe und sensible Anwendungen bevorzugen Unternehmen privatere Infrastrukturen.(Bild: © Deemerwha studio - stock.adobe.com) — Die Public Cloud bleibt für Künstliche Intelligenz wichtig. Doch für produktionsnahe und sensible Anwendungen bevorzugen Unternehmen privatere Infrastrukturen.
(Bild: © Deemerwha studio - stock.adobe.com)

Der Speicherhersteller Cloudian hat 203 IT-Entscheidungsträger zu ihrer KI-Infrastrukturstrategie befragen lassen. Das Ergebnis des „Enterprise AI Infrastructure Survey 2026" ist eindeutig: Die Phase des uneingeschränkten Cloud-first-Ansatzes bei KI-Workloads ist für viele Unternehmen vorbei.

79 Prozent der Befragten haben in den vergangenen 24 Monaten bereits KI-Workloads aus der Public Cloud auf eigene oder private Infrastruktur verlagert oder sind dabei, dies zu tun. Weitere 13 Prozent prüfen einen solchen Schritt aktiv.

CNCF: Unternehmen nutzen Kubernetes und weitere Cloud-Native-Ansätze zunehmend für ihre KI-Workloads, ohne die Open-Source-Infrastruktur angemessen gestärkt zu haben. (Bild: GPT-Image / KI-generiert)

Die Mehrheit der befragten Unternehmen befindet sich längst nicht mehr im Experimentierstadium. 63 Prozent skalieren KI bereits unternehmensbreit oder betreiben produktive Anwendungen. Hier fallen Infrastrukturentscheidungen also unter realen Produktionsbedingungen.

Datenschutz schlägt Cloud-Komfort

Haupttreiber der Verlagerung ist die Datensouveränität. Für KI-Anwendungen mit sensiblen Unternehmensdaten würden 91 Prozent der Befragten On-premises-, Private-Cloud- oder Hybrid-Infrastrukturen bevorzugen. Nur neun Prozent würden die Public Cloud wählen.

Ein wesentlicher Auslöser: Die unkontrollierte Nutzung Cloud-basierter KI-Tools durch Mitarbeitende, in der Studie als „Shadow AI" bezeichnet. 74 Prozent stufen sie als erhebliches oder kritisches Sicherheitsrisiko ein.

Bei 24 Prozent der Unternehmen sind dokumentierte Vorfälle bekannt, bei denen vertrauliche Daten in externe Tools wie „ChatGPT“ hochgeladen wurden. Die Hälfte der Befragten hat daraufhin bereits Zugriffskontrollen eingeführt. 58 Prozent gaben an, dass Bedenken rund um den Datenspeicherort mindestens eine KI-Initiative verzögert oder blockiert haben.

Cloud-Kosten höher als geplant

Neben Sicherheitsbedenken spielt die Kostentransparenz eine wachsende Rolle. Bei 40 Prozent der Unternehmen übersteigen die tatsächlichen Cloud-Ausgaben für KI das ursprünglich geplante Budget, davon liegt ein Teil um mehr als 30 Prozent darüber. Fast die Hälfte der Befragten nennt die schwer vorhersehbaren Gesamtbetriebskosten Cloud-basierter KI-Dienste und verbrauchsabhängige Preismodelle als Hindernis für eine weitere Ausweitung des KI-Einsatzes.

KI-Workloads und Performance

Der dritte Faktor ist Performance. 75 Prozent der Befragten sagten, dass aktuelle oder geplante KI-Workloads für eine akzeptable Ausführungsgeschwindigkeit On-Premises-Infrastruktur erfordern oder davon profitieren würden. Genannt werden KI-Anwendungen, wie Echtzeit-Videoanalyse, Qualitätskontrolle in der Fertigung und latenzarme Transaktionsverarbeitung. Cloud-Infrastruktur stößt bei diesen Szenarien durch die Netzwerklatenzen an ihre Grenzen.

Hybridmodell: Der bevorzugte Weg

Die KI-Infrastruktur-Strategie verschiebt sich laut Umfrage-Ergebnissen in Richtung hybride Infrastrukturen.(Bild: Cloudian) — Die KI-Infrastruktur-Strategie verschiebt sich laut Umfrage-Ergebnissen in Richtung hybride Infrastrukturen.
(Bild: Cloudian)

Die Studie zeichnet kein Bild einer vollständigen Abkehr von der Cloud. Das mit Abstand meistgenannte Zukunftsmodell ist die Hybrid-Infrastruktur mit erweiterter On-Premises-Kapazität. Gut die Hälfte der Befragten planen diesen Weg für die nächsten 24 Monate. Weitere 22 Prozent wollen Workloads vollständig auf eigene oder private Infrastruktur verlagern. Nur zehn Prozent beabsichtigen, ihre Public-Cloud-Nutzung auszubauen.

Die finanziellen Voraussetzungen für entsprechende Investitionen sind vorhanden: 86 Prozent der Unternehmen erwarten für 2026 ein steigendes KI-Budget, 40 Prozent rechnen mit einer Budget-Erhöhung um mindestens 25 Prozent.

Das vermeintliche Wolkenschloss entpuppt sich für viele Anwenderunternehmen eher als Wolkenkuckuksheim, allerdings mit Unterhaltskosten wie für ein Schloss. Sie hängen in der Luft; doch ein Komplettausstieg kann einen tiefen Fall bedeuten. (Bild: © salahudin - stock.adobe.com / KI-generiert)

FinOps und KI lassen ist vielen Unternehmen die Blasen von kostengünstigen Clloud-Infrastrukturen platzen. Übrig bleibt manchmal nur das Ergebnis von Schaumschlägerei. (Bild: Midjourney / KI-generiert)

Eigentlich steht digitalen Wahlen auch in Deutschland nichts im Wege ..... (Bild: Sora / KI-generiert)

IBM stattet seine FlashSystem-Modelle 5600, 7600 und 9600 mit KI-Agenten aus. (Bild: Midjourney / KI-generiert)

Bis jetzt gab es für die Analysten für Unternehmen, die modern sein wollten, nur eine empfohlene Richtung: in die (Public) Cloud. Die Faszination hält an, auch von einer Umkehrung des Trends kann nicht die Rede sein, aber ein wachsendes Selbstbewußtsein der Kunden, manch negative Erfahrung dort und neue Technik hier aber auch der Trend zu IT- und Datenhoheit, stoppen die Reise recht vieler Unternehmen mit einem One-Way-Ticket. (Bild: © liuzishan - stock.adobe.com)

Ob der Druck verhandene Ressourcen besser zu nutzen, gesetztliche Vorschriften, schlechte Erfahrungen oder unbehrrschbare Komplexität 'schuld' hat, steht nicht fest. Dennoch manifestiert sich eine Trend zur "Privatisierung" von (public) clouds. (Bild: Negro Elkha - stock.adobe.com)

(ID:50781378)

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zu RZ- und Server-Technik

Geschäftliche E-Mail

Bitte geben Sie eine gültige E-Mailadresse ein.

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Stand: 08.12.2025

Es ist für uns eine Selbstverständlichkeit, dass wir verantwortungsvoll mit Ihren personenbezogenen Daten umgehen. Sofern wir personenbezogene Daten von Ihnen erheben, verarbeiten wir diese unter Beachtung der geltenden Datenschutzvorschriften. Detaillierte Informationen finden Sie in unserer Datenschutzerklärung.

Einwilligung in die Verwendung von Daten zu Werbezwecken

Ich bin damit einverstanden, dass die Vogel IT-Medien GmbH, Max-Josef-Metzger-Straße 21, 86157 Augsburg, einschließlich aller mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen (im weiteren: Vogel Communications Group) meine E-Mail-Adresse für die Zusendung von Newslettern und Werbung nutzt. Auflistungen der jeweils zugehörigen Unternehmen können hier abgerufen werden.

Der Newsletterinhalt erstreckt sich dabei auf Produkte und Dienstleistungen aller zuvor genannten Unternehmen, darunter beispielsweise Fachzeitschriften und Fachbücher, Veranstaltungen und Messen sowie veranstaltungsbezogene Produkte und Dienstleistungen, Print- und Digital-Mediaangebote und Services wie weitere (redaktionelle) Newsletter, Gewinnspiele, Lead-Kampagnen, Marktforschung im Online- und Offline-Bereich, fachspezifische Webportale und E-Learning-Angebote. Wenn auch meine persönliche Telefonnummer erhoben wurde, darf diese für die Unterbreitung von Angeboten der vorgenannten Produkte und Dienstleistungen der vorgenannten Unternehmen und Marktforschung genutzt werden.

Meine Einwilligung umfasst zudem die Verarbeitung meiner E-Mail-Adresse und Telefonnummer für den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern wie z.B. LinkedIN, Google und Meta. Hierfür darf die Vogel Communications Group die genannten Daten gehasht an Werbepartner übermitteln, die diese Daten dann nutzen, um feststellen zu können, ob ich ebenfalls Mitglied auf den besagten Werbepartnerportalen bin. Die Vogel Communications Group nutzt diese Funktion zu Zwecken des Retargeting (Upselling, Crossselling und Kundenbindung), der Generierung von sog. Lookalike Audiences zur Neukundengewinnung und als Ausschlussgrundlage für laufende Werbekampagnen. Weitere Informationen kann ich dem Abschnitt „Datenabgleich zu Marketingzwecken“ in der Datenschutzerklärung entnehmen.

Falls ich im Internet auf Portalen der Vogel Communications Group einschließlich deren mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen geschützte Inhalte abrufe, muss ich mich mit weiteren Daten für den Zugang zu diesen Inhalten registrieren. Im Gegenzug für diesen gebührenlosen Zugang zu redaktionellen Inhalten dürfen meine Daten im Sinne dieser Einwilligung für die hier genannten Zwecke verwendet werden. Dies gilt nicht für den Datenabgleich zu Marketingzwecken.

Recht auf Widerruf

Mir ist bewusst, dass ich diese Einwilligung jederzeit für die Zukunft widerrufen kann. Durch meinen Widerruf wird die Rechtmäßigkeit der aufgrund meiner Einwilligung bis zum Widerruf erfolgten Verarbeitung nicht berührt. Um meinen Widerruf zu erklären, kann ich als eine Möglichkeit das unter https://contact.vogel.de abrufbare Kontaktformular nutzen. Sofern ich einzelne von mir abonnierte Newsletter nicht mehr erhalten möchte, kann ich darüber hinaus auch den am Ende eines Newsletters eingebundenen Abmeldelink anklicken. Weitere Informationen zu meinem Widerrufsrecht und dessen Ausübung sowie zu den Folgen meines Widerrufs finde ich in der Datenschutzerklärung.