Mobile-Menu

Wenn der KI-Erfolg zur Kostenfalle wird Warum Unternehmen über eigene KI-Infrastrukturen nachdenken sollten

Ein Gastbeitrag von Dr. Gerald Bauer* 5 min Lesedauer

Anbieter zum Thema

VON ZUR MÜHLEN'SCHE GmbH
Data Center Group GmbH
EPS Rechenzentrum Infrastruktur GmbH

Wenn die Nutzung leistungsfähiger KI-Modelle immer teurer wird, geraten Unternehmen unter Kostendruck. Eigene KI-Infrastrukturen könnten helfen, Ausgaben besser zu planen und Abhängigkeiten von externen Anbietern zu verringern.

Künstliche Intelligenz entwickelt sich rasant, doch mit jeder neuen Modellgeneration steigen die Fähigkeiten von Systemen wie „ChatGPT“, „Claude“ oder „Microsoft Copilot“.(Bild: © yurolaitsalbert - stock.adobe.com)
Künstliche Intelligenz entwickelt sich rasant, doch mit jeder neuen Modellgeneration steigen die Fähigkeiten von Systemen wie „ChatGPT“, „Claude“ oder „Microsoft Copilot“.
(Bild: © yurolaitsalbert - stock.adobe.com)

Was vor wenigen Jahren noch als technologische Spielerei galt, wird heute in Unternehmen produktiv eingesetzt: für die Erstellung von Texten, die Automatisierung von Prozessen, die Analyse großer Datenmengen oder die Unterstützung des Kundenservices.

Doch mit den neuen Möglichkeiten wächst auch eine Herausforderung, die viele Unternehmen zunehmend beschäftigt: die Kosten. Denn die Nutzung leistungsfähiger KI-Modelle entwickelt sich für zahlreiche Organisationen zu einer eigenen Kostenposition, vergleichbar mit Personal-, Energie- oder IT-Ausgaben.

Je mehr Unternehmen KI einsetzen, desto stärker steigt in der Regel auch der Kostenfaktor. Die Ursache liegt in der Funktionsweise moderner Sprachmodelle: Abgerechnet wird häufig über sogenannte Tokens, also Textbausteine, die von der KI verarbeitet oder erzeugt werden.

Mit zunehmender Verwendung wächst damit unmittelbar auch die Rechnung. Viele Unternehmen berichten mittlerweile von deutlich höheren KI-Ausgaben als ursprünglich geplant. So soll der Mobilitätskonzern Uber laut Forbes sein KI-Budget 2026 zum Beispiel schon in den ersten vier Monaten des Jahres aufgebraucht haben. Und die Tagesschau berichtete im Juli, dass sich beim IT-Dienstleister Adesso der Verbrauch sogenannter KI-Tokens seit Dezember 2025 verhundertfacht.

Der Grund für diese Entwicklung liegt nicht nur in der steigenden Nutzung, sondern auch in den immer leistungsfähigeren Modellen, die für viele Use Cases jedoch gar nicht nötig sind. Neue Generationen wie „Claude Fable 5“ oder vergleichbare Systeme verursachen damit deutlich höhere Betriebskosten als einfachere Modelle, die für viele Anwendungsbereiche ausreichend wären.

Die wachsende Abhängigkeit von externen Anbietern

Neben den Kosten entsteht ein weiteres Problem: die zunehmende Abhängigkeit von den Betreibern großer KI-Plattformen. Werden zentrale Unternehmensprozesse auf externe KI-Dienste verlagert, hängen deren Wirtschaftlichkeit und Verfügbarkeit unmittelbar von Entscheidungen externer Anbieter ab. Für Unternehmen kann dies zu einem Risiko werden. Steigen Preise, ändern sich Nutzungsbedingungen oder kommt es zu Einschränkungen bei der Verfügbarkeit, sind häufig direkt produktive Geschäftsprozesse betroffen. Je stärker KI in den operativen Alltag integriert wird, desto größer wird die Bedeutung dieser Abhängigkeiten.

Besonders kritisch ist dies bei automatisierten Prozessen. Wenn beispielsweise Inhalte erstellt, Anfragen bearbeitet oder interne Wissenssysteme mit KI betrieben werden, können Ausfälle oder unerwartete Kostensteigerungen unmittelbare Auswirkungen auf den Geschäftsbetrieb haben.

Chinesische Modelle locken mit deutlich niedrigeren Preisen

Vor diesem Hintergrund gewinnen neue Anbieter zunehmend an Aufmerksamkeit. Vor allem chinesische KI-Modelle sorgen derzeit für Bewegung im Markt. Sie versprechen eine vergleichbare Leistungsfähigkeit, die für die allermeisten Anwendungsfälle mehr aus ausreichend ist, allerdings zu deutlich geringeren Kosten. So kostet die Nutzung des chinesischen Highend-Modells „Kimi K3“ für eine Million Input- und eine Million Output-Tokens rund 18 Dollar. Für Claude Fable 5 werden dagegen wird mit 60 Dollar ein mehr als dreimal so hoher Betrag fällig.

Für Unternehmen klingt das zunächst attraktiv. Allerdings eröffnet der Wechsel auf alternative Anbieter neue Fragestellungen. Unternehmen müssen sorgfältig prüfen, wo Daten verarbeitet werden, welche Datenschutzanforderungen gelten und ob die jeweiligen Lösungen mit den eigenen Compliance-Vorgaben vereinbar sind. Gerade bei sensiblen Unternehmensdaten sollten Sicherheits- und Datenschutzaspekte ebenso sorgfältig bewertet werden wie die wirtschaftlichen Vorteile.

Damit stehen viele Organisationen vor einem Dilemma: Auf der einen Seite gibt es leistungsfähige, kostenintensive westliche Plattformen. Auf der anderen Seite locken günstigere Alternativen, deren Einsatz jedoch individuell mit den Unternehmensrichtlinien abgeglichen werden sollte.

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zu RZ- und Server-Technik

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Eigene KI als dritter Weg

Zwischen diesen beiden Varianten etabliert sich zunehmend ein dritter Ansatz: der Betrieb eigener KI-Systeme auf unternehmensinterner Infrastruktur. Möglich wird dies durch die wachsende Leistungsfähigkeit von Open-Source- / Open-Weight-Modellen, deren Umfang in vielen Szenarien vollkommen ausreicht, um Arbeitsabläufe zu automatisieren oder Beschäftigte produktiver zu machen. Unternehmen können diese Modelle an ihre Bedürfnisse anpassen und lokal betreiben, anstatt für jede Nutzung externe Dienste in Anspruch zu nehmen.

Der entscheidende Vorteil liegt dabei weniger in der Technologie selbst als in der Kontrolle. Unternehmen behalten die Hoheit über ihre Daten, ihre Prozesse und ihre Infrastruktur. Gleichzeitig entsteht eine deutlich höhere Planungssicherheit bei den Kosten. Während bei externen Diensten jede zusätzliche Nutzung unmittelbar Kosten verursacht, basieren lokale Systeme vor allem auf einer einmaligen Investition in Hardware und Infrastruktur. Die strategische Frage lautet daher immer häufiger nicht mehr nur, welches Modell das beste ist, sondern wo die KI betrieben werden soll.

Besonders interessant für geschäftskritische Anwendungen

Spannend wird dieser Ansatz jedoch überall dort, wo KI dauerhaft und intensiv genutzt wird. Ein Beispiel ist die automatisierte Erstellung von Fachtexten, technischen Dokumentationen oder Übersetzungen. Gerade in Unternehmen mit hohem Dokumentationsaufwand lassen sich solche Prozesse dauerhaft automatisieren und mit eigenen Modellen betreiben. Ähnliches gilt für Sprach- und Telefonassistenten. Hier können sensible Sprachdaten lokal verarbeitet werden, ohne externe Plattformen einzubeziehen. Je höher das Gesprächsaufkommen, desto eher kann sich eine eigene Infrastruktur wirtschaftlich rechnen.

Auch in Industrieunternehmen entstehen zunehmend Szenarien, in denen KI geschäftskritische Funktionen übernimmt. Interne Wissensdatenbanken, technische Assistenzsysteme oder produktionsnahe Anwendungen profitieren häufig davon, dass Daten das Unternehmen nicht verlassen und Systeme unabhängig von externen Diensten verfügbar bleiben.

Investition statt Dauerrechnung

Der Aufbau einer eigenen KI-Umgebung ist allerdings kein Selbstläufer. Unternehmen müssen in leistungsfähige Hardware investieren, die aktuell sehr teuer ist und deren Preise weiter steigen. Der entscheidende Vorteil ist jedoch, dass diese Kosten kalkulierbar sind und sich über mehrere Jahre planen und abschreiben lassen. Die laufenden Kosten der KI-Infrastruktur beschränken sich in Folge weitgehend auf Strom.

Dazu kommt, dass es sich mitunter sogar lohnt, jetzt in Hardware zu investieren, was das Beispiel der Nvidia-Grafikkarten zeigt. Aufgrund der hohen Nachfrage in den letzten Jahren verzeichneten diese kaum Wertverlust, sondern sind teilweise heute sogar wertvoller als zum ursprünglichen Kaufdatum.

Mehr als nur ein Kostenvorteil

Die Diskussion über KI wird häufig auf die Frage der Leistungsfähigkeit reduziert. Für Unternehmen gewinnt jedoch ein anderer Aspekt zunehmend an Bedeutung: Souveränität. Eigene KI-Infrastrukturen ermöglichen einen kontrollierten Umgang mit sensiblen Unternehmensdaten, reduzieren Abhängigkeiten von einzelnen Anbietern und erhöhen die Widerstandsfähigkeit geschäftskritischer Prozesse. Gleichzeitig schaffen sie die Grundlage für langfristig planbare Kostenstrukturen.

Über den Autor:
Dr. Gerald Bauer ist als Director AI beim Münchner IT-Dienstleister handz.on für die Weiterentwicklung der KI-Abteilung zuständig. Der diplomierte Informatiker ist bereits seit 2007 im Bereich KI tätig und berät seit vielen Jahren Unternehmen bei der Umsetzung komplexer KI-Projekte.

Sein Fazit lautet: „Die eigentliche Herausforderung für Unternehmen besteht daher nicht mehr nur darin, die leistungsfähigste KI auszuwählen. Entscheidend wird zunehmend die Frage, wie sich künstliche Intelligenz langfristig wirtschaftlich, sicher und unabhängig betreiben lässt. Für viele geschäftskritische Anwendungen könnte die Antwort künftig häufiger im eigenen Rechenzentrum liegen als in der Cloud.“

Bildquelle: handz.on

(ID:50984627)

Weiterführende Inhalte