Schlanke Modelle senken die KI-Kosten Die KI-Kosten mit Modellwahl senken – auch bei Google BigQuery

Die Rechnung für generative Künstliche Intelligenz (KI) wächst immer weiter: Wie Modellwahl und Token-Budgets die Kosten für Künstliche Intelligenz senken können. „BigQuery“ erlaubt auch eine Steuerung der Rechenkapazität.

Der Preisabstand zwischen den „Gemini“-Stufen bildet den größten Hebel für Cloud-Teams. Google berechnet für „Gemini 3 Flash Preview“ 0,50 US-Dollar je Million Input-Token und 3,00 US-Dollar je Million Output-Token, für „Gemini 3.1 Flash-Lite“ 0,25 und 1,50 US-Dollar, für „Gemini 3.5 Flash“ 1,50 und 9,00 US-Dollar und für „Gemini 3.1 Pro Preview“ 2,00 und 12,00 US-Dollar, jeweils bei bis zu 200.000 Input-Token (Stand 16.07 2026).

Gartner-Analysten prognostizieren

Das Nutzen von großen KI-Modellen wird billiger - bis 2030

KI-Infrastruktur und Modelloptimierung

Turboquant soll Speicherengpass großer LLMs entschärfen

Gecachte Input-Token kosten 10 Prozent des Standardpreises, die Batch-Verarbeitung halbiert den Preis. Reservierte Kapazität mit Wochenlaufzeit bietet Google über Provisioned Throughput an. Auf der Analyseseite rechnet „BigQuery“ entweder 6,25 US-Dollar je verarbeitetem Tebibyte ab oder 0,04 bis 0,10 US-Dollar je Slot-Stunde, abhängig von der Edition, die KI-Assistenz dort beschreibt die Produktdokumentation.

Den Rahmen für die Steuerung liefert die „FinOps Foundation“ mit Kosten je Token und Kosten je Inferenz als Kennzahlen, die Verbreitung dieser Steuerung beziffert der „State of FinOps Report 2026“. Benchmark-Werte der Flash-Klasse, die Slot-Rechnung in BigQuery und die Angaben zur achten TPU-Generation ergänzen das Bild.

Nicht jede Aufgabe braucht das stärkste Modell

Den größten Betrag bewegt die Zuordnung jeder Anfrage zur passenden Modellstufe. Eine Rechnungsextraktion oder eine Klassifizierung nach festen Kategorien fordert von einem Sprachmodell wenig ab. Der Preis für Gemini 3.1 Flash-Lite liegt bei einem Achtel dessen, was Gemini 3.1 Pro Preview je Million Input- wie Output-Token verlangt. Bei einer Million Anfragen im Monat mit je 2.000 Input- und 500 Output-Token trennen die beiden Stufen rund 1.250 US-Dollar von rund 10.000 US-Dollar. Der Unterschied entspricht über das Jahr gerechnet dem Gehalt einer vollen Stelle und stammt aus einer einzigen Konfigurationszeile.

Die Modellstufen unterscheiden sich in ihren Fähigkeiten, ihre Zuverlässigkeit bei anspruchslosen Aufgaben bleibt jedoch vergleichbar. Google gibt für Gemini 3 Flash im agentischen Coding-Benchmark SWE-bench Verified 78 Prozent an und siedelt das Modell damit über dem größeren „Gemini 3 Pro“ an, bei einem Viertel des Input-Preises. Nach Angaben von Google verschiebt Gemini 3.5 Flash das Verhältnis von Preis und Leistung weiter zugunsten der Flash-Klasse und erreicht bei Programmieraufgaben das Niveau eines mittleren Frontier-Modells.

Ob die Zuordnung trägt, zeigt der Test mit eigenen Daten. Wer 500 Ausgaben aus dem Produktivbetrieb nach einem festen Qualitätskriterium bewertet, erhält die Fehlerquote je Modellstufe. Erst der Vergleich aus Fehlerquote und Korrekturaufwand zeigt, ob die günstigere Stufe die Aufgabe abdeckt. Bei fehlerkritischen Prozessen verschiebt sich die Rechnung schnell. Eine Nacharbeitsquote von 15 statt 5 Prozent kostet bei 100.000 Vorgängen im Monat und 30 Minuten Korrekturzeit je Fall mehr, als die gesamte API-Nutzung ausmacht.

Software für Anwendungen auf dem Quantencomputer

Google stellt Algorithmus für Quantencomputer vor

Gartner-über den KI-Trend 2026

2,5 Billionen Dollar für KI und die Infrastruktur frisst den Löwenanteil

So kann der Tokenverbrauch beim Prompten gesenkt werden

Kürzere Prompts senken die Rechnung doppelt. Unternehmen zahlen weniger für Input-Token und erhöhen zugleich die Trefferquote, da das Modell weniger interpretieren muss. Ein sauber formulierter System-Prompt, der Abkürzungen und Fachbegriffe auflöst und den Zweck der Anfrage benennt, reduziert die Zahl der Modellaufrufe und dämpft das Halluzinationsrisiko. Oft reichen bei ausreichendem fachlichen Kontext kleinere Modelle aus.

Anwender sollten umfangreiche Aufgaben in mehrere Schritte unterteilen. Statt einen einzigen Prompt mit sämtlichen Rahmenbedingungen zu versehen, rufen Anwender zuerst die benötigten Informationen ab und führen die Teilergebnisse erst zum Schluss zusammen. Jeder Teilschritt kommt mit weniger Kontext aus und passt auf eine kleinere Modellstufe.

Nicht jeder Vorgang benötigt ein teures Sprachmodell. Wiederkehrende Abläufe mit festem Muster arbeitet eine klassische Prozessautomatisierung günstiger ab. Ein KI-Modell lohnt dort, wo Entscheidungen fallen oder unstrukturierte Informationen eingehen.

Caching und Batch senken den Token-Preis

„Vertex AI“ speichert wiederkehrende Kontexte in zwei Varianten. Das implizite Caching ist standardmäßig aktiv und rabattiert automatisch, sobald aufeinanderfolgende Anfragen ein gemeinsames Präfix teilen. Die Caches verfallen nach höchstens 24 Stunden. Das explizite Caching legt den Inhalt fest, garantiert den Rabatt und rechnet zusätzlich eine stundenbasierte Speichergebühr je Million Token ab. Die Untergrenze liegt bei 2.048 Token.

Die Reihenfolge im Prompt bestimmt den Cache-Treffer. Anwender sollten den stabilen Anteil nach vorn und die veränderliche Nutzereingabe ans Ende stellen. Steht der variable Teil am Anfang, verfehlt jede Anfrage den Cache und der volle Preis wird fällig. Ob der Rabatt tatsächlich greift, zeigen die Nutzungsmetadaten der Antwort.

Die Batch-Verarbeitung senkt den Preis oft auf die Hälfte und verschiebt die Antwort in ein asynchrones Fenster von bis zu 24 Stunden. Auswertungen, Anreicherungen, Klassifizierungen und nächtliche Berichte passen dort hinein, interaktive Anwendungen nicht. Für Gemini 3 Flash Preview bedeutet das 0,25 statt 0,50 US-Dollar je Million Input-Token und 1,50 statt 3,00 US-Dollar je Million Output-Token.

Die beiden Rabatte multiplizieren sich nicht. Trifft eine Batch-Anfrage den Cache, gilt der Cache-Preis, der Batch-Rabatt greift für die übrigen Token. Bei einer Nachtverarbeitung gegen eine gemeinsame Wissensbasis cachen Anwendungen deshalb am besten den geteilten Kontext und schicken die einzelnen Abfragen über die Batch-Schnittstelle. Für planbare Grundlast lässt sich Kapazität über „Provisioned Throughput“ buchen. Die Laufzeit beginnt bei einer Woche, Änderungen lassen sich bis zu zwei Wochen im Voraus einplanen, und für ausgewählte Modelle kombiniert Google die Reservierung mit explizitem Caching.

Google haftet für KI-Antworten in Suchen, so LG München I

Nach Google-Urteil: Werden Anbieter in Deutschland für KI-Inhalte haften müssen?

Sicherheit im Quanten-Zeitalter

HSBC und Quantinuum ermöglichen den sicheren Kauf von Gold-Token

Ein Router verteilt die Anfragen auf die unterschiedlichen Modelle

Eine Steuerungsschicht zwischen Anwendung und Modellen leitet jede Anfrage an das günstigste Ziel, das die Aufgabe bewältigt. Der Ansatz beginnt regelbasiert. Eine Übersetzung geht an Flash-Lite, eine mehrstufige Analyse an die Pro-Stufe. Eine Eskalationsprüfung ergänzt das Verfahren. Das günstige Modell antwortet zuerst, und bei niedriger Zuversicht oder ungültigem Schema übernimmt die stärkere Stufe die Anfrage.

Der Ertrag hängt am Verkehrsanteil. Erst jenseits von 50 Prozent günstigem Anteil bewegt sich die Rechnung spürbar, darunter zahlen Unternehmen den Frontier-Preis für den überwiegenden Teil der Aufrufe. Am besten verschieben Anwender den Anteil in kleinen Schritten und behalten dabei die Qualitätskennzahlen im Blick, nicht nur die Rechnung. Eine fachlich schwächere Antwort aus dem günstigeren Modell bleibt ohne Monitoring unbemerkt. Ein automatisierter Prüfsatz aus 50 bis 500 repräsentativen Fällen, der jede Routing-Änderung vor der Übernahme blockiert, sichert die Qualität.

Hybride Architekturen erweitern das Feld um lokale Modelle. „Gemma 4 26B“ kostet über Google Cloud 0,15 US-Dollar je Million Input-Token, 0,60 US-Dollar je Million Output-Token und 0,015 US-Dollar bei einem Cache-Treffer (Stand 16.07 2026). Im Eigenbetrieb auf eigener Hardware fällt der Token-Preis weg, Infrastruktur- und Betriebskosten treten an seine Stelle. Der Umschlagpunkt liegt selten bei der Hardware, häufiger beim Personal- und Evaluationsaufwand. Für abgeschottete Umgebungen und für Vorgaben zur Datenhaltung im eigenen Netz bleibt der lokale Betrieb die Option, unabhängig vom Preisvergleich. Google adressiert diesen Bereich über die Distributed Cloud in den Stufen „Data Boundary“, „Dedicated“ mit lokalen Partnern und „Air-Gapped“, nach Herstellerangabe API-kompatibel zur öffentlichen Cloud.

Der Druck auf die Modellkosten erreicht auch die Anbieterseite. Nach einem Bloomberg-Bericht laufen wöchentlich zehntausende KI-Anfragen in Excel und Outlook über eigene „Mai“-Modelle, womit Microsoft zugekaufte Modelle schrittweise ersetzt. Die Zahl benennt den bereits auf Mai umgestellten Anteil, nicht das gesamte KI-Aufkommen beider Anwendungen.

Auf der Dell Technolgies World 2026 sagt CTO Roese: „Die Tools daten, nicht heiraten“

Dell in der KI-Ära – Das Rack ist (nicht) das Produkt

Selbst ist das Rechenzentrum

Eine KI als Betriebssystem für Datacenter

Die Prozessorwahl verschiebt den Token-Preis

Unter der Modellstufe liegt eine zweite Ebene, die den Preis je Token bestimmt. Google hat die achte TPU-Generation in zwei Chips aufgeteilt. „TPU 8t“ bedient das Training mit 9.600 Chips je Superpod und 121 Exaflops. „TPU 8i“ zielt auf Inferenz und Reinforcement-Learning-Lasten und bringt 384 MB On-Chip-SRAM sowie 288 GB HBM mit. Nach Angaben von Google liefert TPU 8i ein um 80 Prozent besseres Preis-Leistungs-Verhältnis als die Vorgängergeneration und senkt damit die Kosten je Token in der Inferenz.

Läuft eine Inferenz auf älteren Beschleunigern, sollten Unternehmen den Wechsel durchrechnen, bevor die nächste Kapazitätszusage ansteht. Für Agenten-Orchestrierung auf x86-Instanzen gehört „N4A“ in den Vergleich. Preise für TPU 8t und TPU 8i hatte Google zum Stand der Berichterstattung noch nicht veröffentlicht.

Die Abrechnung der Agentenschicht hat sich parallel verändert. Für Agent Runtime, Sessions, Memory Bank und Code Execution berechnet Google seit dem 11.02 2026 vCPU-Sekunden und GiB-Sekunden der tatsächlichen Ausführung. Leerlauf bleibt unberechnet, die kostenfreie Stufe umfasst 180.000 vCPU-Sekunden und 360.000 GiB-Sekunden im Monat. Diese Positionen gehören in die Kostenmodelle, denn die Beträge summieren sich.

Token-Budgets halten die Ausgaben in Grenzen

Tokenbasierte Abrechnung erzeugt Kostenmuster, die klassische Budgetmodelle überfordern. Ein einzelner Modellaufruf variiert um ein Vielfaches, abhängig von Promptlänge, Kontextfenster und gewählter Stufe. Der „State of FinOps Report 2026“ weist aus, dass 98 Prozent der FinOps-Teams inzwischen KI-Ausgaben verwalten, nach 31 Prozent zwei Jahre zuvor. Der Sprung bedeutet, dass die Steuerung des Token-Verbrauchs binnen zweier Jahre von einer Randaufgabe zur Regelaufgabe geworden ist.

Unternehmen sollten harte Grenzen je Schlüssel setzen, ebenso auf Team- und Projektebene. Kontingente auf die Zahl der Aufrufe und eine Drosselung je Zeitfenster halten den Verbrauch im Rahmen, Ausgabenlimits auf Ebene des Cloud-Providers ziehen eine zweite Sicherung ein. Dazu gehört eine Anomalie-Erkennung, die den aktuellen Verbrauch mit dem historischen Durchschnitt vergleicht. Verdoppelt sich der Tokenverbrauch ohne erkennbaren Anlass, liegt die Ursache häufig in einem ineffizienten Prompt oder einem Fehler in der Anwendungslogik.

Öffentlich erreichbare KI-Endpunkte brauchen zusätzlichen Schutz. Bei Denial-of-Wallet-Angriffen überziehen Angreifer die Anwendung mit Anfragen und treiben die Rechnung nach oben, ohne den Dienst zu stören. Striktes Rate-Limiting am Gateway und Ausgabenlimits beim Provider begrenzen den Schaden.

Die Zuordnung liefert die Grundlage für jede Steuerung. Unternehmen sollten Ressourcen nach Projekt, Umgebung, Team und Verwendungszweck kennzeichnen und Training von Inferenz trennen. Ein Showback-Modell macht die Ausgaben je Team sichtbar und verändert das Verhalten oft schon vor jeder technischen Maßnahme.

„Enterprise AI Infrastructure Survey 2026“

Unternehmen holen KI-Workloads aus der Cloud zurück

Cloud-Repatriierung

Zurück aus der Cloud heißt nicht: Abschied

Die Autoskalierung passt die Slots dem Bedarf an

Auf der Analyseseite gilt das Abrechnungsmodell je Reservierungszuweisung, nicht je Organisation. Entwicklungs- und Ad-hoc-Projekte laufen häufig günstiger über die On-Demand-Abrechnung mit 6,25 US-Dollar je Tebibyte und einem freien Tebibyte im Monat. Nächtliche Transformationen und wiederkehrende Datenprodukte mit planbarem Slot-Verbrauch passen in die Editions, ebenso Dashboard-Backends.

Die Umschlagrechnung fällt nüchtern aus. Enterprise Edition kostet 0,06 US-Dollar je Slot-Stunde, 100 durchgehend laufende Slots summieren sich damit auf rund 4.380 US-Dollar im Monat, was etwa 700 Tebibyte On-Demand-Verbrauch entspricht. Eine Abfrage von „Information_Schema.Jobs“ über 30 bis 90 Tage liefert die gesamten Slot-Millisekunden; umgerechnet in Slot-Stunden ergibt sich daraus ein belastbares Bild der Nutzung. Ein Projekt mit dauerhaft mehr als 50 Slots Verbrauch gehört auf den Prüfstand.

Die Autoskalierung arbeitet zwischen einer Baseline und einer Obergrenze und fügt Kapazität in Schritten von 50 Slots hinzu. Standardmäßig rechnet Google jedes Skalierungsereignis mit mindestens 60 Sekunden ab. Eine kurze Abfrage, die für eine Sekunde zusätzliche Slots anfordert, kostet damit eine volle Minute auf 50 Slots. Fluid Scaling schaltet die Reservierung auf sekundengenaue Abrechnung ohne Mindestdauer um. Nach Angaben von Google sinken die Kosten dadurch bei Lasten mit kurzen oder schwankenden Abfragen um mehr als ein Drittel.

Eine zu hohe Obergrenze lässt kurze Ausreißer teuer werden, eine zu niedrige Baseline verschiebt die Grundlast auf teurere Autoskalierungs-Kapazität. Am besten bilden Unternehmen den tatsächlichen Slot-Verbrauch je Tagesstunde über 60 Tage ab und leiten beide Werte daraus ab. Bei bekannten „ETL“-Fenstern sollte die Baseline vor dem Job hochgefahren und danach wieder heruntergefahren werden.

Hinzu kommen ausgabenbasierte „Committed Use Discounts“. Unternehmen verpflichten sich auf einen stündlichen Mindestbetrag in einer Region und erhalten 10 Prozent Rabatt bei einem Jahr Laufzeit und 20 Prozent bei drei Jahren. Der Rabatt greift automatisch auf die gesamte förderfähige Pay-as-you-go-Nutzung in der Region. Die Zusage sollte sich am Minimum des stündlichen Verbrauchs orientieren, nicht am Durchschnitt.

Auf Abfrageebene begrenzt der Parameter „maximum_bytes_billed“ das Scan-Volumen einer einzelnen Abfrage. Überschreitet eine Abfrage die Grenze, bricht sie sofort ab und erzeugt keine Kosten. Partitionierung und Clustering senken das Scan-Volumen an der Quelle, greifen jedoch nur, wenn die Abfragen auf die Partitions- und Clusterspalten filtern.

Auch die KI-Assistenz in BigQuery gehört in die Kalkulation. Gemini in BigQuery erzeugt SQL und Python, erklärt vorhandene Abfragen, schlägt Transformationen für die Datenaufbereitung vor und generiert Tabellen-Insights. Der Dienst benötigt Zugriff auf Kundendaten und Metadaten. Google gibt an, die Eingaben nicht für das Modelltraining zu verwenden, und weist darauf hin, dass Gemini in BigQuery nicht denselben Compliance-Umfang abdeckt wie BigQuery selbst.

IBM Flashsystem 5600, 7600 und 9600

Big Blue stattet seine Flash-Systeme mit KI-Agenten aus

Kostenfalle KI

So treibt die KI-Infrastruktur die Cloud-Rechnung in die Höhe

Die Modellwahl ist und bleibt der größte Hebel

Die Kosten generativer KI folgen aus der Zahl der Aufrufe und der Menge der übertragenen Token; hinzu kommt die Kapazität, die im Hintergrund bereitsteht. An jeder dieser Stellen greifen unterschiedliche Mechanismen. Die Modellwahl je Aufgabe bewegt den größten Betrag, das Zwischenspeichern wiederkehrender Kontexte folgt dahinter. Die sekundengenaue Abrechnung von BigQuery-Slots deckt die Analyseseite ab. Die Prozessorgeneration unter der Modellschicht verschiebt den Preis je Token zusätzlich und bleibt bis zur Veröffentlichung der TPU-Preise eine Herstellerzusage. Messbar wird das Ergebnis über Kennzahlen je Inferenz und je Slot-Stunde, verbunden mit einer Qualitätsprüfung, die den günstigeren Weg gegen den fachlichen Anspruch hält.

KI-Cluster mit Luftkühlung für Bestandrechenzentren?

Verteilte Alternativen zu hochdichten GPU-Architekturen

Expectedit-Lpool-Technik kann Milliarden sparen

Effiziente KI im Rack-Maßstab geht über den Einsatz von GPUs hinaus

(ID:50928164)