Gartner-Analysten prognostizieren Das Nutzen von großen KI-Modellen wird billiger - bis 2030

Das dürfte für die Anwender eine gute Nachricht sein: Large Language Modelle (LLMs) werden im Jahr 2030 bis zu 100-mal kosteneffizienter sein als die ersten Modelle vergleichbarer Größe aus dem Jahr 2022, sagen Analysten von Gartner voraus.

Nach Evaluierungen des Forschungs- und Beratungsunternehmen im Bereich Wirtschaft und Technologie, werden die Kosten für die Inferenz auf einem LLM mit einer Billion Parametern bis 2030 für GenAI-Anbieter um mehr als 90 Prozent gegenüber 2025 sinken. Will Sommer, Senior Director Analyst bei Gartner, beschreibt die Entwicklung wie folgt: „Diese Kostenverbesserungen werden durch eine Kombination aus Effizienzsteigerungen bei Halbleitern und Infrastruktur, Innovationen im Modelldesign, einer höheren Chipauslastung, dem vermehrten Einsatz von auf Inferenz spezialisierten Chips sowie dem Einsatz von Edge-Geräten für bestimmte Anwendungsfälle vorangetrieben.“

Die Grundlage für die Berechnung sind KI-Token. Das sind die Dateneinheiten, die von GenAI-Modellen verarbeitet werden. Für die Zwecke der Gartner-Analyse entspricht ein Token 3,5 Byte Daten oder etwa 4 Zeichen.

Wie wichtigt dabei die Entwicklung und Verwendung von KI-Chips sind, lässt sich an zwei Szenarien ablesen. Denn die prognostizierten Modellergebnisse unterteilen sich laut Gartner in zwei Gruppen von Halbleiterszenarien:

• „Frontier-Szenarien“: Die Modellberechnung basiert auf einer Darstellung modernster Chips.

• „Legacy-Blend-Szenarien“: Die Modellberechnung basiert auf einer repräsentativen Mischung verfügbarer Halbleiter, die anhand von Gartner-Prognosen bewertet wurden.

Mehr Agenten, mehr Token, höhere Kosten

Doch nicht alles ist eitel Sonnenschein. Die sinkenden Token-Kosten der GenAI-Anbieter werden nach den Erwartungen der Analysten jedoch nicht vollständig an die Unternehmenskunden weitergegeben. Darüber hinaus wird „Frontier Intelligence“ deutlich mehr Token erfordern als aktuelle Mainstream-Anwendungen. Agentenbasierte Modelle benötigen beispielsweise pro Aufgabe zwischen 5- und 30-mal mehr Token als ein herkömmlicher GenAI-Chatbot und können mithilfe von GenAI weitaus mehr Aufgaben bewältigen als ein Mensch.

Zwar werden niedrigere Token-Einheitskosten fortschrittlichere GenAI-Fähigkeiten ermöglichen, doch führen diese Fortschritte auch zu einem überproportional höheren Token-Bedarf. Da der Token-Verbrauch schneller steigt als die Token-Kosten sinken, ist mit einem Anstieg der Gesamtkosten für Inferenz zu rechnen.

Sommer warnst somit: „Chief Product Officers (CPOs) sollten die Abwertung von Commodity-Token nicht mit der Demokratisierung des Frontier-Reasonings verwechseln.“

Kaschieren verlagert das Problem

Während standardisierte Intelligenz immer mehr gegen Nullkosten tendierten, seien die Rechenkapazitäten und Systeme, die für fortgeschrittenes Reasoning erforderlich sind, nach wie vor knapp. „CPOs, die heute architektonische Ineffizienzen mit billigen Token kaschieren, werden morgen feststellen, dass eine skalierbare Agentenumgebung unerreichbar bleibt.“

Doch wie kommen Unternehmen aus dieser Spirale heraus? Von Vorteil seien Plattformen, die Workloads über ein vielfältiges Modellportfolio hinweg koordinieren können, so Sommer.

Routinemäßige, hochfrequente Aufgaben müssten an effizientere, kleine und domänenspezifische Sprachmodelle weitergeleitet werden, die bei der Anpassung an spezialisierte Arbeitsabläufe eine bessere Leistung erbringen als generische Lösungen. Sie könnten das sogar zu einem Bruchteil der Kosten. Die kostspielige Inferenz von Modellen auf dem neuesten Stand der Technik müsse streng kontrolliert und ausschließlich für komplexe, margenstarke Denkprozesse reserviert werden.

(ID:50798022)