Dritte Generation der Azure-Maia-Beschleuniger Microsoft stellt Maia 300 für KI-Inferenz ab 2027 vor

Von Bernhard Lück 2 min Lesedauer

Anbieter zum Thema

Microsoft stellt die nächste Generation seiner KI-Beschleuniger vor. Die Azure-Maia-Plattform soll ab 2027 auf Bereitstellungen im Multi-Gigawatt-Maßstab ausgeweitet und das primäre Inferenzsystem für Microsofts Produkte und Dienste werden.

Der neue KI-Chip Maia 300 soll künftig eine zentrale Rolle beim Betrieb der KI-Dienste von Microsoft spielen.(Bild:  Microsoft)
Der neue KI-Chip Maia 300 soll künftig eine zentrale Rolle beim Betrieb der KI-Dienste von Microsoft spielen.
(Bild: Microsoft)

„Maia 300“ baut auf den Erfahrungen mit dem Vorgänger Maia 200 auf. Wie Scott Guthrie, Executive Vice President Cloud + AI bei Microsoft, im Microsoft Blog erläutert, kommt Maia 200 bereits in produktiven Inferenz-Workloads zum Einsatz, unter anderem bei Microsoft Copilot und bei der Modellentwicklung des MAI-Teams. Bis Jahresende sollen GitHub Copilot und Microsoft Foundry folgen.

Das System wird in den USA, Europa und Australien ausgerollt. Es betreibt Modelle von OpenAI, MAI-Modelle sowie Open-Source-Modelle. Für KI-Funktionen in Teams, Copilot und Cowork nennt Microsoft bis zu 1,7-fach mehr Token pro Watt im Vergleich zu führender GPU-Infrastruktur.

Weniger Datentransport, mehr Effizienz

Maia 300 ist Microsoft zufolge speziell für KI-Anwendungen ausgelegt, die viel Kontext verarbeiten, stark auf den Speicher zugreifen und Antworten Schritt für Schritt erzeugen. Dazu zählen laut Anbieter etwa Reasoning über lange Zusammenhänge, dialogorientierte Anwendungen mit kurzen Reaktionszeiten sowie dauerhafte, mehrstufige agentische Aufgaben.

Guthrie sieht beim Betrieb großer Inferenzsysteme zunehmend den Transport von Daten als Engpass. Maia 300 soll Datenbewegungen deshalb gezielt verringern. Eine softwaredefinierte Dataflow-Architektur und KI-gestützte Optimierung der Rechenvorgänge sollen dafür sorgen, dass Rechen-, Speicher- und Netzwerkressourcen besser ausgelastet werden. Daraus leitet Microsoft einen deutlichen Vorteil bei der Leistung pro Watt gegenüber klassischen GPU-Architekturen ab.

Mehr Speicher und kompaktere Daten

Der Beschleuniger verfügt über acht HBM4-Speichermodule mit einer Spitzenbandbreite von 18,0 TB/s bei einer Leistungsaufnahme von 950 Watt. Ein direkt auf dem Chip vorhandener, softwareverwalteter Zwischenspeicher soll häufig benötigte Daten schneller verfügbar machen.

Die Architektur trennt Rechen-, Speicher- und Ein-/Ausgabefunktionen in einzelne Chiplets. Die Rechen-Chiplets entstehen nach Microsoft-Angaben im N2P-Fertigungsverfahren von TSMC. Zudem sollen kompaktere Datenformate wie ein erweitertes MXFP4 den Speicherbedarf für Berechnungen und den sogenannten KV-Cache senken. Dies könne größere Kontextfenster ermöglichen.

Vom Rack bis zum Rechenzentrum

Ein vollständiges Maia-300-Rack umfasst laut Microsoft 96 Beschleuniger und benötigt 167 Kilowatt. Es bietet 27,6 TB HBM-Speicher und eine aggregierte Speicherbandbreite von 1,7 PB/s. In dieser Konfiguration gibt der Anbieter einen bis zu siebenfach höheren Token-Durchsatz gegenüber Maia 200 an.

Die Beschleuniger sind so vernetzt, dass sie bei großen KI-Aufgaben eng zusammenarbeiten können. Ein eigener KI-Transport auf Ethernet-Basis soll die Verbindung vom einzelnen Rack bis in den Rechenzentrumsmaßstab ermöglichen.

Einsatzbereiche und Ausblick

„Maia 200“ und Maia 300 sollen künftig weitere Microsoft-Dienste unterstützen. Dazu gehören mehrstufige agentische Aufgaben für GitHub, die Bereitstellung von Modellen im Cloud-Maßstab für Microsoft Foundry sowie Inferenz und Datengenerierung für das MAI-Team. Auch Dragon Copilot soll von der Plattform profitieren: Bei dem Dienst für das Gesundheitswesen sollen latenzkritische Interaktionen den Verwaltungsaufwand von Klinikpersonal senken.

Die Produktionsbereitstellung von Maia 300 soll 2027 beginnen. Auf der Konferenz Ignite 2026 vom 17. bis 20. November in San Francisco möchte Microsoft weitere Informationen zur Maia-Strategie präsentieren.

(ID:50990495)

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zu RZ- und Server-Technik

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung