Microsoft präsentiert Maia 300: Effizienter Inferenz-Chip

Microsoft hat Maia 300 vorgestellt, seinen KI-Inferenzchip der dritten Generation. Nach Angaben des Unternehmens verarbeitet das Design rund 40 Prozent mehr Tokens pro Megawatt Leistung als führende GPU-basierte Systeme und soll damit die Energieeffizienz steigern. Microsoft positioniert Maia 300 als speziell entwickelten Inferenzbeschleuniger, der zur zentralen Inferenzinfrastruktur für Microsoft-Produkte und -Dienste werden soll.

Microsoft rechnet damit, Maia 300 ab 2027 produktiv einzusetzen. Scott Guthrie, Executive Vice President für Cloud Computing bei Microsoft, erklärte, die Verbesserungen ermöglichten dem Unternehmen einen stärkeren Einsatz eigener Spezialchips und verringerten die Abhängigkeit von Nvidia und AMD. Guthrie ergänzte, Microsoft werde die Azure-Maia-Chipfamilie ab 2027 im Multi-Gigawatt-Maßstab ausbauen, damit die Chips im gesamten Unternehmen als zentrale Inferenzinfrastruktur dienen können.

Leistung und Rolle im Microsoft-Stack

In einer Vollkonfiguration mit 96 Beschleunigern kann Maia 300 den Token-Durchsatz auf Rack-Ebene gegenüber Maia 200 um bis zu das Siebenfache steigern. Die Vorgängergeneration hatte Microsoft erst im Januar vorgestellt. Maia 200 kommt bereits in einer Vielzahl von Microsoft-Workloads zum Einsatz, darunter Microsoft Copilot, GitHub Copilot, Microsoft Foundry und unternehmenseigene KI-Modelle. Guthrie zufolge bleibt Maia 200, gemessen an den tatsächlichen Leistungskennzahlen von KI-Diensten, die leistungsstärkste Recheninfrastruktur in Microsofts Flotte. Maia 300 sei dagegen als vollständiges System für KI-Workloads der nächsten Generation konzipiert.

Microsoft beschreibt Maia 300 als optimiert für Inferenz-Workloads mit langen Kontexten, latenzarme Konversationserlebnisse und kontinuierliche mehrstufige Agentenaufgaben. Der Chip ist dem Unternehmen zufolge primär für Inferenzaufgaben und nicht für das Training ausgelegt.

Chip-Architektur und Fertigung

Maia 300 setzt auf eine Chiplet-Architektur auf Basis von TSMCs N2P-Prozess. Microsoft zufolge trennt das Design Rechenblöcke, Speichercontroller sowie Ein- und Ausgabefunktionen. Dadurch steht mehr Chipfläche für die Verarbeitung zur Verfügung, während jeder Block die jeweils für seine Aufgabe passende Technologie nutzen kann. Das Azure-Team für Hardware und Infrastruktur erklärt, dieser Ansatz erhöhe die Effizienz und ermögliche eine gezielte Optimierung des Chips für spezifische Inferenzfunktionen.

Microsoft deutet zudem an, dass Maia 300 eine wichtige Rolle in den eigenen Plänen zur Modellentwicklung und -bereitstellung spielen wird. Mustafa Suleyman, CEO von Microsoft AI, erklärte, das Unternehmen müsse sämtliche Ebenen des Technologie-Stacks entwickeln – von den Modellen bis zum Silizium. In dem von Microsoft geplanten Umfang sei dafür eine dedizierte Plattform erforderlich, die gemeinsam mit den Modellen entwickelt werde. Der Betrieb der unternehmenseigenen Microsoft-Modelle auf Maia habe für das Team oberste Priorität, ergänzte er.