Microsoft Maia 300: Neuer KI-Chip mit gewaltigen 288 GB HBM4 und 18 TB/s Bandbreite

Microsoft hat mit dem Maia 300 offiziell seinen neuesten, selbst entwickelten KI-Beschleuniger vorgestellt. Damit will das Unternehmen seine Abhängigkeit von Hardware der Hersteller Nvidia und AMD verringern. Die Ankündigung folgt kurz auf die Vorstellung von Jalapeno, dem ersten eigenen KI-Chip von OpenAI. Der Maia 300 tritt die Nachfolge des Maia 200 an, der Anfang dieses Jahres auf den Markt kam. Der erste Chip der Reihe, der Maia 100, wurde bereits 2023 vorgestellt.

Der Maia 300 setzt auf ein Multi-Chiplet-Design, dessen zentrale Recheneinheit im fortschrittlichen N2P-Verfahren (2 nm) von TSMC gefertigt wird. Hinzu kommen separate Chiplets für Speicher und Ein-/Ausgabe, sodass Microsoft die einzelnen Komponenten jeweils in einem Fertigungsverfahren herstellen lassen kann, das auf ihre Anforderungen zugeschnitten ist. Laut Reuters wird ein Teil der unterstützenden Chips im kostengünstigeren 3-nm-Verfahren produziert.

Der Beschleuniger erreicht eine Rechenleistung von bis zu 13,8 PFLOPS bei FP4-Präzision und 6,9 PFLOPS bei FP8. Die Leistungsaufnahme des SoC wird mit 950 Watt angegeben und liegt damit deutlich über den 750 Watt des Maia 200. Microsoft stattet den Maia 300 mit acht HBM4-Stacks aus, die zusammen 288 GB Kapazität und eine Bandbreite von 18 TB/s bieten. Jeder Stack stellt 36 GB bereit, wobei der HBM4-Speicher mit 9 Gbit/s pro Pin arbeitet. Zum Vergleich: Der Maia 200 verfügt über 216 GB HBM3E-Speicher mit einer Bandbreite von 7 TB/s. Der neue Beschleuniger dürfte sich damit besonders für speicherintensive KI-Inferenzaufgaben eignen.

Microsoft hat außerdem die Verbindungstechnik des Beschleunigers verbessert. Der Maia 300 bietet eine bidirektionale Scale-up-Bandbreite von 3,2 TB/s und nutzt ein zweistufiges Ethernet-Netzwerk mit einem eigens entwickelten KI-Transportprotokoll. Ein einzelnes Rack fasst 96 Maia-300-Beschleuniger. Die Scale-up-Architektur unterstützt Cluster mit rund 12.000 Beschleunigern.

Abseits der reinen Leistungsdaten verspricht Microsoft, dass der Maia 300 pro Megawatt 40 Prozent mehr Tokens verarbeiten kann als führende GPU-basierte KI-Systeme. Eine vollständig bestückte Konfiguration mit 96 Beschleunigern soll auf Rack-Ebene einen bis zu siebenmal höheren Token-Durchsatz als der Maia 200 erreichen. Allerdings hat Microsoft nicht genügend Details zu den verglichenen GPU-Konfigurationen veröffentlicht, um den tatsächlichen Effizienzvorsprung unabhängig überprüfen zu können.

Microsoft plant, den Maia 300 ab 2027 in produktiven Umgebungen einzusetzen und die entsprechende Infrastruktur langfristig auf eine Kapazität von mehreren Gigawatt auszubauen. Laut Reuters könnte das Unternehmen bereits im kommenden Jahr mehr als eine Million Maia-300-Chips in Betrieb nehmen. Das unterstreicht Microsofts Bestreben, sich bei KI-Beschleunigern unabhängiger von Drittanbietern zu machen.