Axera AX8860P tritt mit eigenem KI-Beschleuniger gegen Nvidia DGX Spark an

Nvidias DGX Spark bekommt unerwartete Konkurrenz aus China, wie CNX Software berichtet. Der Chiphersteller Axera hat mit der AX8860-Serie eine Prozessorfamilie für die lokale Ausführung großer Sprachmodelle vorgestellt. Die Chips sollen in kompakten KI-Rechnern von Herstellern wie Sipeed und Radxa zum Einsatz kommen. Sipeed behauptet, dass die kommende MaixStation Nvidias DGX Spark bei ausgewählten Aufgaben übertreffen kann.

Der Axera AX8860P verfügt über 16 Arm-Cortex-A55-CPU-Kerne und eine separate Neural Processing Unit (NPU) mit bis zu 256 TOPS FP4-Rechenleistung. Der im 6-nm-Verfahren gefertigte Chip unterstützt bis zu 128GB LPDDR5X-Arbeitsspeicher über eine 256-Bit-Schnittstelle. Die maximale Speicherbandbreite beträgt 273GB/s. Zur weiteren Ausstattung gehören PCIe 5.0, AXLink-Verbindungen zur direkten Kommunikation zwischen Chips sowie umfangreiche Funktionen zur Videokodierung und -dekodierung.

Die KI-Beschleunigung des AX8860P basiert auf Axeras hauseigener AXNeutron-Architektur. Während Nvidia in der DGX Spark eine Blackwell-GPU nutzt, ist AXNeutron gezielt für neuronale Berechnungen ausgelegt. Laut Axera verwendet die Architektur ein programmierbares Datenflussdesign, das für KI-Inferenz optimiert ist. Dieser Ansatz soll die Hardware besser auslasten und unnötige Datentransfers verringern, was bei der Ausführung Transformer-basierter Sprachmodelle Vorteile bringen könnte.

Über die zugrunde liegende Hardware der NPU hat Axera allerdings bislang nur wenige Details veröffentlicht. Daher lässt sich schwer beurteilen, welchen Anteil Architekturverbesserungen, Speicherbandbreite und Softwareoptimierungen an der versprochenen Leistung haben. Die angegebenen 256 TOPS fallen auf dem Papier hoch aus, sagen aber wenig über die dauerhaft erreichbare Leistung unter Praxisbedingungen aus.

Sipeed entwickelt die MaixStation mit AX8860P und gibt an, damit Nvidias DGX Spark in ausgewählten Benchmarks zur LLM-Inferenz zu übertreffen. Das Unternehmen führt die Ergebnisse unter anderem auf die native Beschleunigung dichter FP4-Berechnungen und die effizientere Nutzung der verfügbaren Speicherbandbreite zurück. Die Benchmarks stammen allerdings vom Hersteller und beziehen sich auf bestimmte Modelle und Inferenzkonfigurationen. Ohne unabhängige Tests mit identischen Modellen, Quantisierungseinstellungen und Softwareumgebungen lässt sich nicht beurteilen, ob der AX8860P die DGX Spark durchgehend übertrifft.

Die Software unterstützt gängige KI-Frameworks wie PyTorch, vLLM und SGLang. Diese Kompatibilität bedeutet jedoch nicht zwangsläufig, dass Leistung, Funktionsumfang und Einrichtungsaufwand mit anderen Plattformen vergleichbar sind.

Sipeed plant Varianten der MaixStation mit 32GB und 128GB LPDDR5X-Arbeitsspeicher. Die angestrebten Preise liegen bei unter umgerechnet rund 1.782 beziehungsweise 3.563 Euro vor Steuern. Eine Kickstarter-Kampagne soll gegen Ende 2026 starten. Auch Radxa entwickelt mit dem Pocket Supercomputer ein Gerät auf Basis des AX8860P. Sipeed hat zudem Pläne für Beschleunigerkonfigurationen mit mehreren Chips vorgestellt.