Axera AX8860P vise le Nvidia DGX Spark avec un accélérateur d’IA propriétaire

Le DGX Spark de Nvidia a un concurrent inattendu venu de Chine (merci à CNX Software). Le fabricant de puces Axera a dévoilé sa série AX8860, une famille de processeurs dédiés à l'IA conçus pour exécuter de grands modèles de langage localement. Ces puces équiperont des ordinateurs compacts dédiés à l'IA de fabricants tels que Sipeed et Radxa, le premier affirmant que sa future MaixStation peut surpasser le DGX Spark de Nvidia sur certaines charges de travail.

L'Axera AX8860P dispose de 16 cœurs CPU Arm Cortex-A55 et d'une unité de traitement neuronal (NPU) dédiée capable de fournir jusqu'à 256 TOPS de puissance de calcul en FP4. Gravée en 6 nm, la puce prend en charge jusqu'à 128 Go de mémoire LPDDR5X via une interface de 256 bits, offrant une bande passante maximale de 273 Go/s. Les autres caractéristiques comprennent une connectivité PCIe 5.0, des interconnexions entre puces AXLink et des capacités étendues d'encodage et de décodage vidéo.

Au cœur des capacités d'IA de l'AX8860P se trouve l'architecture propriétaire AXNeutron d'Axera. Contrairement au GPU Blackwell qui équipe le DGX Spark de Nvidia, AXNeutron est une architecture de traitement neuronal spécialement conçue à cet effet, qu'Axera décrit comme reposant sur une conception à flux de données programmable optimisée pour l'inférence d'IA. L'entreprise affirme que cette approche améliore l'utilisation des ressources matérielles et réduit les déplacements de données inutiles, ce qui pourrait offrir des avantages lors de l'exécution de modèles de langage fondés sur l'architecture Transformer.

Cependant, Axera a révélé relativement peu d'informations sur le matériel sous-jacent du NPU. Il est donc difficile de déterminer dans quelle mesure les performances annoncées proviennent d'améliorations architecturales, de la bande passante mémoire ou d'optimisations logicielles. Le chiffre annoncé de 256 TOPS est impressionnant sur le papier, mais il nous renseigne relativement peu sur les performances soutenues dans des conditions d'utilisation réelles.

Sipeed (oui, je sais), qui développe la MaixStation équipée de l’AX8860P, affirme que son implémentation peut surpasser le DGX Spark de Nvidia dans certains benchmarks d’inférence de LLM. L’entreprise attribue ses résultats en partie à l’accélération native des calculs en FP4 dense de l’AX8860P et à une utilisation plus efficace de la bande passante mémoire disponible. Par ailleurs, les benchmarks de Sipeed sont fournis par le fabricant et portent sur des modèles et des configurations d’inférence spécifiques. Sans tests indépendants utilisant des modèles, des paramètres de quantification et des environnements logiciels identiques, il est impossible d’établir si l’AX8860P surpasse systématiquement le DGX Spark.

La prise en charge logicielle inclut la compatibilité avec des frameworks d’IA populaires, notamment PyTorch, vLLM et SGLang, mais cette compatibilité ne se traduit pas nécessairement par des performances, une prise en charge des fonctionnalités ou une facilité de déploiement équivalentes.

Sipeed prévoit de proposer sa MaixStation avec 32 Go et 128 Go de mémoire LPDDR5X. L’entreprise vise des prix inférieurs à 2 000 $ et 4 000 $, respectivement, avec une campagne Kickstarter attendue vers la fin de 2026. Radxa développe également un Pocket Supercomputer équipé de l’AX8860P, tandis que Sipeed a présenté ses projets de configurations d’accélérateurs multipuces.