inférence 10 fois plus rapide qu'avec la mémoire HBM4 : d-Matrix s'associe à AIchip pour produire la première DRAM 3D au monde

L'emprise de Nvidia sur l'ensemble de l'infrastructure matérielle de l'IA est encore forte, mais plusieurs entreprises s'efforcent désormais de proposer des alternatives efficaces. Il y a quelques années, alors que Nvidia peinait à répondre à la demande croissante de matériel d'inférence, d-Matrix est apparu et a saisi l'occasion de se positionner comme un fournisseur fiable de matériel d'IA générative dans l'espace des centres de données. Sa première carte de calcul dédiée - la Corsair C8a été bien accueillie, et la société prévoit maintenant de lancer un nouveau modèle intégrant la première DRAM 3D produite en masse au monde.

d-Matrix a collaboré avec des fabricants d'infrastructures d'IA à haute performance ASIC à haute performance AIchip de Taïwan afin de développer la solution 3D DRAM, qui est censée "éliminer les goulets d'étranglement en matière de performance et de coût qui limitent l'infrastructure d'IA d'aujourd'hui" Ce nouveau type de RAM, connu sous le nom de 3DIMC (3D stacked digital in-memory compute) est actuellement testé sur les puces Pavehawk de d-Matrix.

Le premier produit commercial doté d'une DRAM empilée en 3D devrait être l'accélérateur d'inférence Raptor de d-Matrix (lien d'affiliation Nvidia Jetson AGX), qui remplacera les modèles Corsair actuels. d-Matrix estime que la solution 3DIMC pourrait offrir des vitesses d'inférence jusqu'à 10 fois supérieures à celles des puces HBM4-les plus rapides.

Sid Sheth, cofondateur et PDG de d-Matrix, explique que la DRAM empilée en 3D représente " une percée qui rend l'IA non seulement plus rapide, mais aussi plus rentable et durable à l'échelle. 3DIMC représente la prochaine étape logique de notre feuille de route visant à fournir des architectures d'inférence efficaces qui suivent le rythme de la croissance exponentielle de l'IA générative et agentique"