Le mini PC RTX Spark promet de surmonter les limitations de mémoire grâce au SSD IA atypique de Mechrevo

Le fabricant chinois de PC Mechrevo se prépare à lancer un nouveau mini PC appelé Master Road X10. Contrairement aux mini PC classiques, le Master Road X10 est principalement conçu pour exécuter de grands modèles d’IA localement, et il intègre quelques optimisations intéressantes qui pourraient réellement s’avérer utiles. Le Master Road X10 utilise la plateforme RTX Spark de Nvidia, qui associe un processeur Grace à 20 cœurs à un GPU Blackwell doté de jusqu’à 6 144 cœurs CUDA. Elle prend en charge jusqu’à 128 Go de mémoire unifiée LPDDR5X.

Il s’agit des caractéristiques maximales de la plateforme, et Mechrevo n’a pas encore confirmé la configuration exacte de son mini PC. Toutefois, la fonctionnalité la plus intéressante est le SSD IA propriétaire de Mechrevo. Au lieu de s’appuyer exclusivement sur la mémoire système, cette technologie peut transférer certaines parties des grands modèles d’IA de la DRAM vers la mémoire flash NAND. Elle peut également conserver et réutiliser le contexte déjà traité, réduisant théoriquement les calculs redondants et la surcharge liée au chargement des modèles. Mechrevo affirme que cela permet au Master Road X10 d’exécuter des modèles de 80 milliards, 120 milliards et même 122 milliards de paramètres tout en conservant une bonne réactivité. Malheureusement, la capacité exacte du SSD n’a pas été précisée.

Ce n’est pas la première fois que Mechrevo évoque cette technologie. Lors de la présentation de septembre, l’entreprise a affirmé que son SSD IA pouvait multiplier jusqu’à 5,7 fois les charges de travail des modèles prises en charge et accélérer la phase de préremplissage de jusqu’à 95 %. Des tests en laboratoire sur l’ordinateur portable Mechrevo Yaoshi 15 Air auraient démontré une vitesse d’inférence presque doublée. Le SSD permettrait également une mémoire IA persistante en conservant les préférences de l’utilisateur et les informations contextuelles d’une session à l’autre. Toutefois, quelques réserves importantes s’imposent.

Mechrevo n’a pas publié de résultats de tests de performance détaillés, de paramètres de quantification des modèles ni de conditions de test pour étayer ces affirmations. De plus, la mémoire flash NAND est considérablement plus lente que la DRAM, ce qui signifie qu’un SSD capable d’accueillir un modèle plus volumineux n’offrira pas nécessairement une inférence plus rapide. Pour l’instant, les configurations de mémoire du Master Road X10, la capacité de son SSD IA, ses options de connectivité, son prix et sa date de sortie restent inconnus. Il sera intéressant de voir si Mechrevo peut concrétiser ses affirmations ambitieuses issues du laboratoire par des gains de performances mesurables en conditions réelles.