Performances de l'Intel Arc Pro B70 : significativement plus rapide que la RTX 4000 Pro de Nvidia pour la moitié du prix et 33% de VRAM en plus
Intel a lancé hier les GPU Arc Pro B65 et B70, des GPU haute performance pour stations de travail destinés à l'entraînement et à l'inférence LLM en IA, sans fournir d'informations spécifiques sur les performances dans le communiqué de presse initial. Quelques heures plus tard, l'entreprise a publié des tableaux de performances qui comparent le modèle B70 aux GPU RTX 4000 Pro de Nvidia, qui ont déjà quelques années. Intel affirme que la comparaison reste valable étant donné le prix inférieur à 1 000 dollars de la carte B70, et Team Blue soutient les choses avec des affirmations impressionnantes concernant les performances globales.
Même sans regarder les tableaux de performances, qui peuvent être exacts ou non, comme le veut Intel, le GPU Arc B70 se démarque immédiatement de la concurrence de Nvidia grâce à sa capacité VRAM accrue (32 Go contre 24 Go) et à son prix de lancement qui démarre à 949 $ (contre 1 800 $). Certes, la VRAM n'est que de 19 Gbps GDDR6 avec un bus de 256 bits et une bande passante de 608 GB/s, mais au moins la capacité accrue permet de s'entraîner et d'inférer sur des modèles plus grands.
Grâce à sa capacité VRAM supérieure, la B70 dispose d'une fenêtre contextuelle 2,2 fois plus grande que celle de la carte RTX 4000 Pro. La diapositive d'Intel montre que la B70 prend en charge des longueurs de contexte allant jusqu'à 93K tokens contre la RTX 4000 Pro qui manque de mémoire jusqu'à 42K tokens lorsqu'elle est utilisée avec le modèle Llama 3.1 8b Modèle BF16.
Les flux multi-agents parallèles fonctionnant sur le modèle Ministral Instruct 2410 8B (BF16) offrent un débit de jetons 85% plus élevé pour plusieurs utilisateurs ou demandes avec le B70 dans un environnement Linux OS. En outre, le B70 est capable de fournir des réponses plus rapides pour plusieurs utilisateurs ou demandes avec un temps de réponse au premier jeton 6,2 fois plus rapide, et Intel mentionne que ces vitesses supérieures sont possibles grâce à l'amélioration de l'interface oneAPI et de la pile logicielle propriétaire de la société. L'amélioration des performances par rapport à la concurrence de Nvidia s'étend également aux configurations multi-GPU, Intel revendiquant une augmentation de 2 fois le nombre de jetons par dollar dans les configurations à un, deux et quatre GPU.
Malheureusement, les diapositives ne montrent pas de mesures de performance ou d'informations sur le prix de la carte B65 GPU. Il serait intéressant de voir si Intel autorise les partenaires de l'AIB à commercialiser des versions des GPU B65 et B70 orientées vers le jeu avec des capacités VRAM légèrement inférieures. Cela signifierait également qu'Intel devrait fournir des pilotes graphiques améliorés.
