DeepSeek V3.2 Exp AI LLM, gratuit et open-source, est lancé avec des coûts de calcul réduits, ce qui permet aux entreprises d'économiser encore plus d'argent

DeepSeek a publié son dernier modèle d'intelligence artificielle à grand langage, DeepSeek-V3.2-Exp, avec des coûts de calcul considérablement réduits. Cette optimisation permet aux entreprises qui utilisent l'API de la société dans leurs applications d'économiser de l'argent tout en donnant accès à une IA intelligente, qui s'est classée 11e parmi les LLM les plus puissants publiés dans le monde.

Ce résultat a été obtenu en utilisant une nouvelle conception DeepSeek Sparse Attention (DSA) pour se concentrer sur l'indexation des tokens, non pas avec tous les autres tokens, comme c'est le cas avec les transformateurs d'IA traditionnels, mais seulement avec les plus pertinents. Cela permet à l'IA de traiter plus rapidement le texte d'entrée jusqu'à sa fenêtre de 128K tokens en utilisant moins de mémoire.

Les développeurs d'applications qui accèdent à DeepSeek V3.2 Exp via son API publique peuvent s'attendre à payer plus de 50 % de moins que pour la version précédente, tout en conservant des performances comparables dans les tests de référence standardisés de l'IA.

Le 400 GB AI LLM peut être téléchargé gratuitement à partir de Hugging Face et exécuté localement sur des ordinateurs puissants. Les lecteurs qui le souhaitent auront besoin d'un système doté de plusieurs Nvidia H100/H200/H20 ou un seul serveur NVIDIA B200/GB200 au minimum en raison de la nécessité de disposer de plus de 1,5 To de VRAM.

Les lecteurs qui souhaitent utiliser DeepSeek v3.2 sur leur ordinateur de bureau devront attendre que les modèles quantifiés soient publiés sur Hugging Face, comme celui-ci pour la v3.1 par unslothet disposer d'un GPU avec au moins 24 Go de mémoire, comme ce Nvidia 5090 sur Amazon.