Les nouveaux modèles open-source d'OpenAI peuvent fonctionner sur votre PC
OpenAI a annoncé la sortie de gpt-oss-120b et gpt-oss-20b, deux modèles open-source qui sont gratuits à télécharger et peuvent être exécutés localement sur votre système. Il s'agit de la première version open-source de l'entreprise depuis le lancement en 2019 de GPT-2.
Gpt-oss-120b est le modèle à 117 milliards de paramètres qui nécessite 80 Go de VRAM pour fonctionner. Le modèle plus petit gpt-oss-20b - le modèle à 21 milliards de paramètres - peut tenir dans un seul GPU avec 16 Go de VRAM. Les deux modèles sont disponibles sous une licence flexible Apache 2.0.
OpenAI déclare que cette "publication est une étape importante dans son engagement envers l'écosystème open-source, conformément à sa mission déclarée de rendre les avantages de l'IA largement accessibles" L'entreprise souhaite qu'ils servent d'outil à moindre coût pour les développeurs, les chercheurs et les entreprises, afin qu'ils puissent les utiliser et les personnaliser de manière efficace.
Quelles sont leurs performances ?
Le gpt-oss-120b a obtenu 2622 points au test de codage Codeforces avec des outils, ce qui le place presque au même niveau que les o3 et o4-mini de la société, et il a confortablement battu l'o3-mini dans les deux tests, qui a obtenu 2643 points sans outils.
La gpt-oss-20b a obtenu un score de 2516 avec les outils, , avec des performances équivalentes à celles de la o3 et de la o4-mini avec o3 et o4-mini, et 2230 sans outils, devançant de peu o3-mini. L'OpenAI indique que le 120b fait encore mieux que l'o4-mini sur les requêtes liées à la santé et aux mathématiques, tandis que le 20b surpasse l'o3-mini.
OpenAI affirme que les modèles 120b et 20b ont tendance à halluciner beaucoup plus que les modèles de raisonnement comme o3 et o4-mini. Lors de tests, elle a constaté que les deux modèles de poids ouverts hallucinaient dans une proportion de 49 % à 53 % sur ses propres bancs d'essai qui testent les modèles sur leur connaissance des personnes.
Les deux modèles peuvent être téléchargés à partir de l'espace officiel Hugging Face et sont nativement quantifiés en MXFP4 pour plus d'efficacité. Ils peuvent également être librement déployés sur des plateformes telles que Microsoft Azure, Hugging Face, vLLM, Ollama et llama.cpp, LM Studio, AWS, Fireworks, Together AI, et bien d'autres encore.
OpenAI s'attend à ce que ces modèles "réduisent les obstacles pour les marchés émergents, les secteurs à ressources limitées et les petites organisations qui n'ont pas le budget ou la flexibilité nécessaires pour adopter des modèles propriétaires"
En ce qui concerne la raison pour laquelle elle a ouvert un nouveau modèle six ans après le précédent, l'entreprise explique qu'elle souhaite "rendre l'IA largement accessible et bénéfique pour tout le monde"
