Les entreprises freinent l'utilisation de l'IA en invoquant le coût élevé des jetons

Il n'y a pas si longtemps, les gros titres ont fait état d'une tendance des dirigeants à encourager l'utilisation de l'IA autant que possible pour améliorer la productivité, souvent en réduisant le nombre d'employés. L'exemple le plus tristement célèbre de cette mentalité est celui du PDG de Nvidia, Jensen Huang, qui a déclaré qu'il serait très inquiet si les ingénieurs de Nvidia ne brûlaient pas la moitié de leur salaire de 500 000 dollars en jetons d'IA pour faire leur travail. Il est même allé jusqu'à comparer cette situation à celle d'un concepteur de puce utilisant du papier et un crayon au lieu de la CAO.

Dans la réalité, il s'avère que cette façon de gérer une entreprise est extrêmement coûteuse, même si vous licenciez des employés pour la financer, et des mégacorporations telles que Microsoft, Uber, Meta et Amazon mettent un frein à l'excès de "tokenmaxxing" Si les deux premières limitent plus directement l'utilisation de l'IA (Microsoft a annulé la plupart de ses licences Claude Code et le responsable des opérations d'Uber, Andrew Macdonald, a déclaré qu'il était "de plus en plus difficile de justifier" les dépenses en IA), les deux dernières n'ont pas déclaré catégoriquement que l'IA était trop chère ou qu'elles la limitaient. Ce que nous avons vu en réponse aux fuites de tableaux de bord internes sur l'utilisation des jetons d'IA, c'est que ces tableaux ont été supprimés, ce qui signifie que le tokenmaxxing n'est plus encouragé dans ces entreprises.

Le problème ne se limite pas aux grandes entreprises technologiques. Selon Gizmodo, un consultant anonyme en IA a informé Axios que l'un de ses clients avait accidentellement dépensé un demi-milliard de dollars en un seul mois en ne limitant pas l'utilisation de Claude par ses employés. Nous avons également vu des rapports au mieux mitigés sur l'utilisation de l'IA pour améliorer la productivité : un rapport d'OpenAI n'indique qu'une amélioration de la productivité d'"une heure par jour" et une étude du MIT sur 350 déploiements publics indique que 95 % d'entre eux ne parviennent pas à faire des bénéfices ou à atteindre les objectifs de performance.

Il s'agit d'un tournant intéressant dans la conversation sur l'IA en entreprise, qui contredit fortement les propos des fanatiques qui profitent de son adoption aux dépens des travailleurs existants. L'IA n'est pas gratuite, surtout au niveau de l'entreprise.