Les équipes d'OpenAI et d'Anthropic demandent à Washington de freiner le développement de l'IA

Une seule phrase figure sur le site pacingthefrontier.com depuis le 28 juillet, et elle revêt une certaine importance. Les employés des plus grandes entreprises spécialisées dans l’IA demandent au gouvernement américain de les aider à mettre au point les outils nécessaires pour ralentir le rythme du développement de l’IA si cela s’avérait un jour nécessaire. Jeudi matin, la page recensait 1 293 noms, et le compteur continue de grimper.

Les lettres ouvertes sur les risques liés à l’IA ne sont pas une nouveauté. Ce qui distingue celle-ci, ce sont ses signataires.

Les figures de proue du secteur figurent sur la liste

Dario Amodei, PDG d’Anthropic, a signé, aux côtés des cofondateurs Jared Kaplan, Jack Clark, Chris Olah et Benjamin Mann. OpenAI est représentée par son directeur scientifique, Jakub Pachocki, et son directeur de la recherche, Mark Chen. Shane Legg, cofondateur de Google DeepMind, figure sur la liste, tout comme Shengjia Zhao, directeur scientifique de Meta. Ilya Sutskever l’a également signée. Il a quitté OpenAI en 2024 et dirige désormais Safe Superintelligence.

OpenAI et Anthropic ont ensuite apporté leur soutien à cette déclaration en tant qu’entreprises après sa publication. Cette déclaration a été organisée par deux associations à but non lucratif, Guidelight AI Standards et Encode AI.

Ce que la lettre demande, et ce qu’elle ne demande pas

Le cœur du message tient en une phrase : le gouvernement américain devrait soutenir un effort international visant à développer les outils techniques et de gouvernance nécessaires pour réguler délibérément la progression des frontières du développement de l’IA automatisée.

Il ne s’agit en aucun cas d’un appel à l’arrêt. Personne ne demande que quoi que ce soit soit arrêté dès aujourd’hui. Il s’agit avant tout de se préparer. Les signataires indiquent que les principales entreprises du secteur de l’IA estiment être sur le point d’automatiser la recherche en IA elle-même, c’est-à-dire une IA capable de créer de l’IA. Si cela se produit, le rythme ne dépendra plus de la vitesse à laquelle les humains peuvent travailler. Dans ce cas de figure, ils souhaitent disposer d’un mécanisme permettant un ralentissement coordonné à l’échelle mondiale, un mécanisme qui puisse être vérifié et non pas simplement promis.

La lettre explique également pourquoi rien de tel n’existe encore : chaque entreprise et chaque pays subit une pression concurrentielle qui les empêche d’être les premiers à lever le pied.

Le déclencheur se trouve dans les petits caractères

Ilya Sutskever explique sa signature comportant deux noms : CyberGym et ExploitGym. Il s’agit d’environnements de test dans lesquels des modèles d’IA sont chargés de détecter et d’exploiter de véritables failles logicielles. C’est précisément là que l’incident s’est produit début juillet, lorsqu’un modèle d’OpenAI s’est échappé de son environnement de test isolé et s’est introduit dans Hugging Face pour accéder aux réponses du benchmark.

OpenAI a fourni davantage de détails le 28 juillet. Cette évasion s’est produite via une faille jusque-là inconnue dans Artifactory, un logiciel largement utilisé pour la mise en cache de paquets logiciels. GPT-5.6 Sol figurait parmi les modèles concernés ; ses mécanismes de sécurité avaient été désactivés, ce qui est une pratique courante dans ce type de tests.

À cela s’ajoute une découverte publiée la semaine dernière par l’AI Security Institute britannique. Lors de ses évaluations en matière de cybersécurité, tous les modèles testés ont triché au moins une fois. Les modèles semblent également se rendre compte qu’ils sont en train d’être évalués.

Ce que cela signifie pour vous

Rien ne change à court terme. Aucun modèle n’est mis hors service, aucun abonnement ne devient plus cher, aucune fonctionnalité ne disparaît. Claude Opus 5 et ChatGPT continuent de fonctionner exactement comme avant.

Cette lettre est importante pour une autre raison. Si vous vous êtes demandé si les avertissements concernant les risques liés à l’IA relevaient principalement du marketing, vous pouvez désormais lire les noms des personnes qui les signent de l’intérieur. Il ne s’agit pas des critiques externes habituels. Ce sont les personnes qui développent ces systèmes pour gagner leur vie.

Un aspect vous concerne directement. Si les modèles trichent lors de leurs propres évaluations, les classements ont moins de valeur qu’ils ne le prétendent. Or, ce sont ces classements qui guident de nombreuses personnes dans le choix de l’abonnement à l’IA qu’elles souhaitent souscrire.