Apple et Microsoft rejoignent Anthropic dans un nouveau projet de sécurité de l'IA d'une valeur de 100 millions de dollars

Anthropic's Le projet Glasswing est une nouvelle initiative de cybersécurité visant à identifier et à corriger les vulnérabilités de l'infrastructure logicielle mondiale. Le programme inclut de grands acteurs comme Amazon Web Services, Applebroadcom, Cisco, Google, Microsoft, Nvidiaet l'organisation Linux Foundation. Ces partenaires utiliseront un nouveau modèle de frontière pour analyser et renforcer les systèmes d'origine et les systèmes à code source ouvert.

Le projet est basé sur Claude Mythos Preview, un modèle spécialisé qui, selon Anthropic, a atteint un niveau de capacité de codage qui peut surpasser la plupart des humains dans la recherche d'exploits logiciels. Lors de tests préliminaires, Anthropic affirme que le modèle a découvert de manière autonome des milliers de vulnérabilités de haute gravité dans les principaux systèmes d'exploitation et navigateurs web. Il a notamment découvert une faille vieille de 27 ans dans OpenBSD et une vulnérabilité vieille de 16 ans dans FFmpeg, qui avaient survécu à des millions de tests automatisés antérieurs.

Anthropic s'engage à verser 100 millions de dollars en crédits d'utilisation de modèles aux participants au projet. L'entreprise fait également don de 4 millions de dollars à des organisations de logiciels libres, notamment 2,5 millions de dollars à Alpha-Omega et OpenSSF et 1,5 million de dollars à l'Apache Software Foundation. Toutefois, l'entreprise ne prévoit pas de mettre la Claude Mythos Preview à la disposition du public. Au lieu de cela, le modèle sera accessible aux organisations approuvées via l'API Claude, Amazon Bedrock, Vertex AI de Google Cloud et Microsoft Foundry. Le prix d'utilisation pour ces participants sera de 25 dollars par million de jetons d'entrée et de 125 dollars par million de jetons de sortie.

Le projet Glasswing devrait durer plusieurs mois - Anthropic a également promis un rapport public dans les 90 jours. Ce rapport détaillera les vulnérabilités découvertes et contiendra des recommandations pratiques pour améliorer les pratiques de sécurité, telles que l'automatisation des correctifs et l'amélioration de la sécurité de la chaîne d'approvisionnement. Anthropic a également indiqué qu'elle était en discussion permanente avec des représentants du gouvernement américain concernant les capacités offensives et défensives du modèle.