OpenAI dévoile ChatGPT Agent : L'IA pour les tâches complexes présentant un risque élevé de vol financier et de création d'armes biologiques

OpenAI a lancé ChatGPT Agent, une nouvelle IA combinant la capacité de mener des recherches approfondies avec un accès total aux fichiers informatiques, aux terminaux et à l'internet. Elle est capable de répondre à des questions complexes mieux que les précédents modèles d'IA de l'entreprise, mais présente des risques plus importants, notamment le vol financier et la création d'armes biologiques.

L'agent fonctionne dans un environnement informatique virtualisé conçu pour l'empêcher de se déchaîner. Dans cet ordinateur virtuel, l'IA peut accéder à des fichiers et à l'internet pour obtenir des données, ainsi que créer des scripts dans un terminal shell tout en recherchant les réponses à des questions complexes, telles que l'analyse et la modélisation de données financières ou de recherche. L'accès à l'API est également possible pour les entreprises qui souhaitent interfacer l'IA avec les données de l'entreprise. L'IA peut interagir avec des applications telles que des traitements de texte et des feuilles de calcul pour créer ses rapports.

Bien que l'accès à des actions risquées telles que la réalisation de transactions financières nécessite une confirmation explicite de la part de l'utilisateur, l'agent ChatGPT est aujourd'hui bien classé dans la catégorie des risques biologiques et chimiquesle modèle peut fournir aux acteurs "novices" une assistance contrefactuelle significative qui leur permet de créer des menaces biologiques ou chimiques connues Il est également plus susceptible d'accomplir des tâches financières à enjeux élevés non désirées, telles que des transferts non autorisés de bitcoins, par rapport aux modèles précédents Operator 4o et o3 de l'entreprise.

Les utilisateurs américains disposant d'un compte Pro, Plus, Team, Enterprise ou Educational pourront accéder à ChatGPT Agent au cours des prochaines semaines. Ces comptes nécessitent généralement un abonnement de 20 dollars par mois ou plus. D'autres zones de service, telles que l'Espace économique européen et la Suisse, seront disponibles ultérieurement.

Les lecteurs inquiets du vol de bitcoins par l'IA pourraient envisager de les stocker hors ligne dans un portefeuille froid, comme ce Trezor ou ce Ledger vendu sur Amazon, en attendant que l'agent termine son travail.