Nvidia dévoile une plateforme de sécurité pour surveiller les agents d’IA et les isoler à la vitesse de l’éclair

Récemment, un nombre croissant de rapports émanant de grandes entreprises spécialisées dans l’IA ont attiré l’attention. Ils décrivent comment leur IA aurait réussi à sortir d’un système censé être fermé et aurait prétendument piraté d’autres systèmes. Depuis, un débat s’est engagé : s’agit-il principalement d’un coup de pub destiné à convaincre les clients des capacités incroyables de leur IA, ou ces incidents constituent-ils de véritables signaux d’alerte ?

Quoi qu’il en soit, à mesure que les agents d’IA gagnent en capacités, les préoccupations en matière de sécurité grandissent elles aussi. Nvidia espère désormais répondre à ces inquiétudes avec sa nouvelle plateforme. Selon Nvidia, le problème est loin d’être simple, car une IA doit également pouvoir accéder à certains documents ou à certaines parties du Web pour fonctionner efficacement.

La nouvelle plateforme de sécurité de Nvidia s’appelle OpenShell. Il s’agit essentiellement d’un bac à sable composé de deux couches : les agents d’IA se voient accorder des autorisations d’accès précises — par exemple, à un dossier spécifique — tandis que tout le reste est bloqué. La deuxième couche, appelée Sentry, surveille et consigne en permanence l’activité des agents et peut apparemment isoler l’IA en quelques millisecondes si elle tente de franchir les limites prédéfinies.

Cependant, l’utilisation du système n’est pas si simple : les utilisateurs doivent définir à l’avance exactement ce que l’agent a le droit de faire ou non. D’un côté, cela est quelque peu fastidieux ; de l’autre, cela pourrait priver l’IA de solutions alternatives créatives auxquelles les utilisateurs n’avaient pas pensé.

Nvidia répond également aux avertissements d’employés du secteur de l’IA selon lesquels l’IA pourrait devenir une véritable menace pour l’humanité, ainsi qu’aux appels à ralentir le développement rapide et apparemment inarrêtable de l’IA. Selon Nvidia, toutefois, la sécurité de l’IA relève avant tout de l’ingénierie et peut être assurée par des moyens techniques.