"Le monde est en péril" : Le responsable de la sécurité de l'IA d'Anthropic démissionne, incapable de concilier son travail et ses valeurs

Dans sa lettre d'adieu, M. Sharma ne se contente pas d'exposer les raisons de son départ, il lance également un avertissement sévère : "Le monde est en péril" Il décrit la situation actuelle comme une "polycrise", dans laquelle de multiples crises interconnectées se déroulent simultanément. Selon lui, c'est déjà le cas. Il précise que ses préoccupations ne se limitent pas aux menaces techniques telles que l'intelligence artificielle https://www.notebookcheck.net/Subscribers-pick-ChatGPT-over-Google-as-their-default-gateway-to-the-web.1209373.0.html ou les armes biologiques, mais s'étendent à un éventail plus large de crises mondiales interconnectées, y compris la montée des tensions géopolitiques.

Sharma souligne à quel point il est difficile de défendre ses valeurs au quotidien. Même les organisations qui ont des principes forts sont soumises à une pression constante pour changer de priorité ou faire des compromis pragmatiques. Anthropic se présente comme une alternative à d'autres grandes entreprises d'IA, axée sur la sécurité et les valeurs, ce qui rend sa critique d'autant plus significative.

Sharma envisage d'étudier la philosophie - la communauté réagit avec respect

Il est intéressant de noter que Mrinank Sharma envisage de quitter complètement l'industrie technologique pour étudier la philosophie. Dans l'ensemble, la communauté sur X a réagi avec respect et compréhension. De nombreux utilisateurs saluent son travail dans le domaine de la sécurité de l'IA et lui souhaitent bonne chance. Certains critiques affirment qu'il aurait pu avoir une plus grande influence s'il était resté dans l'entreprise. M. Sharma rétorque que le fait d'être en dehors de l'organisation lui donne plus de liberté pour s'exprimer ouvertement. Cela suggère qu'il pourrait continuer à suivre l'évolution du secteur technologique et à partager ses opinions à distance.

Au-delà de ses remarques sur les crises mondiales, la lettre d'adieu de M. Sharma contient également des références qui ont attiré l'attention. Dans les notes de bas de page, il cite un ouvrage intitulé "CosmoErotic Humanism", publié sous le pseudonyme de David J. Temple. Ce nom serait lié à Marc Gafni, un enseignant spirituel qui a fait l'objet de critiques dans le passé en raison d'allégations d'inconduite sexuelle. Bien que Sharma ne commente pas ce lien, la référence a soulevé des questions sur les influences intellectuelles qui ont motivé sa décision de démissionner.

L'impact de la démission de Sharma sur l'avenir d'Anthropic n'est pas encore clair. L'entreprise à l'origine du chatbot Claude mène actuellement une grande campagne publicitaire, , qui présente son assistant IA comme une alternative sans publicité. Dans ce contexte, le moment choisi pour son départ pourrait s'avérer inopportun.