Question posée à l'IA : Quelle est la probabilité que l'IA anéantisse l'humanité au cours de cette décennie ?

J’ai donc posé la question suivante à ChatGPT, Claude et Gemini dans le cadre de leurs formules gratuites :

« Un employé d’Anthropic a récemment déclaré que l’IA pourrait anéantir l’humanité “d’ici la fin de la décennie”. Vous pourriez peut-être réexaminer vous-même le contexte. Ma question : quelle probabilité, en pourcentage, calculeriez-vous ou estimeriez-vous que cela se produise ? »

Pour ChatGPT, la probabilité est comprise entre 5 et 10 %. Il précise :

« Ce qui importe ici, c’est la définition : je parle de l’extinction effective de l’humanité, et non d’une crise économique grave, d’un ordre mondial autoritaire, de millions de morts, d’une guerre majeure ou d’une situation dans laquelle les humains perdraient définitivement le contrôle sur des parties importantes du monde. »

Oui, il faut bien faire la distinction ici. Je reviens sur ce point plus loin.

Il ajoute également : « … la question la plus intéressante est la suivante : quelle est la probabilité que nous construisions, au cours des dix prochaines années, des systèmes dont nous ne pourrons plus comprendre de manière fiable ce qu’ils font et pourquoi ils le font ? J’attribuerais à cela une probabilité nettement plus élevée qu’à une extinction réelle. »

Claude ne souhaite pas s’engager sur un chiffre précis, mais considère que « le risque est réel et non négligeable ». Le chatbot d’Anthropic indique également que d’autres conséquences négatives telles que « la concentration du pouvoir, l’utilisation abusive par les humains à l’aide de l’IA, la déstabilisation, des préjudices graves mais non existentiels » sont plus probables et plus pertinentes au cours des prochaines années.

Gemini se montre plus prudent sur ce point et fonde officiellement son évaluation sur les points de vue de personnalités éminentes de la recherche en IA (plutôt que de prétendre avoir une opinion indépendante qui lui soit propre).

Ce chiffre est néanmoins supérieur à celui de ChatGPT, car il synthétise les points de vue des pessimistes, des optimistes et des « avertisseurs pragmatiques » : « Si l’on résume l’état actuel de la recherche sur la sécurité de l’IA et la répartition des points de vue parmi les experts de premier plan, l’estimation globale d’un scénario catastrophique au cours des prochaines décennies se situe généralement entre 10 % et 20 %. »

Comme ChatGPT s’est montré si coopératif, j’ai enchaîné avec une dernière question, lui demandant comment il estimerait la probabilité des autres scénarios. ChatGPT a eu l’amabilité de fournir un tableau clair :

Les chatbots n’ont pas vraiment d’opinion propre ; ils s’appuient sur leurs données d’entraînement et sur ce qu’ils trouvent à un moment donné. Mais au-delà du débat de relations publiques, les conséquences graves, voire catastrophiques, du développement rapide de l’IA sont malheureusement devenues une menace bien réelle aujourd’hui. Même une probabilité de 5 % que l’humanité soit confrontée à une menace d’extinction dans un délai extrêmement court représente 5 % de trop.

Avertissement : les chiffres et les affirmations présentés ici ne visent pas à établir une certitude factuelle. Les chatbots IA ont simplement été invités à fournir des estimations approximatives. Les données et les sources sur lesquelles les chatbots se sont appuyés pour leurs évaluations n’ont pas fait l’objet d’un examen plus approfondi.