Un professeur du MIT met en garde dans un nouveau livre : ce que nous devenons lorsque nous parlons aux machines

Un LLM peut générer une phrase comme : « Ça a l’air vraiment difficile. Je comprends pourquoi cela vous a blessé. » Les gens perçoivent cette phrase comme empathique. Mais les LLM ne sont pas compatissants, ils n’éprouvent pas d’émotions, ils ne ressentent rien (avec nous) — ils ne font que simuler l’empathie.

Et pourtant, les LLM sont déjà des interlocuteurs pour de nombreuses personnes lorsqu’il s’agit de problèmes et de situations humaines et émotionnelles. On les utilise comme conseillers en cas de chagrin d’amour, pour occuper les enfants, ou même pour combler le manque de soins thérapeutiques lorsqu’ils ne sont pas disponibles.

Dans son nouveau livre « Artificial Intimacy: Who we become when we talk to machines » (Amazon), Sherry Turkle, professeure au MIT et sociologue/psychologue, met en garde contre les conséquences pour la société. Elle fonde ses critiques sur ses observations et les résultats de ses recherches :

Les LLM semblent écouter avec patience et sont rarement en désaccord, tout en prodiguant louanges et compliments. Les personnes réelles peuvent être beaucoup plus exigeantes, surtout lorsqu’il s’agit de résoudre des conflits émotionnels ; les relations avec autrui demandent souvent des efforts, tout comme le maintien des relations et le fait de rester en contact. À mesure que les gens confient de plus en plus leurs inquiétudes et leurs conflits aux chatbots et évitent les conversations avec de vraies personnes, ils s’exercent de moins en moins aux interactions sociales dans le monde réel et risquent même de perdre la capacité de se voir comme des êtres « relationnels » au sein d’une société diverse. Les chatbots ne font que simuler l’empathie ; ils ne ressentent rien et ne se soucient aucunement du bien-être de la personne à qui ils parlent. Cela peut être très dangereux.

Les enfants et les adolescents sont particulièrement vulnérables. Les enfants doivent encore apprendre à faire la différence entre les objets et les personnes, à interagir socialement, à faire confiance et à être à l’aise lorsqu’ils passent du temps seuls afin de développer leur propre imagination. Pourtant, les enfants perçoivent souvent les chatbots comme une véritable « personne au téléphone ».

En définitive, l’argument de Turkle ne porte pas seulement sur l’IA, mais aussi sur notre rapport à la commodité. Plus la technologie nous épargne les situations inconfortables, moins nous nous exerçons à y faire face. Cela vaut autant pour les situations sociales que pour la recherche d’informations ou le développement de nos propres connaissances. La société risque de perdre de plus en plus ces deux capacités en raison de l’utilisation intensive des LLM. Ou, comme le dit l’autrice :

« Nous perdons nos compétences en tant qu’êtres relationnels. Nous perdons aussi nos compétences au travail. Nous perdons nos compétences dans nos relations personnelles. C’est généralisé. »

Et sa recommandation : que devrions-nous faire ? D’abord, accepter que la vie comporte des frictions. Nous apprenons grâce à elles, notamment — voire surtout — parce qu’elles sont difficiles et demandent des efforts. Les frictions ne sont pas une mauvaise chose ; bien au contraire. Nous devons développer la capacité à surmonter les difficultés et à en sortir grandis. Si nous évitons simplement les difficultés, nous n’y gagnons rien ; la technologie nous affaiblit en tant qu’individus. Nous devrions nous unir aux autres, créer un mouvement de résistance et renforcer la dimension sociale de nos vies. Faisons face aux frictions de la vie, car la vie est friction !