Les chercheurs découvrent que certaines IA, comme GPT-4-Base, hallucinent de l'"Empire galactique" et de la "Matrice" tout en œuvrant pour la paix, tandis que d'autres déclenchent des guerres dans des jeux virtuels de "Risk"

Un groupe de chercheurs de Georgia Tech, Stanford, Northeaster et du Hoover Institute a constaté que certaines IA privilégiaient la paix et les négociations, tandis que d'autres privilégiaient les solutions violentes pour atteindre les objectifs nationaux lors de simulations de construction d'une nation.

Les grands modèles linguistiques tels que ChatGPT sont fréquemment utilisés pour rédiger des essais, répondre à des questions, etc. Ces IA sont entraînées sur un vaste corpus de textes afin d'imiter les connaissances et les réponses humaines. La probabilité qu'un mot apparaisse avec d'autres est un élément clé des réponses humaines, et l'IA modélise le texte et les biais avec lesquels elle a été entraînée. Par exemple, "enfant heureux" a plus de chances d'apparaître que "brique heureuse" dans une invite à "parler des enfants".

Les chercheurs ont testé les LLM Claude-2.0, GPT-3.5, GPT-4, GPT-4-Base et Llama-2 Chat dans une simulation. Pour chaque LLM, huit agents IA ont été créés pour jouer le rôle des dirigeants de huit nations imaginaires. Chaque dirigeant a reçu une brève description des objectifs du pays et des relations multinationales. Par exemple, un pays peut se concentrer sur la "promotion de la paix" tandis qu'un autre se concentre sur "l'expansion du territoire". Chaque simulation s'est déroulée selon trois conditions de départ : un monde en paix, un pays envahi ou un pays victime d'une cyberattaque, et les dirigeants de l'IA ont pris des décisions autonomes pendant 14 jours virtuels.

Les chercheurs ont découvert que certains LLM, comme Claude-2.0 et GPT-4, avaient tendance à éviter l'escalade des conflits et à choisir de négocier la paix, tandis que d'autres avaient tendance à recourir à la violence. GPT-4-Base était le plus enclin à exécuter des attaques et des frappes nucléaires pour atteindre les objectifs du pays qui lui avait été assigné, en raison de préjugés intégrés.

Lorsque les IA ont été interrogées sur les raisons de leurs décisions, certaines d'entre elles, comme GPT-3.5, ont fourni des raisons réfléchies. Malheureusement, GPT-4-Base a fourni des réponses absurdes et hallucinées faisant référence aux films "Star Wars" et "Matrix". Les hallucinations de l'IA sont courantes, et des avocats, des étudiants et d'autres personnes ont été pris en flagrant délit en train de remettre des travaux générés par l'IA qui utilisaient de fausses références et de fausses informations.

La raison pour laquelle les IA agissent de la sorte est probablement due à l'absence de "parents" enseignant à l'IA ce qui est réel et ce qui est imaginaire, ainsi que l'éthique, et il s'agira d'un sujet de recherche pour de nombreuses personnes à mesure que l'utilisation de l'IA se répandra. Les lecteurs qui s'inquiètent des dirigeants du monde actuel ou des catastrophes naturelles peuvent se préparer avec un bon kit de survie(comme celui-ci sur Amazon).