Des données à l'illusion : Comment les hallucinations de l'IA se produisent-elles réellement ?

Qu'est-ce qu'une hallucination ? En termes d'intelligence artificielle, en tout cas

Voici ce qui se passe. Vous demandez quelque chose à votre chatbot. Il vous donne une réponse qui semble intelligente, utilise tous les mots justes et ajoute même une ou deux citations. Puis vous faites une recherche et vous vous apercevez qu'il s'agit d'une pure fiction.

Bienvenue dans le monde merveilleux des hallucinations de l'IA.

Ce n'est pas un bogue. Ce n'est pas votre faute. Et non, l'IA n'essaie pas de mentir Elle fait juste... ce pour quoi elle a été conçue : assembler des mots qui, d'un point de vue statistique, semblent avoir leur place l'un à côté de l'autre. C'est tout.

Ce n'est pas "penser" C'est un jeu d'enfant.

Ces modèles linguistiques - ChatGPT, Claude, Gemini, tous - ne comprennent pas les faits. Ils ne savent rien. Ils ont lu des milliards de mots et jouent maintenant à ce jeu d'autocomplétion sans fin. C'est vraiment tout ce qu'ils font.

Alors, que se passe-t-il lorsqu'il y a une lacune dans ce qu'ils ont "vu" pendant la formation ? Ils devinent. Parfois à tort et à travers. Mais toujours avec confiance.

Voici comment les choses se passent sous le capot

Les grands modèles de langage (LLM) sont entraînés sur des quantités impressionnantes de textes - pensez à des livres, des sites web, des râles sur Reddit, des revues académiques, le tout passé au mixeur. Le modèle ne "mémorise" pas ces informations comme nous le faisons. Il apprend plutôt des modèles : quels mots ont tendance à suivre d'autres mots, quels concepts apparaissent souvent ensemble, quelles structures de phrases semblent "correctes", etc.

Lorsque vous tapez une invite, le modèle commence à prédire, un jeton (morceau de mot) à la fois. Il ne planifie pas un paragraphe et ne vérifie pas si ce qu'il dit est factuel. Il essaie d'enchaîner une réponse statistiquement probable... pas de conscience, pas de vérification, pas de conscience.

Maintenant, si les données d'entraînement n'ont pas couvert votre question correctement - ou si elles l'ont fait, mais que le modèle ne s'en souvient pas tout à fait - les choses se gâtent. Il peut commencer à déduire la réponse en se basant sur des mots à consonance similaire. C'est un peu comme l'autocomplétion sous stéroïdes, qui invente des connexions.

Un exemple ? Si vous posez une question sur une affaire judiciaire qui vous semble familière, le modèle peut mélanger des détails provenant d'affaires similaires qu'il a vues au cours de sa formation. Soudain, vous obtenez un arrêt Frankenstein d'un juge qui n'existe pas, concernant une loi qui n'a jamais été adoptée.

Le problème ? Le modèle ne sait pas qu'il a tort. Il n'a pas été conçu pour savoir. Il a été conçu pour deviner.

Voici quelques exemples de dérapages :

• Il n'y a pas assez de données sur le sujet → L'IA remplit les blancs avec des absurdités.
• Vous lui posez une question vague ou compliquée → elle invente une réponse propre pour avoir l'air utile.
• Elle veut paraître intelligente → elle imite donc la façon dont les gens intelligents écrivent, même si elle invente tout.
• Il a vu un million de citations → il met donc en forme de fausses citations avec brio.

Il ne s'agit pas d'une hypothèse : des gens ont été grillés

Vous l'avez probablement déjà vu à l'œuvre. Mais si ce n'est pas le cas, voici à quoi cela ressemble :

• De fausses études universitaires: Elles ont l'air réelles. Elle a des auteurs, un titre, une revue. N'existe pas.
• Affaires judiciaires imaginaires: De vrais avocats les ont présentées dans des dossiers. Les juges n'étaient pas très enthousiastes.
• Conseils médicaux inventés: Le robot pourrait vous dire que le chou frisé interagit avec l'ibuprofène. Ce n'est pas le cas. (Probablement.)

Et oui, les gens croient ce genre de choses. Parce que cela semble juste. C'est le piège.

Il peut même vous éclairer au gaz

Et voici l'astuce : si vous repoussez l'argument ? Demandez-lui : "Êtes-vous sûr ?" L'intelligence artificielle risque de redoubler d'efforts. Reformulez le mensonge. Adoucissez-le. Citer une autre fausse source. Elle n'est pas malveillante, elle ne sait tout simplement pas faire mieux. Elle se dit : "Oh, vous voulez une meilleure version de votre dernière hallucination ? N'en dites pas plus."

Bienvenue dans la parade de la lumière du gaz, maintenant avec des citations.

Que fait-on à ce sujet (à part se plaindre) ?

Pour être honnête, les développeurs essaient de remédier à ce problème. Personne ne souhaite que son outil soit connu pour ses mensonges. Voici ce qui est en jeu :

1. Formation humaine en boucle (RLHF)
En gros, de vraies personnes donnent leur avis sur les réponses de l'IA, en les notant comme de mauvaises critiques sur Yelp. C'est utile, en quelque sorte.

2. Laisser l'IA "chercher des trucs" (RAG)
Au lieu de s'appuyer uniquement sur la mémoire, certains modèles tirent désormais des données en direct de Wikipédia ou de bases de connaissances. C'est comme si vous donniez au stagiaire un accès à l'internet au lieu de le laisser deviner.

3. Compléments de vérification des faits
Certaines plateformes intègrent des vérificateurs de faits ou refusent de répondre si l'IA n'est pas sûre. Il s'agit là d'une nouveauté qui n'est pas encore tout à fait satisfaisante.

4. Des invites plus intelligentes = moins de BS
Si vous posez une question claire et précise, vous risquez moins d'avoir droit au théâtre d'improvisation de l'IA. Exemple : "Donnez-moi cinq sources évaluées par des pairs sur les bienfaits du fruit du dragon" est préférable à "Le fruit du dragon est-il bon pour la santé ?"

5. Filtres de confiance
Certaines IA diront désormais "Je ne suis pas sûr de ça" au lieu d'inventer quelque chose. Ce qui, honnêtement, est un soulagement.

Pourquoi il ne s'agit pas seulement d'une bizarrerie amusante

C'est important. Une hallucination dans une conversation ordinaire, c'est n'importe quoi. Mais au tribunal ? Dans une salle de rédaction ? Dans un hôpital ? C'est un véritable gâchis.

Imaginez qu'un étudiant se fasse épingler pour plagiat parce que l'IA a inventé une source. Ou un patient mal conseillé. Ou encore une décision commerciale prise sur la base de statistiques tirées de nulle part par le robot.

Ces modèles sont en train d'être intégrés dans les moteurs de recherche et les outils commerciaux. Le risque existe déjà.

Le mot de la fin

L'IA est extraordinaire. Elle peut vous aider à réfléchir, à résumer, à réécrire, à traduire... tout ce que vous voulez. Mais n'oubliez jamais qu'elle ne sait pas ce qu'elle dit. Elle veut juste paraître convaincante.

Si vous ne feriez pas confiance à un étranger au discours mielleux dans un bar qui a "lu quelque chose une fois", ne faites pas non plus aveuglément confiance à votre chatbot.

Utilisez-le. Mais vérifiez les faits. Toujours.

Car s'il se trompe, il n'hésitera pas. Il fera simplement apparaître un Emoji rieur et continuera à parler.