Le Grokipedia d'Elon Musk utilisé comme source dans les réponses du ChatGPT

Selon un rapport récent de The Guardianle dernier modèle de ChatGPT utilise de plus en plus l'encyclopédie en ligne Grokipedia d'Elon Musk pour répondre aux questions. Dans le cadre de l'enquête, l'IA a cité la plateforme pour divers sujets, tels que les structures politiques en Iran ainsi que des détails biographiques sur des personnages historiques.

Cette évolution soulève des inquiétudes quant à la qualité des informations fournies par ChatGPT. Pour être plus précis, ces informations ne sont pas soumises aux mêmes processus de vérification que les sources gérées par des équipes éditoriales ou une communauté plus large.

Grokipedia a été créé par Elon Musk pour concurrencer Wikipédia. Alors que Musk accuse Wikipédia d'avoir un parti pris de gauche et affirme que son projet vise la vérité et la neutralité, les critiques considèrent souvent Grokipedia comme l'extrême opposé. Ils affirment que la plateforme présente parfois des contenus d'un point de vue politiquement orienté à droite ou qu'elle aborde des sujets controversés de manière unilatérale.

Contrairement aux entrées de Wikipédia qui sont rédigées par des êtres humains, les textes de Grokipedia sont principalement générés par le modèle d'IA interne appelé Grok. Les modifications apportées par les utilisateurs ne font pas partie de ce système, dont la qualité est censée être vérifiée par les employés de xAI. Lorsque d'autres modèles linguistiques, tels que GPT-5.2, utilisent ces textes générés par des machines comme source factuelle, une boucle de rétroaction technique se met en place, dans laquelle les IA apprennent les unes des autres.

Cela augmente le risque d'un scénario dit "garbage in, garbage out". Si les IA commencent à utiliser des documents non filtrés provenant d'autres IA comme base de leurs propres réponses, des erreurs ou des préjugés spécifiques peuvent être transmis sans aucune forme d'examen. L'enquête du Guardian a déjà montré que ChatGPT cite Grokipedia et répète des affirmations qui vont au-delà des connaissances établies ou qui ont déjà été réfutées depuis longtemps. Cela illustre le danger que la désinformation paraisse plus crédible en raison des citations mutuelles des modèles d'IA, et qu'il devienne de plus en plus difficile pour les utilisateurs de repérer ces fausses informations.

L'OpenAI a déjà réagi au rapport et souligne que la recherche sur le web du modèle tente de refléter un large éventail de sources et de points de vue accessibles au public. Un porte-parole a déclaré que des filtres de sécurité sont en place pour réduire le risque d'afficher des liens vers des contenus à fort potentiel de nuisance. En outre, ChatGPT fournit des réponses avec des citations et des sources dans un souci de transparence. L'entreprise a également mentionné des programmes en cours destinés à filtrer les sources peu crédibles.