Les réseaux neuronaux de l'IA sont moins connectés que prévu

Les réseaux neuronaux artificiels continuent de poser des problèmes. Il est difficile de déchiffrer exactement comment les informations sont compilées, comment les textes sont créés, pourquoi des erreurs majeures se glissent et pourquoi certains chatbots tombent tout simplement en panne.

L'une des raisons en est que la structure de base de ces réseaux est similaire à celle d'un cerveau. Ce ne sont pas les points de données et les éléments d'information individuels qui caractérisent leur fonctionnement, mais le nombre presque infini de liens possibles entre eux.

Cependant, les réseaux neuronaux de l'intelligence artificielle restent souvent à un niveau beaucoup plus simple, comme l'a montré une étude récente à l'adresse https://arxiv.org/pdf/2308.09124.pdf l'a révélé.

L'IA traite les informations de base d'une manière beaucoup moins complexe qu'on ne le pensait. Par exemple, au lieu de collecter toutes les réponses possibles à une requête et de répondre par le fait le plus probable, parce que le plus souvent lié, on utilise un lien linéaire.

Les chercheurs ont pu identifier un total de 47 liens linéaires différents dans l'intelligence artificielle étudiée. Pour ce faire, ils ont utilisé une requête correspondante et ont ensuite suivi le chemin du signal à travers le réseau neuronal.

Et ce délai est étonnamment court pour de nombreux faits. Par exemple, les questions concernant l'instrument joué par des artistes connus, le type de sport pratiqué par les athlètes professionnels ou même les capitales des différents pays ont pu être résolues avec un seul lien. En revanche, il est plus difficile de trouver des réponses à des questions moins évidentes dans le réseau.

Néanmoins, on peut montrer que de nombreuses informations sont directement liées les unes aux autres et ne sont guère organisées en réseau. Comprendre comment un tel chatbot transmet ses connaissances et comment le signal peut être tracé de manière fiable dans le réseau devrait en tout cas aider à comprendre les erreurs parfois curieuses, mais parfois difficiles à reconnaître, d'une IA.

La compréhension de son mode de fonctionnement, avec sa structure étonnamment linéaire, est à elle seule très précieuse.