« Manifestement malhonnête » : un mathématicien affirme qu'OpenAI lui a menti au sujet de l'entraînement sur ses conversations privées

Andreas Thom, théoricien des groupes à l’Université technique de Dresde, s’est publiquement demandé si ses sessions privées sur ChatGPT avaient contribué au résultat d’OpenAI qui a permis de générer le premier groupe non-sofic connu — l’un des dix problèmes qu’OpenAI a déclaré qu’Astra avait résolus le 1er août.

Dans un long message en trois parties publié sur Mathstodon, M. Thom a écrit qu’il avait envoyé un e-mail aux chercheurs d’OpenAI Mark Sellke et Sébastien Bubeck peu après cette annonce. Avec un collègue de Dresde, il avait passé des mois à travailler sur le problème de l’appariement des expandeurs et sur des extensions de ses travaux menés avec Gabor Kun au sein de ChatGPT, et il a posé deux questions : si ces échanges avaient été intégrés aux données d’entraînement, et si le système avait pu y accéder pendant qu’il travaillait sur la démonstration. La réponse de M. Sellke, telle que la cite M. Thom, tenait en une seule ligne : cela ne s’était pas produit. Thom fait valoir que cette réponse ne portait que sur la partie relative à l’« accès direct ». Il la qualifie aujourd’hui de trop générale et, avec le recul, de malhonnête.

Post by @[email protected]

View on Mastodon

Cette polémique a refait surface cette semaine, parallèlement à l’annonce d’OpenAI concernant les équations de Navier-Stokes. À cette occasion, OpenAI a déclaré que ni ses chercheurs ni ses agents n’avaient pris connaissance des travaux du duo avant leur publication et qu’aucune donnée utilisateur spécifique n’avait été consultée. L’entreprise a également ajouté qu’elle ne pouvait exclure que des données anonymisées issues de l’utilisation de ses produits par ces chercheurs aient contribué à améliorer ses modèles. 

Deux autres éléments viennent également étayer son argumentation. Il a désactivé l’entraînement du modèle le 29 juin. L’entraînement du modèle est un paramètre que les utilisateurs ne peuvent pas vérifier — cela ne dit rien sur les conversations antérieures. La plupart des chercheurs privilégiaient les méthodes des jeux quantiques plutôt que l’approche qu’il avait adoptée avec Kun ; il a donc été surpris qu’Astra ait choisi la même voie que lui.

À l’heure où nous écrivons ces lignes, Thom s’est abstenu de prétendre disposer de preuves. Il a plutôt demandé à OpenAI de divulguer les fondements de son démenti.

OpenAI n’a pas réagi publiquement à ses publications.