ChatGPT : Un professeur perd deux ans de travail
Les capacités des grands modèles linguistiques tels que ChatGPT ont transformé la façon dont de nombreuses personnes travaillent. Toutefois, un incident récent montre que l'utilisation de ces outils peut comporter des risques. Le professeur Marcel Bucher de l'université de Cologne déclare avoir perdu deux ans de travail universitaire à la suite d'une simple modification des paramètres : des demandes de subvention, du matériel pédagogique et des projets de publication ont soudainement disparu.
Bucher avait apparemment l'intention de désactiver l'option qui permet d'utiliser les données pour l'entraînement des modèles. Selon sa déclarationcette action a entraîné la suppression de l'ensemble de son historique de discussion. Dans un article publié dans Natureil décrit les différentes méthodes qu'il a essayées pour retrouver l'accès aux données et aux chats. Les tentatives de contact avec OpenAI se sont avérées tout aussi vaines pour le professeur. Selon les déclarations du professeur, les données ont été définitivement effacées et ne peuvent être récupérées. OpenAI a invoqué le principe de "Privacy by Design", qui signifie que les données sont effacées sans laisser de traces. Pour M. Bucher, la conclusion est claire : "Si un simple clic peut irrévocablement effacer des années de travail, ChatGPT ne peut pas, à mon avis et sur la base de mon expérience, être considéré comme totalement sûr pour une utilisation professionnelle"
ChatGPT dispose toutefois d'une fonction de sauvegarde. L'IA propose une méthode simple pour télécharger tous les chats et toutes les données. L'option "Exporter les données" se trouve dans les paramètres sous "Contrôle des données" Après quelques instants ou quelques heures, un lien de téléchargement vers un fichier ZIP contenant toutes les informations stockées est envoyé par courrier électronique. Selon le volume de données stockées dans ChatGPT, la compilation de l'archive peut prendre un certain temps. Une fois l'e-mail envoyé, le lien de téléchargement reste valide pendant 24 heures. Les sauvegardes font partie intégrante du travail avec les ordinateurs et ne devraient probablement pas être négligées lors de l'utilisation d'outils d'intelligence artificielle.
Le scénario décrit n'a pas pu être reproduit lors d'un récent autotest. Lors de la désactivation du partage des données à des fins de formation, les chats existants sont restés intacts et accessibles. La sélection de l'option de suppression de tous les chats a déclenché un message d'avertissement explicite nécessitant une confirmation. Étant donné que la perte de données décrite dans Nature s'est produite en août, il est possible qu'OpenAI ait depuis lors apporté des ajustements à l'interface utilisateur et aux mécanismes de sécurité afin d'empêcher toute suppression accidentelle.
