ChatGPT : ce que le bouton d’entraînement ne désactive pas

ChatGPT dispose d’un paramètre qui rassure les utilisateurs. Il s’appelle « Améliorer le modèle pour tout le monde », se trouve dans la section « Contrôles des données », et l’activer donne l’impression de fermer une porte. Désormais, l’IA n’apprend plus rien de vous.

C'est vrai, mais uniquement dans la mesure où OpenAI le précise dans la phrase suivante : « Une fois que vous vous désinscrivez, les nouvelles conversations ne seront pas utilisées pour entraîner nos modèles. » Cette seule phrase comporte déjà deux limites. Elle concerne les nouvelles conversations et l'entraînement. Tout le reste ne relève pas de son champ d'application.

Ce que fait réellement ce bouton

Il empêche vos conversations d’être utilisées pour l’entraînement des modèles dès l’instant où vous l’activez. Cela s’applique à l’ensemble de votre compte, quel que soit l’appareil que vous utilisez, et vous pouvez le désactiver à tout moment. Le mode vocal dispose d’un contrôle distinct.

Ce qu’il ne fait pas n’est pas expliqué aussi clairement. Vos conversations restent dans votre historique ; elles ne sont tout simplement plus utilisées pour l’entraînement. Et comme l’historique est conservé, tout ce qui a été construit à partir de celui-ci le reste également. C’est là que commence la partie que la plupart des gens ne comprennent pas.

Premièrement : les pouces annulent la sélection

Sur la même page qui présente la promesse principale, un paragraphe ultérieur remet la question sur le tapis. En notant une réponse par un pouce levé ou baissé, vous donnez votre avis. Et ensuite, précise OpenAI, l’intégralité de la conversation liée à ce commentaire peut être utilisée pour entraîner ses modèles. Y compris explicitement les cas où vous avez préalablement choisi de ne pas y participer.

C’est la seule voie documentée par laquelle une conversation complète peut encore finir par être utilisée pour l’entraînement alors que le bouton est désactivé. Elle est déclenchée par un geste que la plupart des gens considèrent comme une simple marque de politesse. Les conversations d’assistance fonctionnent de la même manière.

Deuxièmement : le bouton ne garde aucune trace du passé

OpenAI présente cette promesse comme tournée vers l’avenir, et non comme un rappel. Tout ce qui s’est accumulé avant que vous n’activiez le bouton pourrait être utilisé pour l’entraînement, car c’est exactement ce que l’entreprise se réserve pour les comptes personnels. Le désengagement prend effet dès l’instant où vous l’activez. Je n’ai trouvé aucune mention d’effet rétroactif sur aucune des pages d’aide.

Troisièmement : la mémoire est un système secondaire

La mémoire est la fonctionnalité qui permet à ChatGPT de se souvenir de certaines choses vous concernant afin que vous n’ayez pas à les répéter. Elle ne dépend pas du bouton d’entraînement, mais relève de la personnalisation. Et elle est plus persistante qu’il n’y paraît.

Le résumé figurant dans vos paramètres ne montre pas tout. Il est destiné à reprendre les détails les plus importants, mais selon OpenAI, il ne reflète pas tout ce dont ChatGPT se souvient de vos conversations. Lorsqu’on lui demande directement si le résumé contient tous les souvenirs, l’entreprise répond : « Pas nécessairement ».

Le point le plus délicat se trouve plus loin. La suppression de vos souvenirs et la désactivation de la mémoire ne suppriment pas les anciennes conversations. Si vous réactivez la mémoire ultérieurement, ChatGPT peut créer de nouveaux souvenirs à partir de ce qui reste dans votre historique, y compris explicitement les anciennes conversations. Les souvenirs que vous avez supprimés peuvent réapparaître.

De plus, dans l’ancien système de souvenirs enregistrés, un souvenir survit à la conversation dont il est issu. Et OpenAI peut conserver un historique des souvenirs enregistrés supprimés pendant une durée pouvant aller jusqu’à 30 jours.

Quatrièmement : les applications connectées suivent leurs propres règles

Toute personne ayant associé Gmail, Drive, Canva ou un autre service à ChatGPT a ouvert un deuxième canal. Sur les formules Free, Plus, Go et Pro, OpenAI peut utiliser les informations provenant des applications connectées à des fins d’entraînement tant que le bouton est activé. Sur les formules Business, Enterprise et Edu, ce n’est pas le cas par défaut.

Ce commutateur régit donc ce sens de communication. Ce qu’il ne régit pas, c’est l’autre sens. L’application a accès à des extraits de vos conversations et, si la fonction « Mémoire » est activée, au contenu de vos souvenirs, ainsi qu’à votre adresse IP, au type d’appareil et de navigateur, à la langue, à la région et à votre localisation approximative. Ces données relèvent des conditions d’utilisation du fournisseur, et non de celles d’OpenAI.

Cinq : la suppression ne s’applique pas partout

Une conversation supprimée disparaît immédiatement de votre compte et sa suppression définitive est prévue dans un délai de 30 jours. OpenAI mentionne toutefois deux exceptions : si la conversation a déjà été anonymisée et dissociée de votre profil, ou si elle doit être conservée pour des raisons de sécurité ou en raison d'obligations légales.

Dans la pratique, ce sont les fichiers qui importent davantage. Tout ce que vous avez téléchargé dans une conversation se retrouve également dans votre Bibliothèque, et celle-ci est distincte. La suppression d’une conversation n’entraîne pas la suppression d’un fichier qui y est stocké. Il en va de même pour les fichiers contenus dans un projet ou un GPT personnalisé, qui restent en place jusqu’à ce que le projet ou le GPT lui-même soit supprimé.

OpenAI en tire lui-même la conclusion : pour supprimer définitivement une information de ce que ChatGPT sait à votre sujet, vous devez supprimer toutes les sources dans lesquelles elle apparaît.

Six : les contrôles de sécurité ne s’arrêtent jamais

La page d’aide « Contrôles des données » comporte une ligne que l’on a tendance à survoler. La désactivation de la mémoire et de la personnalisation ne désactive pas les fonctionnalités de sécurité qui peuvent utiliser un contexte limité, pertinent pour la sécurité, dans de rares situations à haut risque, afin que ChatGPT puisse répondre de manière plus sûre. Il n’existe pas de bouton pour cela.

Le « Temporary Chat », que beaucoup considèrent comme un mode incognito, ne fait pas exception non plus. Il n’est pas utilisé pour l’entraînement, ne crée aucun historique et disparaît au bout de 30 jours. OpenAI peut toutefois conserver une copie pendant 30 jours maximum à des fins de sécurité et l’examiner afin de détecter d’éventuels abus. Vos instructions personnalisées s’appliquent également dans ce cas.

Que faire concrètement ?

Prendre cela au sérieux implique plusieurs manipulations. Tout d’abord, l’option elle-même, accessible sous Profil, Paramètres, Contrôle des données. Ensuite, la personnalisation et l’historique, où vous supprimez le résumé et désactivez la fonctionnalité. OpenAI précise que cette option est disponible sur le Web et en cours de déploiement sur mobile. Troisièmement, videz la Bibliothèque, car c’est là que se trouvent les fichiers que la suppression des conversations ne parvient pas à éliminer. Quatrièmement, rendez-vous dans « Paramètres », puis « Applications » pour voir quels services sont connectés et déconnectez ceux dont vous n’avez pas besoin.

Et cinquièmement : ne touchez pas aux boutons « J’aime ». Une note est le seul geste susceptible d’intégrer l’intégralité d’une conversation dans l’entraînement, malgré le désengagement.

Pour les conversations qui doivent laisser le moins de traces possible, le « Chat temporaire » est l’outil le plus adapté. Pas le bouton d’activation de l’entraînement. La portée actuelle des flux de données est clairement visible grâce au nouvel enregistreur d’activité pour Mac, disponible en Europe depuis le 20 août.