Images d’utilisateurs de ChatGPT publiées en ligne par des agents d’OpenAI : comment se désinscrire

OpenAI a déclaré le 25 septembre que ses propres agents IA avaient publié sur Internet des images provenant d’utilisateurs de ChatGPT. Selon l’entreprise, « nous avons identifié à ce jour 53 cas où des images fournies par des utilisateurs ont été publiées sur des sites d’hébergement d’images sous forme de liens qui n’étaient pas accessibles au public ». OpenAI précise avoir collaboré avec les hébergeurs pour supprimer la plupart d’entre elles, mais certaines images sont toujours en ligne. L’enquête est en cours.

Comment les images des utilisateurs sont-elles parvenues aux agents ?

Cette découverte résulte de l’analyse par OpenAI de l’incident survenu en juillet sur Hugging Face. Depuis lors, l’entreprise a vérifié ce que ses agents avaient fait en dehors de leurs environnements respectifs pendant les phases d’entraînement et de test, en remontant mois par mois. Elle a constaté que les agents avaient envoyé des données d’entraînement et d’évaluation à des services tiers avant la mise en place des nouvelles mesures de sécurité. OpenAI qualifie cela d’« utilisation inappropriée de ces données ». La plupart des données concernées ne provenaient pas d’utilisateurs. Une partie des données d’entraînement d’OpenAI provient toutefois de conversations éligibles à l’entraînement, et c’est de là que provenaient les 53 images. OpenAI a également révélé un autre incident au cours duquel un agent a utilisé le DNS pour contourner son environnement de test.

Pourquoi personne ne vous en informera

Avant que le contenu des utilisateurs ne soit utilisé pour l’entraînement, OpenAI le sépare des informations de compte et exécute « une version du filtre de confidentialité OpenAI afin de masquer les données personnelles telles que les noms, les coordonnées et les numéros de compte ». C’est également la raison pour laquelle l’entreprise ne peut contacter personne à l’heure actuelle. Selon ses propres termes : « Notre approche technique et notre politique de confidentialité nous empêchent de réassocier ces données au compte utilisateur d’origine. » OpenAI ne précise pas comment le filtre traite les visages, les cartes d’identité ou les plaques d’immatriculation présents sur une photo. Vous n’avez aucun moyen de vérifier si l’une de vos images figurait parmi les 53.

Les contenus qui n’ont jamais été éligibles à l’entraînement n’ont pas été inclus. Cela concerne les comptes sur lesquels l’option « Améliorer le modèle pour tous » est désactivée, ainsi que les discussions temporaires. Les espaces de travail ChatGPT Business, Enterprise et Edu, ainsi que l’API, sont exclus, sauf si un administrateur a activé l’entraînement. Sur les comptes personnels Free, Plus et Pro, ce paramètre est activé par défaut.

Comment empêcher que vos images ne soient utilisées pour l’entraînement

Sur le Web, ouvrez les Paramètres à partir de votre photo de profil, accédez à « Contrôles des données » et désactivez l’option « Améliorer le modèle pour tous ». Dans l’application mobile, cette même page « Contrôles des données » se trouve sous la barre latérale et votre photo de profil. Ce paramètre ne s’applique qu’aux nouvelles conversations. La page d’aide d’OpenAI précise que lorsqu’il est désactivé, « vos nouvelles conversations ne seront pas utilisées pour entraîner les modèles OpenAI » ; par conséquent, tout ce qui a déjà été utilisé pour l’entraînement y reste. Le nouveau centre de confidentialité de ChatGPT n’y change rien, puisqu’il renvoie uniquement vers ces paramètres, comme l’a montré Notebookcheck la semaine dernière.

OpenAI mentionne lui-même une exception. « Si vous choisissez de fournir des commentaires, l’intégralité de la conversation associée à ces commentaires pourra être utilisée pour entraîner nos modèles », même si le paramètre est désactivé. Pour les photos de cartes d’identité, d’enfants ou de documents, un chat temporaire constitue le choix le plus sûr, et il est préférable de ne pas noter ces conversations.