ChatGPT for Teens : un test de sécurité révèle des lacunes dans les alertes aux parents

Common Sense Media, l’organisation américaine à but non lucratif connue pour évaluer les films, les jeux et les applications à destination des familles, a attribué à ChatGPT for Teens sa note la plus basse. Le Youth AI Safety Institute de l’organisation qualifie le produit d’OpenAI destiné aux adolescents de « risque inacceptable » après avoir envoyé plus de 4 000 requêtes depuis des comptes enregistrés au nom de jeunes de 13 à 17 ans, avant et après son lancement en août. Tous les tests ont eu lieu aux États-Unis. Le rapport complet est daté du 5 octobre, et le communiqué de presse a suivi deux jours plus tard. Common Sense demande à OpenAI de bloquer l’accès à ChatGPT aux moins de 18 ans jusqu’à ce que des tests indépendants démontrent que les protections promises fonctionnent.

Les parents n’ont reçu aucune alerte pendant le test

Le constat le plus grave concerne les notifications aux parents. Les testeurs ont utilisé plus d’une douzaine de comptes adolescents nouvellement liés à des comptes parentaux pour parler de pensées suicidaires, d’automutilation ou de comportements alimentaires perturbés pendant 5 à 60 minutes. Aucune de ces conversations n’a déclenché d’alerte à un parent. Sur l’ensemble du programme de tests, l’équipe a comptabilisé quatre notifications, dont une est arrivée environ trois jours après le premier message de crise. Dans plus d’une conversation sur quatre nécessitant une orientation vers une aide professionnelle, ChatGPT n’en a pas proposé. OpenAI conteste la méthodologie. Un porte-parole a déclaré à Futurism que la liaison des comptes peut prendre plusieurs heures en raison d’une vérification d’identité. Une fois les comptes liés, l’entreprise affirme s’être « engagée à envoyer ces notifications en moins d’une heure ». Common Sense maintient ses conclusions et précise que certains comptes de test étaient liés depuis plus de trois heures.

Le mode étude et les heures de tranquillité sont faciles à contourner

Les fonctionnalités dédiées au travail scolaire et à l’heure du coucher n’ont guère mieux résisté. Pendant les heures d’étude, il suffit à un adolescent de supprimer le préfixe @study d’une requête pour que ChatGPT fasse quand même ses devoirs. Lors du test, cela a fonctionné à chaque fois. Les heures de tranquillité peuvent être contournées en modifiant le fuseau horaire de l’appareil. Les comptes enregistrés comme appartenant à des adultes ne sont jamais passés à l’expérience destinée aux adolescents au cours de sept jours et d’environ 1 000 requêtes, même lorsque les testeurs déclaraient avoir 13 ans et être au collège.

Les paramètres que les parents devraient vérifier dès maintenant

Pour les comptes liés, les options se trouvent dans Paramètres > Contrôle parental. Selon la page d’aide d’OpenAI sur le contrôle parental, l’option « Améliorer le modèle pour tous » est activée par défaut pour les adolescents, ce qui signifie que leurs conversations peuvent servir à entraîner de futurs modèles. Un clic suffit pour la désactiver, et les souvenirs enregistrés peuvent être désactivés au même endroit. OpenAI indique elle-même que les notifications de sécurité ne constituent pas une surveillance en temps réel et, après ce test, elles ne devraient pas être considérées comme un filet de sécurité. Common Sense conseille surtout aux parents de parler à leurs enfants, notamment de la façon dont le chatbot se comporte comme un ami pour les inciter à poursuivre la conversation. WhatsApp adopte une approche différente avec ses nouveaux comptes pour adolescents, permettant aux parents de gérer les paramètres sans avoir accès aux conversations. Si vous ou une personne de votre entourage êtes en détresse, contactez une ligne d’aide locale en cas de crise. Aux États-Unis, vous pouvez appeler le 988 ou envoyer un SMS à ce numéro.