Le chatbot du gouvernement de la ville de New York conseille aux entreprises d'enfreindre les lois

Le nouveau chatbot de la ville de New York, destiné à aider les entreprises à s'y retrouver dans le solide environnement réglementaire de la ville, semble avoir quelques ratés.

Le chatbot, lancé en octobre dernier, est un outil sanctionné par le gouvernement de la ville pour servir de point de conseil et de référence aux entreprises de la municipalité. Bien que le chatbot ait été une ressource utile pour beaucoup, il est arrivé à plusieurs reprises qu'il réponde à une question par des réponses potentiellement trompeuses ou carrément illégales.

Par exemple, quelqu'un a demandé au chatbot si un restaurant pouvait servir du fromage partiellement mangé par un rat. Le robot a répondu que, oui, "vous pouvez toujours servir le fromage aux clients s'il a des morsures de rat", selon The Star. Le robot a également ajouté que l'entreprise devrait "informer les clients de la situation".

Parmi les autres réponses qui bafouent les réglementations de la ville de New York, citons l'affirmation selon laquelle les propriétaires d'entreprises peuvent prendre une partie des pourboires de leurs employés (ce qui est illégal), dissimuler les prix des services funéraires (ce qui est interdit par la Federal Trade Commission) et refuser d'accepter les paiements en espèces dans un magasin de détail (ce qui est obligatoire dans la ville de New York depuis 2020), parmi d'autres violations.

Il convient de noter qu'aucun service de chatbot d'IA n'est précis à 100 %, et que même les employés humains peuvent faire des erreurs. Cependant, les échecs du chatbot (aussi limités soient-ils) posent un problème intéressant pour les propriétaires d'entreprises de la ville de New York. Depuis que la ville a officiellement approuvé le chatbot, la question de la responsabilité, si un propriétaire d'entreprise devait suivre les prescriptions du chatbot, a été soulevée.

Microsoft, qui a fourni le cadre Azure AI pour le chatbot de la ville de New York, a déclaré qu'il était en train de modifier le chatbot pour "s'assurer que les résultats sont exacts et fondés sur la documentation officielle de la ville", selon The Star .

Le maire de New York, Eric Adams, a défendu le chatbot lors d'une conférence de presse en début de semaine :

Quiconque connaît la technologie sait que c'est ainsi que l'on procède. Seuls ceux qui ont peur s'assoient et disent : "Oh, cela ne fonctionne pas comme nous le voulons, maintenant nous devons nous en éloigner complètement".

À l'heure où nous mettons sous presse, le chatbot est toujours opérationnel.

Achetez un Amazon Echo Dot (5e génération) sur Amazon.