Instagram s'en prend aux influenceurs générés par l'IA qui ne reconnaissent pas qu'ils sont faux

Instagram renomme son étiquette « Créateur IA » en « Profil généré par l’IA » et commencera à limiter la portée des personnalités IA non étiquetées si les comptes qui les gèrent ne précisent pas que la personne présentée n’est pas réelle.

Le label initial, introduit en mai dernier, était facultatif et quelque peu vague ; il s’appliquait à tout compte utilisant régulièrement des outils d’IA, qu’une personne réelle se cache ou non derrière celui-ci. La nouvelle mention vise spécifiquement à signaler les profils dont la personne présentée est entièrement générée par l’IA, et non simplement assistée par celle-ci, comblant ainsi une lacune qui permettait à des comptes d’influenceurs entièrement synthétiques de se fondre parmi les véritables créateurs qui utilisaient simplement l’IA dans le cadre de leur processus de travail.

Une portée limitée pour ceux qui ne respectent pas les règles

Dans le cadre du nouveau système, les comptes qu’Instagram identifie comme des personnages générés par l’IA non signalés verront leur portée limitée, ce qui signifie que les non-abonnés ne verront pas leurs publications apparaître dans « Explorer », « Reels » ou d’autres sections de recommandation. Les créateurs peuvent rétablir cette portée de deux manières : en appliquant eux-mêmes de manière proactive le label « profil généré par l’IA », ou en contestant la restriction s’ils estiment que la détection d’Instagram est erronée, ce que l’entreprise elle-même admet que ses systèmes ne parviennent pas toujours à détecter correctement.

Ce nouveau label fonctionne indépendamment du système « AI info » existant de Meta, qui signale des publications individuelles sur Instagram, Facebook et Threads lorsque des marqueurs techniques, tels que les métadonnées C2PA ou le filigrane SynthID de Google, indiquent une implication de l’IA, ou lorsqu’un créateur le signale lui-même. La mention au niveau du profil indique spécifiquement si la personne apparaissant dans les publications, les commentaires et les messages d’un compte est réelle ou générée par l’IA.

Répondre aux frustrations des utilisateurs

Instagram a justifié ce changement par une simple frustration, affirmant que les utilisateurs n’apprécient pas de découvrir a posteriori qu’un profil qui semblait humain était en réalité généré par l’IA depuis le début. Pour l’instant, cette politique ne vise que les comptes usant de l’identité d’une fausse personne spécifique, et non le nombre bien plus important de comptes qui publient du contenu généré par l’IA sans prétendre être un influenceur humain.

Les personnages entièrement générés par l’IA sont désormais courants en tant qu’influenceurs non officiels de marques ; les entreprises ont en effet de plus en plus recours à des personnages synthétiques pour promouvoir leurs produits plutôt que de rémunérer de vraies personnes, et aucune règle spécifique n’oblige actuellement les annonceurs à le signaler lorsque c’est le cas (via The Guardian). La question de savoir si cette nouvelle mention changera réellement cette pratique dépendra de la capacité des systèmes de détection d’Instagram à repérer de manière cohérente les comptes qui ont tout intérêt à éviter complètement cette mention.