Les auteurs de la vidéo de l'accident de Xiaomi écopent de peines de prison alors que la Chine sévit contre les deepfakes liés aux véhicules électriques

La Chine sévit contre les influenceurs des réseaux sociaux qui créent de fausses vidéos d’accidents ou diffusent des rumeurs malveillantes concernant les véhicules électriques. En Chine, certains utilisateurs tentent de justifier leur conduite en état d’ivresse ou leur conduite dangereuse en invoquant les systèmes de conduite autonome ou en avançant de fausses allégations concernant des freinages intempestifs ou des accélérations incontrôlées. La division véhicules électriques de Xiaomi, en particulier, ne semble pas avoir de répit face aux créateurs de contenu, alors même que la gamme Skynomad EREV de l’entreprise s’apprêtait à être lancée.

Au cours des derniers mois, Xiaomi a dénoncé à plusieurs reprises des campagnes de dénigrement générées par l’IA visant ses véhicules et ses dirigeants. Le cas le plus récent concernait deux utilisateurs qui avaient fabriqué de toutes pièces des vidéos de crash-tests destinées à faire croire que les véhicules Xiaomi avaient échoué lors d’une collision. La police chinoise a réagi en prononçant des détentions administratives et des amendes, et Xiaomi indique que les publications incriminées ont depuis été supprimées.

Il ne s’agissait pas d’un incident isolé, puisque les autorités de Xi’an avaient déjà démantelé un réseau plus vaste en juin dernier. Trois agences de contenu MCN et plus d’une douzaine de personnes ont été accusées d’avoir produit en masse des vidéos et des publications générées par l’IA visant Xiaomi ; plusieurs suspects ont été officiellement placés en détention et du matériel a été saisi. Xiaomi a averti que l’utilisation abusive de l’IA pour diffuser de la désinformation « entraînera des conséquences », un message clairement destiné à dissuader les imitateurs autant qu’à punir les auteurs des infractions passées.

Xiaomi n’est pas seule dans ce combat, puisque NIO a dû faire face à un scénario presque identique. Le constructeur automobile innovant a récemment révélé que la police avait arrêté un suspect qui aurait utilisé des outils d’IA pour diffuser du contenu fabriqué de toutes pièces concernant l’entreprise sur des milliers de comptes de réseaux sociaux, accumulant ainsi des dizaines de millions de vues. NIO a également intenté plusieurs actions civiles en diffamation contre des blogueurs au cours de l’année écoulée, et a signalé une nouvelle vague d’attaques visant sa marque Onvo et son réseau d’échange de batteries, dont le timing coïncide de manière suspecte avec le lancement de ses propres nouveaux modèles.

Il s’agit d’un problème bien connu dans l’ensemble du secteur chinois des véhicules électriques, où les autorités ont intensifié la répression contre les vidéos d’accidents truquées et les défaillances de sécurité mises en scène, dont certaines sont réalisées à l’aide de l’IA, visant à nuire à la réputation des constructeurs automobiles concurrents sur un marché de plus en plus impitoyable. BYD a également emprunté cette voie juridique, obtenant récemment gain de cause devant un tribunal contre un blogueur pour des allégations mensongères concernant ses composants.

Pour Xiaomi en particulier, les enjeux semblent plus importants, car les EREV Skynomad marquent la première incursion de l’entreprise sur le segment des véhicules à autonomie prolongée, une catégorie de plus en plus populaire en Chine qui offre désormais une autonomie en mode tout électrique supérieure à 300 miles avant que le générateur à essence ne prenne le relais. Comme il s’agit principalement de véhicules familiaux, la confiance accordée aux arguments de sécurité peut faire ou défaire la dynamique des ventes initiales.

Il est encore difficile de déterminer si ces campagnes de désinformation relèvent d’un trolling opportuniste ou d’une action plus coordonnée, mais Xiaomi semble déterminé à faire un exemple de toute personne prise en flagrant délit de falsification d’images. Les difficultés parallèles rencontrées par NIO suggèrent qu’il ne s’agit pas d’un casse-tête propre à Xiaomi, mais d’un problème structurel pour toute marque chinoise de véhicules électriques s’apprêtant à un lancement majeur.