ChatGPT et Gemini ont créé des visuels de fausses informations ; seule Meta AI a refusé de le faire.

Quatre chatbots basés sur l’IA, une tâche qu’aucun d’entre eux ne devrait accomplir : un article de fausse information publié par un véritable diffuseur, contenant une affirmation inventée de toutes pièces. L’équipe de recherche de CORRECTIV a demandé à ChatGPT d’OpenAI, à Gemini de Google, à Copilot de Microsoft et à Meta AI de faire exactement cela, en utilisant huit allégations fausses allant de la démission de la chancelière allemande à une fraude électorale inventée de toutes pièces. Trois des quatre outils ont répondu à la demande. Selon Bitkom, il s’agit des quatre outils d’IA les plus utilisés en Allemagne, ChatGPT atteignant à lui seul 71 % des utilisateurs.

Le système de contrôle s’est déclenché, mais l’image est tout de même apparue

C’est ChatGPT qui a obtenu les pires résultats. Il a produit la plupart des faux instantanément et le reste après de simples contournements, et ses résultats ont été les plus convaincants du test. Lors d’un essai, le modèle a recréé toute une zone d’écran, avec le bureau et une fenêtre de navigateur ouverte, et a lui-même noté que cela rendait l’impression d’une véritable capture d’écran encore plus réaliste.

Un autre test est plus révélateur. À cette occasion, ChatGPT a indiqué qu’il ne pouvait pas contribuer à la création d’un graphique ressemblant à une véritable marque d’information et présentant une affirmation non étayée comme un fait. Il a néanmoins généré l’image. Le dispositif de sécurité s’est déclenché, mais il n’a pas tenu. De tels filtres se sont déjà révélés fragiles par le passé : l’équipe de sécurité Unit 42 de Palo Alto a démontré en 2025 que de simples fautes de grammaire suffisaient à contourner les mécanismes de sécurité, et notre guide du débutant sur le « jailbreak » de l’IA explique à quel point ces astuces peuvent être simples.

Les médias allemands étaient plus faciles à imiter

Gemini s’est montré plus docile que ChatGPT et a également simulé le New York Times et la BBC, bien que de manière nettement moins convaincante, reconnaissable notamment à des erreurs typiques de génération de texte. Copilot a produit du contenu dans le style de Tagesschau, le principal journal télévisé allemand, mais y a toujours ajouté une petite mention « Généré par l’IA ». Meta AI n’a généré de contenu que dans un seul cas et a refusé de relayer cette fausse affirmation spécifique.

Le constat le plus frappant concerne l’origine de la marque. Avec ChatGPT, il a été possible de reproduire Tagesschau, Bild et CORRECTIV, mais pas le New York Times ni la BBC. OpenAI n’a pas expliqué pourquoi des mécanismes de sécurité apparemment différents s’appliquent selon le média ou le pays. Un porte-parole s’est contenté d’indiquer que l’entreprise continuait d’améliorer ses mesures de protection et que la tromperie était contraire à ses politiques.

Depuis le 2 août, les règles de transparence de la loi européenne sur l’IA s’appliquent, et elles concernent également toute personne déployant un système d’IA. Lors du test, un seul fournisseur a apposé une mention visible sous l’image générée.

Que se passe-t-il si vous en diffusez une ?

La création et la diffusion de fausses publications médiatiques convaincantes peuvent constituer une infraction pénale en Allemagne. Christian Solmecke, avocat spécialisé dans le droit des médias, qualifie ces images de documents électroniques falsifiés ; selon leur contenu, elles peuvent donner lieu à des poursuites pour diffamation, calomnie ou incitation à la haine. Niklas Mühleis, avocat spécialisé dans le droit des technologies de l’information et de l’IA, ajoute que les organes de presse concernés peuvent demander des injonctions et réclamer des dommages-intérêts. Le droit des marques s’y ajoute : les logos, tels que celui de la « Tagesschau », sont protégés, et leur utilisation à des fins commerciales sans autorisation est interdite. Pour un partage purement privé, M. Solmecke précise que cette disposition ne s’applique généralement pas.

Il ne s’agit pas d’une hypothèse théorique. Fin juillet, un prétendu reportage de la Tagesschau a circulé sur TikTok, X, Instagram et Facebook, affirmant l’existence d’un lien russe avec l’attaque perpétrée lors du défilé de la Christopher Street Day à Berlin. Ce reportage était inventé de toutes pièces et avait apparemment été créé à l’aide de ChatGPT. Deux semaines plus tôt, un faux reportage de la « Tagesschau » concernant une prétendue menace de Benjamin Netanyahou avait fait surface.

Ce test ne constitue pas un verdict définitif sur les modèles, et CORRECTIV le précise lui-même : des consignes ou des sources différentes peuvent produire des résultats différents. Lors d’un audit réalisé par NewsGuard, Gemini s’est parfois montré moins performant que ChatGPT en matière de reproduction d’allégations fausses.