IA et désinformation : machine à mentir ou remède ?

Le débat sur l’IA et la désinformation oppose souvent deux images : une machine à fabriquer des mensonges crédibles à l’infini, ou un outil capable de corriger les idées fausses mieux qu’un humain. Les deux images s’appuient sur des études sérieuses. Mais ces études n’ont pas la même solidité en octobre 2026, et aucune ne dit ce que l’IA fera « en général ».

Notre position : l’IA abaisse le coût de production de tout contenu, vrai comme faux. Ce qui protège, c’est de savoir d’où vient un contenu. C’est ce que le droit européen impose en partie depuis le 2 août 2026.

Ce que montrent les deux études phares

L’IA peut désinformer mieux que nous. En juin 2023, la revue Science Advances a publié l’étude « AI model GPT-3 (dis)informs us better than humans ». Cette étude préenregistrée porte sur 697 participants. Ses auteurs décrivent GPT-3 comme une arme à double tranchant : comparé aux humains, il produit des informations exactes plus faciles à comprendre, mais aussi des fausses informations plus convaincantes. Et les participants ne parvenaient pas à distinguer les messages générés par GPT-3 de ceux écrits par de vrais utilisateurs de Twitter.

Limite : l’étude date de GPT-3 et porte sur des messages courts au format de Twitter. Elle ne mesure pas un effet sur le comportement réel, seulement des jugements dans un cadre d’expérience.

L’IA peut aussi faire reculer des croyances fausses. En septembre 2024, Science a publié l’étude « Durably reducing conspiracy beliefs through dialogues with AI ». 2 190 personnes qui adhéraient à une théorie du complot ont discuté avec GPT-4 Turbo, qui leur opposait des éléments factuels adaptés à leurs arguments. La croyance a baissé d’environ 20 %, et l’effet tenait encore deux mois plus tard.

Une réserve importante : le 11 juin 2026, Science a publié une expression de préoccupation éditoriale sur cet article. Ce n’est pas une rétractation : la revue prévient ses lecteurs que des questions sont à l’examen. Les auteurs ont appris après la publication que les critères de sélection des participants n’étaient pas appliqués de la même façon dans l’article et dans leur code d’analyse, et que le jeu de données publié contenait des lignes en trop, dues à une erreur de fusion de code : certaines valeurs de l’article sont difficiles à reproduire. Ils ont transmis à la revue une analyse corrigée qui, selon eux, retrouve les résultats initiaux par leur sens, leur significativité statistique et leur ampleur ; Science est en train de l’évaluer. Tant que la revue n’a pas tranché, nous citons cette étude comme une piste, pas comme une preuve.

Le public est inquiet. Selon le Digital News Report 2025 du Reuters Institute, 58 % des personnes interrogées dans 48 marchés se disent inquiètes de leur capacité à distinguer le vrai du faux dans l’actualité en ligne, une proportion proche de celle de l’année précédente. L’enquête a été menée en ligne par YouGov, de la mi-janvier à la fin février 2025 (méthodologie). Le même rapport note que, dans la plupart des pays, le public reste sceptique sur l’usage de l’IA dans l’information, et se dit plus à l’aise quand des humains restent dans la boucle.

Position 1 : l’IA est d’abord une machine à désinformer

Le premier camp part d’un constat économique. Écrire un faux article, fabriquer une fausse image ou une fausse voix coûtait du temps et du savoir-faire. Ce coût tombe presque à zéro. Les campagnes de désinformation peuvent donc produire plus, plus vite, dans plus de langues, et adapter leurs messages à chaque public. Si les gens ne distinguent déjà pas un texte généré d’un texte humain, comme le montre l’étude de 2023, la confiance dans tout ce qui circule en ligne s’érode. Même un contenu vrai devient suspect.

Position 2 : l’IA peut être un outil de correction

Le second camp répond que le même outil peut servir à vérifier. Un modèle qui dialogue patiemment, qui reprend les arguments de chacun et qui oppose des faits adaptés, fait ce qu’un humain fatigué ou agacé ne fait plus. L’étude de 2024 suggère qu’une conversation bien conçue peut faire bouger des convictions réputées inébranlables. Les mêmes techniques peuvent aider des journalistes ou des modérateurs à repérer des contenus douteux plus vite.

Ce camp a un argument réel, mais sa pièce maîtresse est sous réserve depuis juin 2026. Il faut le dire.

Ce que nous en pensons

Nous ne croyons pas que l’IA soit « d’abord » l’un ou l’autre. Elle accélère ce qu’on lui demande. Le vrai changement est ailleurs : on ne peut plus juger un contenu sur son apparence. Un texte bien écrit, une photo nette ou une voix naturelle ne prouvent plus rien.

D’où notre conviction : la question utile n’est plus « est-ce vrai ? » seulement, mais aussi « d’où ça vient, et qui en répond ? ». Pour une entreprise qui publie, cela veut dire indiquer l’origine des contenus synthétiques, citer ses sources primaires, et garder une personne responsable de ce qui sort.

Une limite de notre propre avis : nous n’avons pas de recul sur l’efficacité réelle du marquage des contenus. On sait l’imposer, on ne sait pas encore s’il change la façon dont les gens jugent ce qu’ils voient.

Ce qui nous ferait changer d’avis : des études solides, en conditions réelles, montrant que l’IA corrige les croyances fausses à grande échelle. Ou, à l’inverse, qu’elle fait mesurablement basculer des élections ou des comportements. Les preuves disponibles en octobre 2026 ne permettent ni l’un ni l’autre.

Ce que ça change concrètement pour une entreprise

Le règlement européen sur l’IA (AI Act) prévoit, à son article 50, paragraphe 2, que les fournisseurs de systèmes qui génèrent des contenus synthétiques (texte, image, son, vidéo) veillent à ce que ces contenus soient marqués dans un format lisible par machine. L’article 50 s’applique depuis le 2 août 2026 ; le règlement (UE) 2026/1744, adopté en juillet 2026, laisse jusqu’au 2 décembre 2026 aux fournisseurs dont le système était déjà sur le marché. Celui qui utilise un tel système dans un cadre professionnel a aussi sa part (paragraphe 4) : il signale les hypertrucages qu’il produit, et les textes publiés pour informer le public sur des questions d’intérêt public, sauf si un humain les a relus et qu’une personne en assume la responsabilité éditoriale. Nous détaillons ces règles dans notre analyse sur le signalement des textes écrits par une IA.

Pour une PME qui fait de la publicité ou publie du contenu, trois réflexes :

• Signaler les visuels et vidéos générés dans les campagnes. Pour un hypertrucage, c’est-à-dire une image, un son ou une vidéo générés ou manipulés par l’IA qui ressemblent à des personnes, des lieux ou des événements réels au point de pouvoir passer pour authentiques, c’est une obligation ; au-delà, c’est une bonne pratique.
• Ne jamais publier un chiffre sans sa source primaire. Un chiffre repris de seconde main peut être faux, et l’IA invente parfois avec aplomb : sur un site que nous opérons pour un client, trois contenus inventés par un modèle ont dû être dépubliés. C’est la règle de ce site : un chiffre sans source vérifiable n’y entre pas.
• Garder une relecture humaine sur tout ce qui part vers des clients. Avec une personne qui assume la publication, c’est ce qui dispense de signaler un texte d’intérêt public, et c’est ce qui met le public plus à l’aise, selon le Reuters Institute. Sur ce blog, chaque article naît en brouillon, et c’est une relecture humaine qui le publie.

Le même afflux de contenus générés pose une autre question, celle de ce qu’apprendront les prochains modèles : nous l’abordons dans notre analyse du web qui se nourrit de lui-même.

La rubrique Publicité en ligne réunit nos analyses sur la publicité. Et si vous vous demandez ce que ces règles changent pour vos propres campagnes, écrivez-nous pour en parler.

Questions fréquentes

Peut-on reconnaître un texte écrit par une IA ?

Pas de manière fiable à la lecture. Dans l’étude de 2023, les participants ne distinguaient pas les messages écrits par GPT-3 de ceux de vrais utilisateurs de Twitter, et l’étude ne portait que sur ce modèle. C’est pourquoi le règlement européen ne compte pas sur l’œil humain : il demande aux fournisseurs d’outils de marquer les contenus générés dans un format lisible par machine, qui permet de les identifier comme tels.

Une expression de préoccupation veut-elle dire que l’étude est fausse ?

Non. C’est un avertissement de la revue, publié pendant qu’elle examine des questions sur l’article ; ce n’est ni une rétractation ni une correction. Dans le cas de l’étude de 2024, les auteurs ont transmis une analyse corrigée qui, selon eux, confirme leurs résultats. Tant que la revue n’a pas conclu, l’étude ne se cite pas comme une preuve établie.

Où vérifier une information qui paraît douteuse ?

D’abord à sa source primaire : l’étude, le texte de loi ou le communiqué d’origine, plutôt que l’article qui les reprend. Dans l’enquête 2025 du Reuters Institute, les répondants citent en premier les médias d’information auxquels ils font confiance (38 %), les sources officielles (35 %) et les sites de vérification des faits (25 %), avant les réseaux sociaux (14 %). Les plus jeunes passent davantage par les réseaux sociaux et les assistants d’IA.