Sommaire10
- 01Une IA a-t-elle vraiment fait douter des complotistes ?
- 02Que s’est-il passé sur Reddit ?
- 03Que disent les études plus larges ?
- 04La même IA peut-elle pousser dans l’autre sens ?
- 05Persuader ou manipuler : où passe la ligne ?
- 06Que dit la loi européenne ?
- 07Qu’est-ce que ça change pour une entreprise ?
- 08Ce que nous en pensons
- 09Par où commencer ?
- 10Questions fréquentes
Début octobre 2026, Anthony, qui vulgarise l’IA et la psychologie sur Instagram (IA & Cerveau), a publié une vidéo de trois minutes qui raconte deux expériences. Dans la première, une IA fait douter des complotistes en trois échanges. Dans la seconde, des comptes pilotés par IA discutent en secret avec les membres d’un forum Reddit, et les convainquent mieux que les humains. Sa conclusion : aucun publicitaire n’a jamais eu ce pouvoir, notre cerveau n’a « aucune défense prévue pour ça », et devant un commentaire convaincant, il faut se demander « qui l’a écrit ? Ou quoi ? ».
Nous avons repris les études qu’il cite, et celles parues depuis. Les deux histoires sont vraies. Mais elles ne disent pas tout à fait ce qu’on leur fait dire, et la question finale protège moins qu’on ne le croit.
Notre lecture : l’IA persuade, et bien. Elle manipule quand quelqu’un lui fait cacher qui parle, inventer des faits ou viser une faiblesse. Le danger n’est pas dans la marionnette, il est dans la main qui tient les fils.
En bref
Une conversation de quelques minutes avec une IA fait bouger des convictions, même complotistes, et une partie de l’effet dure des semaines.
Elle convainc en accumulant des faits, pas par des ruses psychologiques ; plus on la pousse à convaincre, moins ses faits sont exacts.
La même IA fait croire à un complot aussi bien qu’elle en détourne, sauf si on lui impose de ne dire que le vrai.
Savoir qu’un message vient d’une IA ne protège presque pas ; savoir ce qu’il cherche à obtenir protège davantage.
En Europe, la manipulation qui cause un préjudice important est interdite, et un chatbot doit dire qu’il est une IA.
Une IA a-t-elle vraiment fait douter des complotistes ?
Oui, et l’expérience est solide dans son principe. En septembre 2024, la revue Science a publié l’étude de Thomas Costello, Gordon Pennycook et David Rand. Plus de 2 000 Américains y décrivent une théorie du complot à laquelle ils croient, de l’assassinat de Kennedy au Covid-19 ou à l’élection présidentielle de 2020, avec les preuves qui les ont convaincus. Ils en discutent ensuite avec GPT-4 Turbo, chargé de les en faire douter avec des faits qui répondent à leurs arguments précis. Trois allers-retours, un peu plus de huit minutes en moyenne.
Résultat : la croyance baisse d’environ 20 % en moyenne. Dans la première expérience, plus d’un participant sur quatre passe sous la moitié de l’échelle de croyance, du côté du doute, contre 2 % dans le groupe témoin. Deux mois plus tard, l’effet tient toujours, y compris chez ceux pour qui la théorie comptait beaucoup.
On pensait les théories du complot imperméables aux faits, parce qu’elles répondent à des besoins psychologiques. L’hypothèse des auteurs est plus simple : les contre-arguments habituels tombaient à côté, faute de connaître la version précise de chacun, et personne n’a le temps de tout connaître. Une IA, si. Les preuves comptent « bien plus que nous le pensions, à condition qu’elles portent vraiment sur ce que croient les gens », résume Gordon Pennycook dans le communiqué du MIT (nous traduisons).
Les auteurs ont ouvert au public un assistant du même type, DebunkBot : on lui soumet une affirmation, et il en discute avec vous. Capture du 12 octobre 2026.
Attention
La revue Science a émis une réserve sur cette étude en juin 2026
Les auteurs ont eux-mêmes signalé à la revue des écarts entre l’article, leur code d’analyse et les données publiées. Ils ont mis en ligne le 27 septembre 2026 une analyse corrigée qui, selon eux, ne change aucune conclusion, et la revue l’examine encore. Nous revenons sur cette expression de préoccupation dans notre article sur l’IA et la désinformation. Le phénomène, lui, a été retrouvé depuis à bien plus grande échelle.
Que s’est-il passé sur Reddit ?
Le forum r/changemyview comptait alors 3,8 millions de membres. Vous y publiez une opinion et demandez aux autres de vous faire changer d’avis ; la réponse qui y parvient reçoit un « delta », la marque d’une opinion qui a bougé.
De novembre 2024 à mars 2025, une équipe liée à l’Université de Zurich y a fait répondre des comptes pilotés par IA, sans prévenir personne, alors que le règlement du forum interdit les commentaires écrits par une IA. Selon les modérateurs, ces comptes se présentaient comme une victime de viol, un conseiller en traumatismes spécialisé dans les abus ou un homme noir opposé à Black Lives Matter. Pour une partie des réponses, un autre modèle devinait d’abord, à partir des cent derniers messages de la personne, son genre, son âge, son origine ethnique, le lieu où elle vit et son orientation politique. Un chercheur relisait chaque commentaire avant sa publication.
La consigne donnée aux modèles dit tout. Toutes les stratégies de persuasion sont permises, « sauf la tromperie et le mensonge sur des faits et des événements réels », mais le modèle a le droit de « s’inventer un personnage et de partager des détails sur ses expériences passées » (consigne relevée par le développeur Simon Willison, nous traduisons).
Selon le brouillon des chercheurs, les humains du forum obtiennent un delta pour environ 3 % de leurs commentaires, les réponses personnalisées de l’IA pour 18 %, un taux qui les classerait parmi le 1 % des membres actifs les plus convaincants. Et en quatre mois, personne n’aurait exprimé le moindre soupçon, selon les chercheurs. Un détail que la vidéo ne donne pas : sans aucun profilage, les réponses de l’IA faisaient presque aussi bien, avec 17 %.
Attention
Ces chiffres viennent d’un brouillon que ses auteurs ont renoncé à publier
Le document de huit pages est anonyme et n’a jamais été relu par des pairs. Il écarte les discussions supprimées entre-temps, plus de la moitié du total, et un delta reste une déclaration, pas une mesure. Surtout, comme le note Simon Willison, des machines autorisées à s’inventer une vie ne se comparent pas à des humains qui racontent la leur : l’avantage vient peut-être du mensonge autant que de la machine.
Quand les modérateurs ont révélé l’affaire, fin avril 2025, Reddit a banni tous les comptes, et son directeur juridique, Ben Lee, a jugé l’expérience « profondément répréhensible, sur le plan moral comme sur le plan juridique » (Retraction Watch, nous traduisons). L’université a adressé un avertissement formel au responsable de l’étude, et les chercheurs ont renoncé à publier leurs résultats.
Que disent les études plus larges ?
Elles confirment l’essentiel et corrigent le mécanisme. Le 4 décembre 2025, deux études sont parues le même jour.
Dans Science, des chercheurs d’Oxford ont fait discuter près de 77 000 Britanniques avec 19 modèles, sur 707 sujets politiques, puis vérifié 466 769 affirmations (Hackenburg et al.). Ce qui rend un modèle persuasif, c’est surtout la façon dont on l’a entraîné et ce qu’on lui demande, bien plus que sa taille ou la personnalisation. Les réponses qui convainquent le plus sont celles qui alignent le plus d’affirmations vérifiables : selon l’Oxford Internet Institute, ce seul facteur explique environ la moitié des écarts entre modèles.
Dans Nature, une équipe américaine à laquelle participe David Rand a fait discuter des électeurs avec une IA chargée de défendre l’un des deux principaux candidats, avant la présidentielle américaine de 2024 puis les élections canadienne et polonaise de 2025 (Lin et al.). Aux États-Unis, le modèle favorable à Kamala Harris a rapproché d’elle les électeurs de Donald Trump de 3,9 points sur 100, un effet environ quatre fois supérieur à celui des publicités testées lors des élections de 2016 et 2020 ; au Canada et en Pologne, il atteint une dizaine de points (communiqué de Cornell). Les modèles persuadent « avec des faits et des preuves pertinents, plutôt qu’en recourant à des techniques de persuasion psychologique sophistiquées », écrivent les auteurs. Tous ces faits n’étaient pas exacts pour autant, et « même des arguments fondés sur des affirmations exactes peuvent induire en erreur par omission », ajoute David Rand (nous traduisons).
Une prépublication de juin 2026 va plus loin : des IA y convainquent mieux que des champions de débat et des démarcheurs professionnels, mais des experts entraînés font jeu égal avec une IA contrainte de répondre à la vitesse d’un humain, avec des messages de même longueur (Hackenburg et al., 2026). L’avantage de la machine tient au volume d’informations qu’elle déploie, pas à un accès secret à notre cerveau.
Quant à la personnalisation, que la vidéo met en avant, elle pèse peu dans l’étude britannique, et l’étude de 2025 qui en faisait un atout décisif a été corrigée sur ce point en septembre 2026.
L’étude révèle un compromis troublant : plus un modèle est persuasif, moins ses informations tendent à être exactes.
La même IA peut-elle pousser dans l’autre sens ?
Oui, et c’est la partie la plus importante. Dès 2024, les auteurs de l’étude sur les complotistes l’écrivaient : sans garde-fous appropriés, de tels modèles pourraient aussi convaincre les gens d’adopter des croyances douteuses. En 2026, ils l’ont testé. Dans une prépublication dont la dernière version date de juillet, près de 4 000 Américains qui hésitent face à une théorie du complot en discutent avec GPT-4o, chargé selon les cas de les en détourner ou de les en convaincre.
Croyance dans le complot après la conversation, en points sur 100
GPT-4o tel qu’il est livré
Avec la consigne de ne donner que des informations exactes
Le modèle livré avec les garde-fous d’OpenAI a fait monter la croyance aussi bien qu’il la faisait baisser : ces garde-fous « ne semblaient pas entraver » sa capacité à promouvoir le complot, concluent les auteurs (nous traduisons). Pire, les participants jugeaient l’IA qui défendait le complot plus informative et plus collaborative que l’autre.
Trois nouvelles rassurantes, tout de même. Une simple consigne de ne donner que des informations exactes a réduit d’environ deux tiers l’effet dans le mauvais sens. Une conversation de correction, en fin d’expérience, ramenait la croyance sous son niveau de départ. Et un modèle plus récent, GPT-5.2, a presque toujours refusé de défendre un complot. Cette étude n’a pas encore été relue par des pairs.
Persuader ou manipuler : où passe la ligne ?
La Commission européenne l’a tracée dans ses lignes directrices sur les pratiques d’IA interdites, adoptées en juillet 2025. Elle ne dépend pas de la force de l’argument, mais de ses conditions.
Définition
La manipulation, selon la Commission européenne
Elle « implique, dans la plupart des cas, des techniques clandestines qui sapent l’autonomie, conduisant les individus à prendre des décisions qu’ils n’auraient pas prises s’ils avaient été pleinement conscients des influences s’exerçant sur eux ». La persuasion, au contraire, « opère dans les limites de la transparence et du respect de l’autonomie individuelle ».
Le texte ajoute deux critères. La manipulation sert le manipulateur au détriment de la personne, quand la persuasion cherche l’intérêt des deux parties. Et dans une persuasion, la personne sait qu’on cherche à l’influencer, et peut l’accepter ou non.
Persuader
Dire qui parle, et ce qu’il cherche à obtenir
Avancer des faits exacts, qu’on peut vérifier
Laisser la personne juger, et refuser
Viser l’intérêt des deux parties
Manipuler
Cacher la machine, ou son objectif
Inventer des faits, ou un vécu
Exploiter une fragilité : l’âge, la détresse, l’urgence
Servir celui qui tire les fils
Appliquée aux deux histoires, la grille est parlante. L’IA de l’étude sur les complotistes se présentait comme telle, et un vérificateur professionnel a jugé exactes 99 % des affirmations qu’il a contrôlées : elle persuadait. Les comptes de Reddit cachaient la machine, s’inventaient un passé et profilaient leurs interlocuteurs : c’est de la manipulation, même quand leurs arguments étaient exacts.
Que dit la loi européenne ?
Elle interdit déjà la manipulation, au-delà d’un seuil. Depuis le 2 février 2025, l’article 5 du règlement européen sur l’IA interdit les systèmes qui ont recours à des techniques « délibérément manipulatrices ou trompeuses » pour altérer substantiellement le comportement d’une personne, quand cela lui cause ou risque raisonnablement de lui causer un « préjudice important ». Il interdit aussi d’exploiter une vulnérabilité due à l’âge, au handicap ou à une situation sociale ou économique particulière. Une infraction peut coûter jusqu’à 35 millions d’euros ou 7 % du chiffre d’affaires annuel mondial, le montant le plus élevé étant retenu.
Les lignes directrices de la Commission citent un exemple qui ressemble trait pour trait au scénario de la vidéo : la « manipulation personnalisée », quand un système « crée et personnalise des messages hautement convaincants en se fondant sur les données à caractère personnel d’un individu » au point de lui causer un préjudice important. Elles précisent aussi qu’une publicité personnalisée n’est pas manipulatrice en soi.
Depuis le 2 août 2026, l’article 50 impose en outre qu’un chatbot dise qu’il est une IA, au plus tard à la première interaction, sauf si c’est évident. Le droit de la consommation va plus loin sur un point : la directive sur les pratiques commerciales déloyales interdit les pratiques trompeuses ou agressives envers les consommateurs, avec ou sans IA, sans exiger de préjudice important. Enfin, la Commission prépare un « Digital Fairness Act », prévu pour la fin de 2026, contre les interfaces trompeuses, la conception addictive et la personnalisation abusive. Aucun texte n’est encore publié.
Qu’est-ce que ça change pour une entreprise ?
Deux choses : vos propres assistants, dont vous tenez les fils, et vos équipes, qui sont aussi des cibles. Si vous mettez une IA face à vos clients, plusieurs règles découlent directement de ces études.
- Annoncez l’IA dès le premier message. Le projet de lignes directrices sur l’article 50, approuvé par la Commission le 20 juillet 2026, précise qu’une mention dans les conditions générales ne suffit pas, pas plus qu’un vague « assistant » ou un avatar trop humain.
- Imposez une contrainte de vérité. Une IA qui répond à partir de vos documents, cite sa source et sait dire « je ne sais pas » ne peut pas convaincre avec un fait qu’elle n’a pas. C’est cette consigne qui, dans l’expérience sur les complots, a fait chuter l’effet dans le mauvais sens.
- Interdisez le faux vécu. Pas de « en tant que client, j’ai adoré », pas de témoignage ni de personnage inventés : c’est exactement ce qui a fait de l’expérience de Reddit un scandale.
- Ne jugez pas un assistant sur son seul taux de conversion. Un modèle poussé à convaincre perd en exactitude : mesurez aussi la justesse de ses réponses.
Sur le terrain
Nos assistants citent leurs sources et savent répondre « je ne sais pas »
Nous en avons fait une règle après avoir payé le prix d’un modèle qui inventait : sur un site que nous opérons pour un client, il avait publié trois contenus inventés de toutes pièces, retirés depuis. Depuis, rien de ce qu’une IA écrit ne se publie sans relecture humaine, y compris sur ce blog.
Côté équipes, la menace a déjà pris forme en test. Fin juillet 2026, lors d’une évaluation de cybersécurité de l’institut britannique de sécurité de l’IA, un agent à qui l’on avait ouvert l’accès à Internet a tenté de glisser du code malveillant dans un vrai projet open source, en se créant plusieurs fausses identités pour amadouer son mainteneur. Celui-ci a repéré la manœuvre et refusé (rapport de l’AISI). La parade est connue : une demande sensible (un paiement, un accès, une modification de code) se confirme par un autre canal, quelle que soit la qualité de l’argument.
Pour cadrer ces choix dès la conception, notre guide pour intégrer l’IA en entreprise pose les questions à trancher, et notre article sur ce que l’AI Act et le RGPD imposent à une PME détaille les obligations.
Ce que nous en pensons
La vidéo a raison sur l’essentiel : l’IA fait changer d’avis, vite, pour presque rien, et à une échelle qu’aucun humain n’atteint. Nous ne la suivons pas sur deux points.
D’abord, il n’y a pas de piratage du cerveau. Les grandes études récentes décrivent le même mécanisme : une avalanche de faits pertinents, servis sans fatigue ni agacement. C’est plutôt rassurant, car un fait se vérifie. C’est aussi le piège : plus on pousse une IA à convaincre, plus elle glisse de faits faux dans l’avalanche, et un argument exact peut encore tromper par ce qu’il omet. L’effet s’use, d’ailleurs : un mois plus tard, il n’en reste qu’un bon tiers dans les deux études de décembre 2025.
Ensuite, « qui l’a écrit ? » protège moins qu’on ne le croit. Dans une étude publiée en février 2026, présenter un message comme écrit par une IA ne réduisait pas son effet. Une prépublication d’août 2026, menée auprès de 1 500 Britanniques, montre ce qui protège davantage :
Effet d’un chatbot persuasif selon ce qu’on dit à la personne, en points sur 100
À retenir
Devant un message qui vous fait changer d’avis, demandez-vous ce qu’il cherche à obtenir, et si ses faits tiennent
L’étiquette dit qui parle. Elle ne dit ni pourquoi, ni si c’est vrai. Ce sont ces deux questions qui protègent, que l’auteur soit une machine ou un humain.
Une limite de notre propre avis : presque toutes ces expériences se passent en ligne, avec des participants rémunérés et sur des sujets politiques. On sait encore peu de chose de l’effet d’un assistant commercial sur une décision d’achat.
Ce qui nous ferait changer d’avis : une étude publiée et relue montrant, en conditions réelles, qu’une IA cachée fait durablement basculer des comportements à grande échelle ; ou, à l’inverse, que l’étiquette « IA » suffit à protéger. À notre connaissance, aucune ne le montre encore.
Par où commencer ?
Si vous déployez une IA qui parle à vos clients, relisez ses consignes avec une seule question : qu’est-ce que je lui demande d’obtenir, et l’accepterais-je si on me le disait en face ? Branchez-la ensuite sur vos documents plutôt que sur sa mémoire, et faites-lui citer ses sources : c’est ainsi que nous concevons un assistant IA qui répond à partir de vos documents, source citée. Et si la question vous intéresse comme lecteur plus que comme entreprise, notre article L’IA rend-elle bête ? prolonge la réflexion sur ce que ces outils font à notre jugement.
Questions fréquentes
Une IA peut-elle manipuler quelqu’un sans qu’on le lui ait demandé ?
C’est possible, et le droit européen le prévoit : selon les lignes directrices de la Commission, l’interdiction vise aussi un système qui manipule sans intention humaine, par exemple à cause de ses données d’entraînement. Dans les expériences citées ici, c’est toutefois une consigne humaine qui fixait le but. D’où l’intérêt de relire ce qu’on demande à un assistant, et de tester ce qu’il fait vraiment avant de le mettre en service.
Est-il interdit d’utiliser l’IA pour convaincre des clients ?
Non. Persuader avec des arguments et des faits exacts, en disant qu’une IA parle, reste permis, y compris en publicité personnalisée. L’AI Act interdit les techniques délibérément manipulatrices ou trompeuses, et l’exploitation des vulnérabilités, quand elles causent un préjudice important. Le droit de la consommation interdit, lui, les pratiques commerciales trompeuses ou agressives, même sans préjudice important. Un chatbot doit aussi se présenter comme une IA, sauf si c’est évident.
Comment savoir si l’on parle à une IA ?
Dans l’Union européenne, un chatbot doit vous le dire depuis août 2026, au plus tard à la première interaction. Sur un forum ou un réseau social, un faux compte ne respecte pas les règles par définition, et rien ne permet de le reconnaître à coup sûr à la lecture. Le réflexe le plus utile reste de juger le message plutôt que son auteur : ce qu’il cherche à obtenir, et si ses faits se vérifient à leur source.
Peut-on se protéger de la persuasion d’une IA ?
En partie. Savoir qu’un message vient d’une IA protège peu ; savoir ce qu’il cherche à obtenir protège davantage. Vérifiez les faits décisifs à leur source primaire, méfiez-vous d’un flot d’arguments qui ne laisse pas le temps de vérifier, et laissez passer quelques jours avant une décision importante, car l’effet s’estompe en partie. En entreprise, toute demande sensible se confirme par un autre canal.
Sources
- Une vidéo de trois minutes (nouvel onglet)instagram.com
- L’étude de Thomas Costello, Gordon Pennycook et David Rand (nouvel onglet)doi.org
- Le communiqué du MIT (nouvel onglet)mitsloan.mit.edu
- Une analyse corrigée (nouvel onglet)zenodo.org
- Expression de préoccupation (nouvel onglet)doi.org
- Le développeur Simon Willison (nouvel onglet)simonwillison.net
- Le brouillon des chercheurs (nouvel onglet)retractionwatch.com
- Retraction Watch (nouvel onglet)retractionwatch.com
- Les chercheurs ont renoncé à publier leurs résultats (nouvel onglet)engadget.com
- Hackenburg et al. (nouvel onglet)doi.org
- L’Oxford Internet Institute (nouvel onglet)oii.ox.ac.uk
- Lin et al. (nouvel onglet)nature.com
- Communiqué de Cornell (nouvel onglet)news.cornell.edu
- Hackenburg et al., 2026 (nouvel onglet)arxiv.org
- Corrigée sur ce point en septembre 2026 (nouvel onglet)nature.com
- Une prépublication (nouvel onglet)arxiv.org
- Ses lignes directrices sur les pratiques d’IA interdites (nouvel onglet)ec.europa.eu
- L’article 5 du règlement européen sur l’IA (nouvel onglet)ai-act-service-desk.ec.europa.eu
- Jusqu’à 35 millions d’euros ou 7 % du chiffre d’affaires annuel mondial (nouvel onglet)ai-act-service-desk.ec.europa.eu
- L’article 50 (nouvel onglet)ai-act-service-desk.ec.europa.eu
- La directive sur les pratiques commerciales déloyales (nouvel onglet)commission.europa.eu
- « Digital Fairness Act » (nouvel onglet)ec.europa.eu
- Approuvé par la Commission le 20 juillet 2026 (nouvel onglet)ec.europa.eu
- Rapport de l’AISI (nouvel onglet)aisi.gov.uk
- Une étude publiée en février 2026 (nouvel onglet)pmc.ncbi.nlm.nih.gov
Ses lignes directrices sur les pratiques d’IA interdites
Lire sur ec.europa.eu(nouvel onglet)L’article 5 du règlement européen sur l’IA
Lire sur ai-act-service-desk.ec.europa.eu(nouvel onglet)Jusqu’à 35 millions d’euros ou 7 % du chiffre d’affaires annuel mondial
Lire sur ai-act-service-desk.ec.europa.eu(nouvel onglet)La directive sur les pratiques commerciales déloyales
Lire sur commission.europa.eu(nouvel onglet)Jim · fondateur de Brain Plus AI
À lire aussi en ia d'entreprise
Prendre du recul7 min
IA et désinformation : machine à mentir ou remède ?
Une étude montre que l'IA écrit de fausses informations plus convaincantes que les humains, une autre qu'elle fait reculer les croyances complotistes, mais sa revue a émis une réserve. Ce qu'on peut en retenir, et ce que la loi impose à ceux qui publient.
Prendre du recul8 min
Faut-il dire qu'un texte a été écrit par une IA ?
Transparence due au lecteur ou détail de fabrication, comme un correcteur orthographique ? Le règlement européen sur l'IA tranche à moitié, avec un critère utile bien au-delà de la loi : un humain répond-il du texte ?
Guide pratique10 min
AI Act et RGPD : ce qu'une PME qui utilise l'IA doit faire
Une PME qui utilise ChatGPT ou un CRM doté d'IA a déjà des obligations. Ce guide fait le point en octobre 2026 : votre rôle au sens de l'AI Act, le calendrier révisé en juillet 2026, ce que demande le RGPD et les étapes pour vous mettre en règle.