Itérer avec l'IA : pourquoi le texte dérive à chaque passage

Un client l’a appris à ses dépens. Il retravaillait une proposition commerciale avec un assistant IA : une passe, deux passes, une quarantaine au total. À chaque fois, il relisait, corrigeait une phrase, renvoyait le tout. Quelque part en chemin, un prix a pris un zéro de trop. Il ne l’a pas vu. Son prospect, si. Le deal n’est pas allé plus loin.

Ce n’est pas une affaire de débutant. C’est un effet du système lui-même, et il touche tout le monde, quel que soit le modèle utilisé.

Le téléphone arabe, version IA

Un modèle de langage ne « corrige » pas un texte comme un humain qui garde la version d’origine en tête. Il produit une nouvelle version à partir de ce qu’on lui donne. Si on lui donne la version 12, il ne sait rien de la version 1. Une tournure adoucie, un chiffre arrondi, une condition oubliée : à la passe suivante, c’est devenu la vérité.

Et sa mémoire de travail a une taille limitée. Sur une longue conversation, les premiers échanges, ceux où l’on avait fixé le prix ou le périmètre, finissent par peser moins que les derniers, ou par sortir de son champ.

Le plus trompeur, c’est que chaque version, prise seule, a l’air propre. Le texte est fluide, bien construit. La dérive ne se voit qu’en comparant.

Le même effet, à l’échelle d’une entreprise

Le cas du zéro de trop est spectaculaire, mais le phénomène est partout dès qu’une chaîne entière passe par l’IA : un cahier des charges généré, des réponses générées pour y répondre, une analyse générée de ces réponses, puis une IA qui valide le tout. La dernière étape reconnaît forcément un style qui ressemble au sien, et rien dans la chaîne ne revient à ce que l’entreprise voulait au départ.

Une facture dont le total change à la quatrième copie, un code qui perd une vérification de sécurité à force d’être « simplifié », une clause qui s’efface d’un contrat : ce sont les mêmes mécanismes.

Ce qui l’évite vraiment

On ne demande pas à l’IA d’être parfaite. On organise le travail pour qu’une dérive ne passe pas inaperçue.

• Repartir de l’original. La référence reste le document validé, pas la dernière réponse. Chaque modification s’applique à lui.
• Demander un changement précis. « Raccourcis le deuxième paragraphe » plutôt que « améliore tout ». Moins l’IA touche, moins elle peut abîmer.
• Comparer les versions. Un écart entre deux versions se repère en quelques secondes quand on les met côte à côte, jamais en relisant un texte qui a l’air juste.
• Tenir une mémoire du projet. Un fichier de décisions, à côté du travail : ce qui est arbitré (prix, périmètre, ton, chiffres sources), relu avant chaque passe et mis à jour après. L’IA a un endroit fixe où lire ce qui ne doit pas bouger, au lieu de s’en remettre au fil de la conversation.
• Faire vérifier les chiffres par un humain. Prix, montants, dates, engagements : ce qui coûte cher en cas d’erreur passe sous des yeux humains avant de partir.

Comment nous travaillons

C’est la façon dont nous menons nos missions, et ce que nous mettons en place chez nos clients. Chaque projet a sa mémoire écrite, que les agents relisent avant d’agir et complètent après. Les livrables passent par des contrôles automatiques qui comparent ce qui a changé et refusent ce qui ne colle pas avec la source. Et ce qui engage l’entreprise, un prix, un chiffre publié, une clause, est relu par une personne avant de sortir.

L’IA fait gagner un temps considérable. Ce système garantit que ce temps gagné ne se paie pas plus tard, en face d’un client.