Iterar con la IA: por qué el texto se desvía en cada pasada

Un cliente lo aprendió a su costa. Retocaba una propuesta comercial con un asistente de IA: una pasada, dos pasadas, unas cuarenta en total. Cada vez la releía, corregía una frase y lo reenviaba todo. En algún punto del camino, un precio ganó un cero de más. Él no lo vio. Su cliente potencial, sí. El trato no fue más allá.

No es cosa de principiantes. Es un efecto del propio sistema, y afecta a todo el mundo, sea cual sea el modelo utilizado.

En resumen

• Cuando se devuelve a una IA su propia respuesta, reescribe la versión anterior, nunca el original. Cada pequeña desviación se convierte en la nueva referencia.
• Cuanto más se itera, más probable es que los detalles precisos (precios, fechas, cifras, cláusulas) cambien sin que nadie lo note.
• La desviación no se elimina: se construye un sistema que la hace visible, con un original de referencia, cambios concretos, una comparación de versiones, una memoria del proyecto y una revisión humana de las cifras.

El teléfono escacharrado, versión IA

Un modelo de lenguaje no «corrige» un texto como una persona que tiene presente la versión de origen. Produce una nueva versión a partir de lo que se le da. Si se le da la versión 12, no sabe nada de la versión 1. Una formulación suavizada, una cifra redondeada, una condición olvidada: en la pasada siguiente, se ha convertido en la verdad.

Y su memoria de trabajo tiene un tamaño limitado. En una conversación larga, los primeros intercambios, aquellos en los que se fijó el precio o el alcance, acaban pesando menos que los últimos, o salen de su campo.

Lo más engañoso es que cada versión, por sí sola, parece limpia. El texto es fluido, está bien construido. La desviación solo se ve al comparar.

El mismo efecto, a escala de una empresa

El caso del cero de más es espectacular, pero el fenómeno está en todas partes en cuanto una cadena entera pasa por la IA: un pliego de condiciones generado, respuestas generadas para contestarlo, un análisis generado de esas respuestas y luego una IA que lo valida todo. La última etapa reconoce forzosamente un estilo parecido al suyo, y nada en la cadena vuelve a lo que la empresa quería al principio.

Una factura cuyo total cambia en la cuarta copia, un código que pierde una comprobación de seguridad a fuerza de ser «simplificado», una cláusula que desaparece de un contrato: son los mismos mecanismos.

Lo que de verdad lo evita

No se le pide a la IA que sea perfecta. Se organiza el trabajo para que una desviación no pase desapercibida.

• Partir del original. La referencia sigue siendo el documento validado, no la última respuesta. Cada modificación se aplica a él.
• Pedir un cambio preciso. «Acorta el segundo párrafo» en lugar de «mejóralo todo». Cuanto menos toca la IA, menos puede estropear.
• Comparar las versiones. Una diferencia entre dos versiones se detecta en pocos segundos cuando se ponen una al lado de la otra, nunca releyendo un texto que parece correcto.
• Llevar una memoria del proyecto. Un archivo de decisiones, junto al trabajo: lo que está decidido (precio, alcance, tono, cifras de origen), releído antes de cada pasada y actualizado después. La IA tiene un lugar fijo donde leer lo que no debe moverse, en vez de fiarse del hilo de la conversación.
• Hacer verificar las cifras por una persona. Precios, importes, fechas, compromisos: lo que sale caro en caso de error pasa por ojos humanos antes de enviarse.

Cómo trabajamos

Así llevamos nuestros proyectos, y es lo que implantamos en nuestros clientes. Cada proyecto tiene su memoria escrita, que los agentes releen antes de actuar y completan después. Los entregables pasan por controles automáticos que comparan lo que ha cambiado y rechazan lo que no cuadra con la fuente. Y lo que compromete a la empresa, un precio, una cifra publicada, una cláusula, lo revisa una persona antes de salir.

La IA ahorra un tiempo considerable. Este sistema garantiza que ese tiempo ganado no se pague más tarde, delante de un cliente.