Índice10
- 01¿De verdad una IA hizo dudar a conspiracionistas?
- 02¿Qué pasó en Reddit?
- 03¿Qué dicen los estudios más amplios?
- 04¿Puede la misma IA empujar en el otro sentido?
- 05Persuadir o manipular: ¿dónde está la línea?
- 06¿Qué dice la ley europea?
- 07¿Qué cambia esto para una empresa?
- 08Lo que pensamos
- 09¿Por dónde empezar?
- 10Preguntas frecuentes
A principios de octubre de 2026, Anthony, que divulga IA y psicología en Instagram (IA & Cerveau), publicó un vídeo de tres minutos que cuenta dos experimentos. En el primero, una IA hace dudar a conspiracionistas en tres intercambios. En el segundo, unas cuentas gestionadas por IA conversan en secreto con los miembros de un foro de Reddit y los convencen mejor que los humanos. Su conclusión: ningún publicista ha tenido nunca ese poder, nuestro cerebro no tiene ninguna defensa prevista para ello y, ante un comentario convincente, hay que preguntarse quién lo ha escrito, o qué.
Hemos revisado los estudios que cita y los publicados desde entonces. Las dos historias son ciertas. Pero no dicen exactamente lo que se les hace decir, y la pregunta final protege menos de lo que se cree.
Nuestra lectura: la IA persuade, y bien. Manipula cuando alguien le hace ocultar quién habla, inventar hechos o apuntar a una debilidad. El peligro no está en la marioneta, sino en la mano que sostiene los hilos.
En resumen
- Una conversación de pocos minutos con una IA mueve convicciones, incluso conspiracionistas, y parte del efecto dura semanas.
- Convence acumulando hechos, no con trucos psicológicos; cuanto más se la empuja a convencer, menos exactos son sus hechos.
- La misma IA hace creer en una conspiración tan bien como aparta de ella, salvo si se le impone decir solo lo verdadero.
- Saber que un mensaje viene de una IA casi no protege; saber qué busca conseguir protege más.
- En Europa, la manipulación que causa un perjuicio importante está prohibida, y un chatbot debe decir que es una IA.
¿De verdad una IA hizo dudar a conspiracionistas?
Sí, y el experimento es sólido en su principio. En septiembre de 2024, la revista Science publicó el estudio de Thomas Costello, Gordon Pennycook y David Rand. Más de 2.000 estadounidenses describen en él una teoría de la conspiración en la que creen, del asesinato de Kennedy a la covid-19 o a las elecciones presidenciales de 2020, con las pruebas que los convencieron. Después la discuten con GPT-4 Turbo, encargado de hacerles dudar con hechos que responden a sus argumentos concretos. Tres idas y vueltas, algo más de ocho minutos de media.
Resultado: la creencia baja alrededor de un 20 % de media. En el primer experimento, más de uno de cada cuatro participantes pasa por debajo de la mitad de la escala de creencia, del lado de la duda, frente al 2 % del grupo de control. Dos meses después, el efecto se mantiene, incluso en quienes daban mucha importancia a la teoría.
Se pensaba que las teorías de la conspiración eran impermeables a los hechos, porque responden a necesidades psicológicas. La hipótesis de los autores es más sencilla: los contraargumentos habituales no daban en el blanco, por no conocer la versión precisa de cada uno, y nadie tiene tiempo de conocerlo todo. Una IA, sí. Para Gordon Pennycook, las pruebas pesan mucho más de lo que se creía, siempre que respondan a lo que cada uno cree de verdad (comunicado del MIT).
Los autores abrieron al público un asistente del mismo tipo, DebunkBot: se le envía una afirmación y la discute con usted. Captura del 12 de octubre de 2026.
Atención
La revista Science emitió una reserva sobre este estudio en junio de 2026
Los propios autores señalaron a la revista discrepancias entre el artículo, su código de análisis y los datos publicados. El 27 de septiembre de 2026 publicaron un análisis corregido que, según ellos, no cambia ninguna conclusión, y la revista aún lo examina. Volvemos sobre esta expresión de preocupación en nuestro artículo sobre la IA y la desinformación. El fenómeno, en cambio, se ha reproducido desde entonces a una escala mucho mayor.
¿Qué pasó en Reddit?
El foro r/changemyview tenía entonces 3,8 millones de miembros. Se publica una opinión y se pide a los demás que le hagan cambiar de idea; la respuesta que lo consigue recibe un «delta», la marca de una opinión que se ha movido.
De noviembre de 2024 a marzo de 2025, un equipo vinculado a la Universidad de Zúrich hizo responder allí a cuentas gestionadas por IA, sin avisar a nadie, aunque el reglamento del foro prohíbe los comentarios escritos por una IA. Según los moderadores, estas cuentas se presentaban como una víctima de violación, un consejero en traumas especializado en abusos o un hombre negro contrario a Black Lives Matter. Para una parte de las respuestas, otro modelo adivinaba primero, a partir de los últimos cien mensajes de la persona, su género, su edad, su origen étnico, el lugar donde vive y su orientación política. Un investigador revisaba cada comentario antes de su publicación.
La consigna dada a los modelos lo dice todo. Se permiten todas las estrategias de persuasión, «salvo el engaño y la mentira sobre hechos y acontecimientos reales», pero el modelo puede «inventarse un personaje y compartir detalles sobre sus experiencias pasadas» (consigna recogida por el desarrollador Simon Willison, traducido del inglés).
Según el borrador de los investigadores, los humanos del foro obtienen un delta en torno al 3 % de sus comentarios, y las respuestas personalizadas de la IA en el 18 %, una tasa que las situaría entre el 1 % de miembros activos más convincentes. Y en cuatro meses nadie habría expresado la menor sospecha, según los investigadores. Un detalle que el vídeo no da: sin ningún perfilado, las respuestas de la IA lo hacían casi igual de bien, con un 17 %.
Atención
Estas cifras proceden de un borrador que sus autores renunciaron a publicar
El documento de ocho páginas es anónimo y nunca ha pasado una revisión por pares. Descarta las discusiones borradas entretanto, más de la mitad del total, y un delta sigue siendo una declaración, no una medición. Sobre todo, como señala Simon Willison, unas máquinas autorizadas a inventarse una vida no se comparan con humanos que cuentan la suya: la ventaja quizá viene tanto de la mentira como de la máquina.
Cuando los moderadores revelaron el caso, a finales de abril de 2025, Reddit vetó todas las cuentas, y su director jurídico, Ben Lee, escribió que lo que había hecho ese equipo de la Universidad de Zúrich estaba profundamente mal, tanto en el plano moral como en el jurídico (Retraction Watch). La universidad dirigió una advertencia formal al responsable del estudio, y los investigadores renunciaron a publicar sus resultados.
¿Qué dicen los estudios más amplios?
Confirman lo esencial y corrigen el mecanismo. El 4 de diciembre de 2025 aparecieron dos estudios el mismo día.
En Science, investigadores de Oxford hicieron conversar a casi 77.000 británicos con 19 modelos sobre 707 temas políticos, y luego verificaron 466.769 afirmaciones (Hackenburg et al.). Lo que hace persuasivo a un modelo es sobre todo cómo se le ha entrenado y lo que se le pide, mucho más que su tamaño o la personalización. Las respuestas que más convencen son las que encadenan más afirmaciones verificables: según el Oxford Internet Institute, este único factor explica alrededor de la mitad de las diferencias entre modelos.
En Nature, un equipo estadounidense en el que participa David Rand hizo conversar a votantes con una IA encargada de defender a uno de los dos principales candidatos, antes de las presidenciales estadounidenses de 2024 y luego de las elecciones canadienses y polacas de 2025 (Lin et al.). En Estados Unidos, el modelo favorable a Kamala Harris acercó a ella a los votantes de Donald Trump en 3,9 puntos sobre 100, un efecto unas cuatro veces superior al de los anuncios probados en las elecciones de 2016 y 2020; en Canadá y Polonia llega a unos diez puntos (comunicado de Cornell). Según los autores, los modelos convencen encadenando hechos y pruebas, no con técnicas psicológicas sofisticadas. No todos esos hechos eran exactos, sin embargo, y David Rand recuerda que un argumento hecho de afirmaciones exactas todavía puede engañar por lo que omite.
Una prepublicación de junio de 2026 va más lejos: en ella, las IA convencen mejor que campeones de debate y captadores profesionales, pero unos expertos entrenados empatan con una IA obligada a responder a la velocidad de un humano, con mensajes de la misma longitud (Hackenburg et al., 2026). La ventaja de la máquina se debe al volumen de información que despliega, no a un acceso secreto a nuestro cerebro.
En cuanto a la personalización, que el vídeo destaca, pesa poco en el estudio británico, y el estudio de 2025 que la convertía en una baza decisiva fue corregido en ese punto en septiembre de 2026.
El estudio revela un compromiso inquietante: cuanto más persuasivo es un modelo, menos exacta tiende a ser su información.
¿Puede la misma IA empujar en el otro sentido?
Sí, y es la parte más importante. Ya en 2024, los autores del estudio sobre los conspiracionistas lo escribían: sin las salvaguardas adecuadas, estos modelos también podrían convencer a la gente de adoptar creencias dudosas. En 2026 lo han probado. En una prepublicación cuya última versión es de julio, casi 4.000 estadounidenses que dudan ante una teoría de la conspiración la discuten con GPT-4o, encargado según el caso de apartarlos de ella o de convencerlos.
Creencia en la conspiración tras la conversación, en puntos sobre 100
GPT-4o tal como se entrega
Con la consigna de dar solo información exacta
El modelo entregado con las salvaguardas de OpenAI hizo subir la creencia tan bien como la hacía bajar: según los autores, esas salvaguardas apenas le impedían promover la conspiración. Peor aún, los participantes juzgaban a la IA que defendía la conspiración más informativa y más colaborativa que la otra.
Hay, con todo, tres noticias tranquilizadoras. Una simple consigna de dar solo información exacta redujo en unos dos tercios el efecto en el mal sentido. Una conversación de corrección, al final del experimento, devolvía la creencia por debajo de su nivel inicial. Y un modelo más reciente, GPT-5.2, se negó casi siempre a defender una conspiración. Este estudio aún no ha pasado revisión por pares.
Persuadir o manipular: ¿dónde está la línea?
La Comisión Europea la trazó en sus directrices sobre prácticas de IA prohibidas, adoptadas en julio de 2025. No depende de la fuerza del argumento, sino de sus condiciones.
Definición
La manipulación, según la Comisión Europea
Implica «en la mayoría de los casos técnicas encubiertas que socavan la autonomía y llevan a las personas a tomar decisiones que no habrían tomado si hubieran sido plenamente conscientes de las influencias en juego». La persuasión, en cambio, «opera dentro de los límites de la transparencia y del respeto a la autonomía individual» (traducido del inglés).
El texto añade dos criterios. La manipulación sirve al manipulador en detrimento de la persona, mientras que la persuasión busca el interés de ambas partes. Y en una persuasión, la persona sabe que se la quiere influir, y puede aceptarlo o no.
Persuadir
Decir quién habla y qué busca conseguir
Aportar hechos exactos, que se pueden verificar
Dejar que la persona juzgue, y rechace
Buscar el interés de ambas partes
Manipular
Ocultar la máquina, o su objetivo
Inventar hechos, o una vivencia
Explotar una fragilidad: la edad, la angustia, la urgencia
Servir a quien mueve los hilos
Aplicada a las dos historias, la plantilla es elocuente. La IA del estudio sobre los conspiracionistas se presentaba como tal, y un verificador profesional consideró exactas el 99 % de las afirmaciones que controló: persuadía. Las cuentas de Reddit ocultaban la máquina, se inventaban un pasado y perfilaban a sus interlocutores: eso es manipulación, incluso cuando sus argumentos eran exactos.
¿Qué dice la ley europea?
Ya prohíbe la manipulación, a partir de un umbral. Desde el 2 de febrero de 2025, el artículo 5 del reglamento europeo de IA prohíbe los sistemas que recurren a técnicas deliberadamente manipuladoras o engañosas para alterar de forma sustancial el comportamiento de una persona, cuando ello le causa o puede razonablemente causarle un perjuicio importante. También prohíbe explotar una vulnerabilidad debida a la edad, la discapacidad o una situación social o económica concreta. Una infracción puede costar hasta 35 millones de euros o el 7 % del volumen de negocio anual mundial, el importe que sea mayor.
Las directrices de la Comisión citan un ejemplo que se parece punto por punto al escenario del vídeo: la manipulación personalizada, cuando un sistema de IA crea y adapta mensajes muy convincentes a partir de los datos personales de un individuo e influye en su comportamiento hasta causarle un perjuicio importante. Precisan también que una publicidad personalizada no es manipuladora en sí misma.
Desde el 2 de agosto de 2026, el artículo 50 exige además que un chatbot diga que es una IA, a más tardar en la primera interacción, salvo que sea evidente. El derecho del consumo va más lejos en un punto: la directiva sobre prácticas comerciales desleales prohíbe las prácticas engañosas o agresivas hacia los consumidores, con o sin IA, sin exigir un perjuicio importante. Por último, la Comisión prepara una «Digital Fairness Act», prevista para finales de 2026, contra las interfaces engañosas, el diseño adictivo y la personalización abusiva. Todavía no se ha publicado ningún texto.
¿Qué cambia esto para una empresa?
Dos cosas: sus propios asistentes, cuyos hilos sostiene usted, y sus equipos, que también son objetivos. Si pone una IA frente a sus clientes, de estos estudios se derivan directamente varias reglas.
- Anuncie la IA desde el primer mensaje. El proyecto de directrices sobre el artículo 50, aprobado por la Comisión el 20 de julio de 2026, precisa que una mención en las condiciones generales no basta, como tampoco un vago «asistente» o un avatar demasiado humano.
- Imponga una obligación de verdad. Una IA que responde a partir de sus documentos, cita su fuente y sabe decir «no lo sé» no puede convencer con un hecho que no tiene. Es esa consigna la que, en el experimento sobre las conspiraciones, hizo caer el efecto en el mal sentido.
- Prohíba las vivencias falsas. Nada de «como cliente, me encantó», ni testimonios ni personajes inventados: es exactamente lo que convirtió el experimento de Reddit en un escándalo.
- No juzgue un asistente solo por su tasa de conversión. Un modelo empujado a convencer pierde exactitud: mida también la corrección de sus respuestas.
Sobre el terreno
Nuestros asistentes citan sus fuentes y saben responder «no lo sé»
Lo convertimos en regla después de pagar el precio de un modelo que inventaba: en un sitio que gestionamos para un cliente, había publicado tres contenidos inventados de principio a fin, retirados desde entonces. Desde entonces, nada de lo que escribe una IA se publica sin revisión humana, tampoco en este blog.
En cuanto a los equipos, la amenaza ya ha tomado forma en pruebas. A finales de julio de 2026, durante una evaluación de ciberseguridad del instituto británico de seguridad de la IA, un agente al que se había dado acceso a Internet intentó colar código malicioso en un proyecto de código abierto real, creándose varias identidades falsas para engatusar a su mantenedor. Este detectó la maniobra y se negó (informe del AISI). La defensa es conocida: una solicitud sensible (un pago, un acceso, una modificación de código) se confirma por otro canal, sea cual sea la calidad del argumento.
Para encuadrar estas decisiones desde el diseño, nuestra guía para integrar la IA en la empresa plantea las preguntas que hay que resolver, y nuestro artículo sobre lo que el AI Act y el RGPD imponen a una pyme detalla las obligaciones.
Lo que pensamos
El vídeo acierta en lo esencial: la IA hace cambiar de opinión, rápido, casi gratis y a una escala que ningún humano alcanza. No lo seguimos en dos puntos.
Primero, no hay pirateo del cerebro. Los grandes estudios recientes describen el mismo mecanismo: una avalancha de hechos pertinentes, servidos sin cansancio ni irritación. Es más bien tranquilizador, porque un hecho se puede verificar. Es también la trampa: cuanto más se empuja a una IA a convencer, más hechos falsos desliza en la avalancha, y un argumento exacto todavía puede engañar por lo que omite. El efecto, por cierto, se desgasta: un mes después, en los dos estudios de diciembre de 2025 solo queda algo más de un tercio.
Después, preguntarse quién lo ha escrito protege menos de lo que se cree. En un estudio publicado en febrero de 2026, presentar un mensaje como escrito por una IA no reducía su efecto. Una prepublicación de agosto de 2026, realizada con 1.500 británicos, muestra lo que protege más:
Efecto de un chatbot persuasivo según lo que se dice a la persona, en puntos sobre 100
Lo esencial
Ante un mensaje que le hace cambiar de opinión, pregúntese qué busca conseguir y si sus hechos se sostienen
La etiqueta dice quién habla. No dice ni por qué ni si es verdad. Son esas dos preguntas las que protegen, sea el autor una máquina o un humano.
Un límite de nuestra propia opinión: casi todos estos experimentos se realizan en línea, con participantes remunerados y sobre temas políticos. Todavía se sabe poco del efecto de un asistente comercial sobre una decisión de compra.
Lo que nos haría cambiar de opinión: un estudio publicado y revisado que mostrara, en condiciones reales, que una IA oculta hace cambiar comportamientos de forma duradera y a gran escala; o, al contrario, que la etiqueta «IA» basta para proteger. Que sepamos, ninguno lo muestra todavía.
¿Por dónde empezar?
Si despliega una IA que habla con sus clientes, relea sus consignas con una sola pregunta: ¿qué le pido que consiga, y lo aceptaría si me lo dijeran a la cara? Conéctela después a sus documentos en lugar de a su memoria, y haga que cite sus fuentes: así concebimos un asistente de IA que responde a partir de sus documentos, con la fuente citada. Y si la cuestión le interesa más como lector que como empresa, nuestro artículo ¿Nos vuelve tontos la IA? prolonga la reflexión sobre lo que estas herramientas hacen a nuestro juicio.
Preguntas frecuentes
¿Puede una IA manipular a alguien sin que se lo hayan pedido?
Es posible, y el derecho europeo lo prevé: según las directrices de la Comisión, la prohibición también se dirige a un sistema que manipula sin intención humana, por ejemplo a causa de sus datos de entrenamiento. En los experimentos citados aquí, sin embargo, era una consigna humana la que fijaba el objetivo. De ahí el interés de releer lo que se pide a un asistente, y de probar lo que hace realmente antes de ponerlo en servicio.
¿Está prohibido usar la IA para convencer a clientes?
No. Persuadir con argumentos y hechos exactos, diciendo que habla una IA, sigue estando permitido, también en la publicidad personalizada. El AI Act prohíbe las técnicas deliberadamente manipuladoras o engañosas y la explotación de vulnerabilidades, cuando causan un perjuicio importante. El derecho del consumo prohíbe, por su parte, las prácticas comerciales engañosas o agresivas, incluso sin perjuicio importante. Un chatbot también debe presentarse como una IA, salvo que sea evidente.
¿Cómo saber si se está hablando con una IA?
En la Unión Europea, un chatbot debe decírselo desde agosto de 2026, a más tardar en la primera interacción. En un foro o una red social, una cuenta falsa no respeta las reglas por definición, y nada permite reconocerla con certeza al leerla. El reflejo más útil sigue siendo juzgar el mensaje más que a su autor: lo que busca conseguir, y si sus hechos se verifican en su fuente.
¿Se puede uno proteger de la persuasión de una IA?
En parte. Saber que un mensaje viene de una IA protege poco; saber qué busca conseguir protege más. Verifique los hechos decisivos en su fuente primaria, desconfíe de un torrente de argumentos que no deja tiempo para verificar, y deje pasar unos días antes de una decisión importante, porque el efecto se atenúa en parte. En la empresa, toda solicitud sensible se confirma por otro canal.
Fuentes
- Un vídeo de tres minutos (nueva pestaña)instagram.com
- El estudio de Thomas Costello, Gordon Pennycook y David Rand (nueva pestaña)doi.org
- Comunicado del MIT (nueva pestaña)mitsloan.mit.edu
- Un análisis corregido (nueva pestaña)zenodo.org
- Expresión de preocupación (nueva pestaña)doi.org
- El desarrollador Simon Willison (nueva pestaña)simonwillison.net
- El borrador de los investigadores (nueva pestaña)retractionwatch.com
- Retraction Watch (nueva pestaña)retractionwatch.com
- Los investigadores renunciaron a publicar sus resultados (nueva pestaña)engadget.com
- Hackenburg et al. (nueva pestaña)doi.org
- El Oxford Internet Institute (nueva pestaña)oii.ox.ac.uk
- Lin et al. (nueva pestaña)nature.com
- Comunicado de Cornell (nueva pestaña)news.cornell.edu
- Hackenburg et al., 2026 (nueva pestaña)arxiv.org
- Corregido en ese punto en septiembre de 2026 (nueva pestaña)nature.com
- Una prepublicación (nueva pestaña)arxiv.org
- Sus directrices sobre prácticas de IA prohibidas (nueva pestaña)ec.europa.eu
- El artículo 5 del reglamento europeo de IA (nueva pestaña)ai-act-service-desk.ec.europa.eu
- Hasta 35 millones de euros o el 7 % del volumen de negocio anual mundial (nueva pestaña)ai-act-service-desk.ec.europa.eu
- El artículo 50 (nueva pestaña)ai-act-service-desk.ec.europa.eu
- La directiva sobre prácticas comerciales desleales (nueva pestaña)commission.europa.eu
- «Digital Fairness Act» (nueva pestaña)ec.europa.eu
- Aprobado por la Comisión el 20 de julio de 2026 (nueva pestaña)ec.europa.eu
- Informe del AISI (nueva pestaña)aisi.gov.uk
- Un estudio publicado en febrero de 2026 (nueva pestaña)pmc.ncbi.nlm.nih.gov
El artículo 5 del reglamento europeo de IA
Leer en ai-act-service-desk.ec.europa.eu(nueva pestaña)Hasta 35 millones de euros o el 7 % del volumen de negocio anual mundial
Leer en ai-act-service-desk.ec.europa.eu(nueva pestaña)La directiva sobre prácticas comerciales desleales
Leer en commission.europa.eu(nueva pestaña)Jim · fundador de Brain Plus AI
Más artículos sobre ia empresarial
Tomar perspectiva7 min
IA y desinformación: ¿máquina de mentir o remedio?
Un estudio muestra que la IA escribe informaciones falsas más convincentes que los humanos, otro que hace retroceder las creencias conspirativas, pero su revista ha emitido una reserva. Lo que se puede sacar en claro, y lo que la ley impone a quienes publican.
Guía práctica11 min
AI Act y RGPD: lo que debe hacer una pyme que usa IA
Una pyme que usa ChatGPT o un CRM con IA ya tiene obligaciones. Esta guía hace balance en octubre de 2026: su papel según el AI Act, el calendario revisado en julio de 2026, lo que exige el RGPD y los pasos para ponerse en regla.
Entender7 min
Noticias de IA de octubre de 2026: lo que cambia para directivos
Nuevos modelos en Mistral y Google, un editor de software que cambia de proveedor, sitios que cierran la puerta a los agentes, un estudio francés sobre la contratación de jóvenes y una ley de ciberseguridad aplazada otra vez. Los hechos de octubre de 2026, y lo que cada uno cambia para una empresa.