La persuasión no es lo mismo que un deepfake
Un deepfake fabrica un medio que aparenta documentar un evento. La persuasión por IA puede usar una conversación enteramente sintética pero abiertamente generada: un argumento, una recomendación, un intercambio con chatbot, o un feed clasificado diseñado para cambiar una creencia o un comportamiento. El contenido puede ser verdadero, falso o mixto. La preocupación distintiva es la optimización y la distribución, no solo la fabricación.
Los modelos actuales pueden generar texto persuasivo en estudios controlados. La evidencia real de que actores maliciosos estén usando IA para manipular poblaciones enteras a escala sigue siendo limitada. El Informe Internacional de Seguridad de la IA 2026 sostiene ambos puntos y advierte contra convertir la capacidad experimental en una afirmación no respaldada de impacto generalizado (resumen ejecutivo del informe).
Qué encontraron los primeros estudios
En un experimento de debate preregistrado, Salvi y colegas compararon interlocutores humanos y de GPT-4 discutiendo temas políticos. GPT-4 con acceso a información básica de los participantes produjo cambios de opinión mayores que los oponentes humanos; sin personalización, la ventaja era menor (Salvi et al., Nature Human Behaviour). El resultado demostró capacidad persuasiva en un debate textual particular. No midió una campaña larga, el comportamiento de voto, la resistencia tras información posterior, ni efectos a nivel poblacional.
Investigadores de Anthropic probaron argumentos generados por modelos en varios temas de política y encontraron que los modelos líderes podían ser comparablemente persuasivos a los argumentos escritos por humanos bajo su configuración experimental. También exploraron estrategias que involucraban afirmaciones fácticas y fabricadas (investigación de persuasión de Anthropic). Esta es investigación útil de la empresa, pero no debería resumirse como prueba de que la fabricación sea siempre la estrategia más persuasiva. La selección de temas, las instrucciones, las medidas de resultado y los participantes moldean los resultados.
Los grandes experimentos de 2026 cambiaron el énfasis
El AI Security Institute del Reino Unido y colaboradores académicos realizaron tres experimentos con 76.977 participantes, 19 modelos y 707 temas políticos. También verificaron cientos de miles de afirmaciones generadas. El estudio halló que el post-entrenamiento y las instrucciones producían cambios de persuasión mayores que la escala del modelo o la personalización. Los efectos de personalización fueron consistentemente menores a un punto porcentual. Los métodos que aumentaban la persuasión también reducían sistemáticamente la exactitud fáctica, aunque los autores advirtieron que esto no prueba que las afirmaciones falsas sean en sí mismas más persuasivas (estudio del AISI).
Esta evidencia complica la conocida narrativa del microtargeting. Los datos personales pueden importar en otros contextos, sobre todo en interacciones repetidas, pero la personalización demográfica básica no fue la palanca dominante en estos experimentos. La densidad informativa, la instrucción retórica y el post-entrenamiento especializado merecen al menos tanta atención.
El hallazgo también muestra por qué “la IA es persuasiva” es demasiado tosco. Los desarrolladores pueden ajustar deliberadamente un modelo más pequeño para que sea más persuasivo. Objetivos de producto como el engagement, la retención o la conversión pueden moldear el comportamiento incluso sin intención política explícita. La evaluación debe probar la versión desplegada y su objetivo de optimización.
De los efectos individuales al impacto social
Un cambio de opinión promedio estadísticamente detectable no produce automáticamente una desestabilización democrática. Los entornos reales incluyen mensajes competidores, desconfianza, relaciones sociales, cobertura mediática y oportunidades repetidas de actualizar creencias. Los participantes de laboratorio saben que están en un estudio, y las actitudes medidas pueden no persistir ni cambiar el comportamiento.
Aun así, la escala crea una preocupación plausible. Un modelo puede sostener muchas conversaciones simultáneas, responder al instante, probar variantes y operar a bajo costo marginal. Una organización podría combinar contenido generado con la segmentación de plataformas y cuentas automatizadas. Los sistemas conversacionales de largo plazo pueden aprender más sobre un usuario de lo que capta un experimento de una sola sesión.
La distribución sigue siendo un cuello de botella. El modelo más persuasivo tiene poca influencia sin acceso a la atención. Las plataformas, los sistemas publicitarios, los motores de recomendación, las redes de mensajería y las interfaces de confianza determinan el alcance. Esto significa que la gobernanza no puede centrarse solo en los pesos del modelo; debe examinar el diseño de producto y las campañas coordinadas.
Verdad, confianza y salud epistémica
El riesgo es más amplio que persuadir a alguien de una sola proposición falsa. Un entorno informativo puede volverse menos confiable cuando el material generado es barato, las fuentes no son claras, y los sistemas optimizan para el acuerdo. La gente puede responder creyendo falsedades convenientes, o descartando evidencia auténtica como sintética. Ambos resultados debilitan la búsqueda colectiva de hechos.
La alta densidad informativa presenta un problema especial. Una respuesta fluida puede contener muchas afirmaciones verificables, superando la capacidad de una persona para comprobarlas. Aunque la mayoría sean precisas, unos pocos errores estratégicos pueden moldear la conclusión. Las interfaces de citas ayudan solo cuando las fuentes existen, respaldan la afirmación y no están fabricadas.
La IA también puede fortalecer la salud epistémica. Puede traducir evidencia, exponer a los usuarios a contraargumentos, enseñar alfabetización mediática, y ayudar a verificar grandes volúmenes de contenido. La misma destreza persuasiva puede apoyar la comunicación en salud o la desescalada de conflictos. La intención, la optimización, la transparencia y el control del usuario determinan buena parte del resultado.
Qué debería medirse
Una evaluación responsable debería reportar el cambio de actitud inmediato, su persistencia, el comportamiento, la exactitud fáctica, las diferencias entre subgrupos y las opiniones previas de los participantes. Debería probar varios idiomas y culturas, sin asumir que un país generaliza globalmente. Los investigadores deberían comparar el texto de una sola vez con la voz, las imágenes, las relaciones largas y la distribución agéntica, protegiendo a los participantes.
El monitoreo del mundo real necesita datos de plataforma y salvaguardas de privacidad. Las señales útiles incluyen el comportamiento coordinado inauténtico, el gasto de campaña automatizado, el alcance y los resultados conductuales verificados. Los investigadores deberían evitar publicar recetas operativas de manipulación.
La atribución sigue siendo difícil. Una campaña puede usar IA para traducción o redacción sin ganar poder persuasivo. “Generado por IA” describe la producción, no el efecto causal. Los estudios deberían aislar la contribución marginal cuando sea posible.
Salvaguardas prácticas
Las plataformas pueden etiquetar las cuentas automatizadas, restringir el envío masivo de mensajes no solicitados, preservar el acceso de investigadores e investigar el comportamiento coordinado. Las reglas de publicidad política pueden exigir transparencia sobre el patrocinador y la segmentación. La procedencia puede ayudar a establecer cómo se creó un medio, aunque los metadatos pueden eliminarse y no prueban la verdad.
Los desarrolladores de modelos pueden evaluar juntas la persuasión y la veracidad, monitorizar el abuso, y evitar recompensar el acuerdo a cualquier costo. Los productos deberían revelar que los usuarios interactúan con IA, facilitar la inspección de fuentes, y permitir limitar o desactivar la personalización. Los ámbitos sensibles como las elecciones, la salud y las finanzas justifican controles más estrictos.
La educación sigue siendo importante, pero no puede cargar con todo el peso. Los individuos no pueden verificar por sí solos un flujo de escala industrial. Las instituciones, plataformas, campañas, desarrolladores y reguladores controlan las estructuras que crean el alcance y los incentivos.
La conclusión calibrada
La persuasión por IA es una capacidad experimental observada. La evidencia actual no muestra una manipulación exitosa y generalizada a escala poblacional, y un estudio importante de 2026 halló efectos de personalización básica menores de lo ampliamente asumido. Encontró efectos mayores por las instrucciones y el post-entrenamiento centrado en la persuasión, acompañados de una menor exactitud fáctica.
El escenario catastrófico es, por tanto, condicional: sistemas persuasivos, optimizados sin restricciones de verdad y conectados a la distribución masiva, podrían degradar la elección democrática y el conocimiento compartido. Esa vía merece monitoreo y salvaguardas. No debería reportarse como si los cambios de opinión controlados ya hubieran demostrado un control a escala civilizacional.