El problema tiene dos direcciones
Los sistemas generativos reducen el tiempo y la habilidad necesarios para crear texto, imágenes, audio y video convincentes. Los medios falsos pueden aceptarse como reales. Al mismo tiempo, la evidencia auténtica puede descartarse como sintética —el “dividendo del mentiroso”. Este segundo efecto no requiere un deepfake perfecto; requiere solo suficiente conciencia pública sobre la fabricación como para hacer plausible la negación.
Este es un problema presente de la IA generativa, no evidencia de que la AGI exista. Los daños actuales incluyen estafas de suplantación, imágenes íntimas no consentidas, contenido político fabricado, evidencia falsificada y una inundación de contenido barato. Para la secuencia de recuperación doméstica tras una estafa de suplantación exitosa, véase Qué hacer después de una estafa habilitada por IA. La persuasión individualizada a escala de AGI es una proyección que depende de capacidad futura, acceso a datos personales, despliegue y susceptibilidad humana.
Lo que está documentado, y lo que no
La clonación de voz y la síntesis facial se han usado en fraude y acoso. Actores políticos han difundido o amplificado medios sintéticos. Sin embargo, los ejemplos virales no revelan la prevalencia ni el efecto electoral neto. La gente comparte contenido falso por razones sociales y partidistas, y la edición convencional, los subtítulos engañosos y las imágenes auténticas presentadas fuera de contexto siguen siendo poderosos. Un enfoque estrecho en los deepfakes espectaculares puede pasar por alto el problema más común del engaño ordinario acelerado por la automatización.
Las afirmaciones sobre detección también requieren cautela. Un detector estima si los artefactos se parecen al material de sus datos de entrenamiento. El desempeño puede caer tras la compresión, el recorte, la traducción, las actualizaciones de modelos o la evasión deliberada. Los falsos positivos pueden perjudicar a periodistas, artistas y personas que documentan abusos. La ausencia de una señal del detector no prueba autenticidad; una señal positiva debería iniciar una investigación, no terminarla.
La procedencia es útil, pero no certifica la verdad
El estándar de la Coalición para la Procedencia y Autenticidad del Contenido (C2PA) permite que herramientas compatibles adjunten información criptográficamente verificable sobre el origen y el historial de edición de un archivo. Una credencial válida puede mostrar que un dispositivo u organización reconocidos firmaron ciertas afirmaciones y que los datos firmados no han sido alterados sin que se note. Puede respaldar una cadena de custodia.
El propio C2PA declara que la procedencia por sí sola no puede establecer que un contenido sea verdadero, preciso o factual. Una cámara con credenciales puede grabar un evento escenificado; un editor autorizado puede publicar un recorte engañoso; una organización de confianza puede cometer un error. El respaldo de identidad también depende de la credencial y el sistema de confianza utilizados (Explicativo de C2PA, especificación 2.2).
Las credenciales también pueden estar ausentes de medios auténticos. Las capturas de pantalla, la transcodificación, las plataformas sociales y la eliminación de metadatos pueden removerlas. La propia documentación de ayuda de OpenAI señala que las capturas de pantalla pueden eliminar los metadatos C2PA (Centro de Ayuda de OpenAI). Por lo tanto:
- una procedencia válida es evidencia positiva sobre el historial, no sobre la verdad;
- una procedencia inválida muestra una cadena rota o alterada, no necesariamente una escena falsa;
- la procedencia ausente no es prueba de fabricación.
El estándar está moldeado por empresas de tecnología y medios que se benefician de su adopción. Su documentación técnica es evidencia primaria de cómo funciona, no evidencia independiente de su eficacia en todo el ecosistema informativo.
La ley de divulgación se está volviendo real
En la Unión Europea, los deberes de transparencia del Artículo 50 de la Ley de IA comenzaron a aplicarse el 2 de agosto de 2026. Los proveedores de ciertos sistemas deben respaldar el marcado legible por máquina del contenido generado o manipulado, y los implementadores enfrentan deberes de divulgación para deepfakes específicos y texto de interés público, sujeto a excepciones. La aplicación se divide entre las autoridades nacionales y, en circunstancias más acotadas, la Oficina de IA. La Comisión Europea afirma que las multas por infracciones relevantes pueden alcanzar los 15 millones de euros o el 3% de la facturación anual mundial, con reglas de proporcionalidad (Comisión Europea, julio de 2026).
En Estados Unidos, la ley federal TAKE IT DOWN Act entró en vigor en mayo de 2025, abordando las imágenes íntimas no consentidas, incluidas las falsificaciones digitales cubiertas, y exigiendo a las plataformas cubiertas operar un proceso de notificación y eliminación. No es una ley general de autenticidad de deepfakes y no debería describirse como tal. Las leyes electorales, de protección al consumidor, de derecho de publicidad y estatales también pueden aplicarse, con definiciones y jurisdicciones distintas.
Las etiquetas ayudan a los usuarios honestos y respaldan la aplicación de la ley, pero los actores maliciosos dispuestos a cometer fraude no se autoetiquetarán de forma fiable. La divulgación es una capa, no la solución.
Un flujo de verificación más sólido
La verificación de alto riesgo debería combinar evidencia independiente:
- Preservar el original. Guarde el archivo, la URL, la hora y la publicación circundante antes de la recompresión o eliminación.
- Verificar la procedencia. Inspeccione las credenciales válidas y la cadena de confianza del firmante, tratando la ausencia de forma neutral.
- Encontrar la fuente más temprana. Realice una búsqueda inversa de los fotogramas clave y localice la primera carga documentada.
- Corroborar externamente. Busque grabaciones independientes, registros oficiales, testigos, clima, geografía y reportes contemporáneos.
- Contactar a la fuente reclamada por un canal separado. No use datos de contacto contenidos únicamente en el mensaje sospechoso.
- Evaluar el motivo y el momento. La urgencia, el secretismo, las exigencias de pago y la presión emocional son señales de fraude independientes de la calidad del medio.
Para una llamada de clon de voz familiar, cuelgue y llame a la persona u otro familiar usando un número conocido. Una frase de verificación familiar privada puede ayudar, pero trátela como comprometida si se dice o escribe en un canal expuesto. Para las solicitudes de pago corporativas, exija la aprobación de una segunda persona y confirmación fuera de banda.
Periodismo, tribunales y archivos
Las redacciones necesitan cadenas de captura a publicación, prácticas transparentes de corrección y una forma de conservar los originales. Los tribunales necesitan evidencia autenticada, examen pericial cuando corresponda, y cautela tanto ante exhibiciones fabricadas como ante afirmaciones oportunistas de que la evidencia real es falsa. Los investigadores de derechos humanos deben equilibrar la procedencia con la seguridad de las fuentes; revelar la identidad o ubicación de un fotógrafo puede crear peligro.
Los archivos enfrentan un desafío a largo plazo: los formatos, los certificados y la infraestructura de verificación pueden caducar. Preservar solo una copia renderizada por una plataforma puede destruir evidencia disponible en el original. La integridad duradera requiere archivos originales, hashes, marcas de tiempo, registros contextuales y planes de migración —no solo una insignia en una interfaz de usuario.
El riesgo de la base compartida
La integridad informativa no es lo mismo que el acuerdo. Las democracias saludables contienen conflicto sobre valores e interpretaciones. El objetivo es preservar métodos fiables para establecer hechos básicos: quién dijo qué, qué documento existía, cómo se produjo una imagen, y qué fuentes independientes lo corroboran.
La saturación de medios sintéticos puede aumentar los costos de verificación y recompensar a las instituciones establecidas que pueden costear la autenticación. Eso puede proteger la calidad, pero también concentrar el control de acceso. Los estándares abiertos, las herramientas de verificación de interés público, el periodismo local y los métodos transparentes pueden reducir la disyuntiva entre autenticidad y pluralismo.
Lo que podrían añadir sistemas más capaces
Agentes más capaces podrían generar muchos artefactos mutuamente consistentes, suplantar personas a través de canales, localizar narrativas, probar mensajes y adaptarse a las reacciones de un individuo. Ese escenario es plausible pero aún no se mide como un efecto general de la AGI. Las defensas necesitarían autenticar a las personas y los procesos, limitar la velocidad de las campañas sospechosas, proteger los datos personales y preservar la revisión humana sin crear una vigilancia de identidad universal.
La conclusión práctica es un escepticismo disciplinado en lugar de una incredulidad universal. No confíe en los medios solo porque parezcan reales, y no los rechace solo porque la síntesis sea posible. La procedencia, la corroboración, el historial de fuentes y los incentivos juntos crean una base fáctica más sólida que la detección automatizada o la intuición por sí solas.