Esto es una teoría, no un resultado observado
El desempoderamiento gradual es una vía de riesgo catastrófico propuesta en la que los humanos pierden influencia significativa sobre los sistemas económicos, políticos y culturales a través de muchas decisiones individualmente razonables. No hay un solo sistema rebelde ni un momento de toma de poder. Las organizaciones delegan más trabajo porque la IA es más barata o más eficaz; la dependencia se acumula; y la capacidad práctica de elegir otro camino se erosiona.
Un artículo de investigación de 2025 de Jan Kulveit, Raymond Douglas, David Krueger y otros formaliza versiones de este argumento en la economía, los Estados y la cultura (“Gradual Disempowerment”). Debería citarse como un análisis teórico, no como evidencia de que la civilización ya atraviesa el proceso completo. El sesgo de automatización actual, la concentración y la pérdida de habilidades pueden ilustrar componentes, pero no validan el desenlace catastrófico.
La autoridad formal y el control efectivo pueden divergir
Una persona puede conservar legalmente un derecho mientras pierde la capacidad práctica de ejercerlo. Los accionistas pueden gobernar formalmente una empresa y aun así ser incapaces de evaluar una estrategia mediada por IA. Los votantes pueden conservar sus papeletas mientras las decisiones políticas son moldeadas por sistemas de información que ninguna institución pública puede auditar. Los funcionarios pueden seguir siendo responsables de decisiones que no pueden reconstruir porque los modelos, datos y sistemas de proveedores relevantes son opacos.
Esta distinción entre la autoridad de jure y el poder de facto es central. Una persona que pulsa “aprobar” no ofrece un control significativo si rechazar la recomendación es imposible, prohibitivamente costoso, o castigado institucionalmente. Tampoco basta un interruptor de apagado cuando una organización ya no sabe realizar la función subyacente sin el sistema.
El desempoderamiento no es, por tanto, sinónimo de automatización. Las herramientas pueden ampliar la agencia, distribuir la pericia y hacer que las instituciones respondan mejor. La preocupación es un patrón en el que los humanos pierden alternativas viables, comprensión, poder de negociación y la capacidad de coordinar una corrección.
La vía económica
Imagine empresas que automatizan progresivamente la investigación, los precios, la contratación, la gestión, la negociación y la inversión. Cada empresa adopta los sistemas porque sus competidores lo hacen. Los dueños y trabajadores pueden beneficiarse al principio. Con el tiempo, las organizaciones que deleguen más rápido podrían superar a las que preservan una deliberación humana más lenta, aunque la sociedad valore esa deliberación.
Varios mecanismos podrían entonces reforzarse mutuamente. Las habilidades se atrofian cuando la gente deja de practicarlas. La riqueza y el cómputo se concentran entre los propietarios de los sistemas más productivos. Los mercados optimizan la demanda medible mientras las propias preferencias son moldeadas por la publicidad y las recomendaciones mediadas por IA. El trabajo humano se vuelve menos importante para la producción, lo que podría debilitar el poder de negociación de los trabajadores, a menos que las instituciones distribuyan las ganancias por otra vía.
Este es un escenario condicional. La historia económica también contiene nuevas ocupaciones, regulación, organización laboral, provisión pública y tecnologías que amplifican en lugar de reemplazar a los trabajadores. Que la IA reduzca la agencia humana depende de la propiedad, la competencia, el seguro social, la educación y la complementariedad entre personas y máquinas. La teoría identifica un equilibrio posible, no un pronóstico económico.
La vía estatal
Los gobiernos pueden usar IA para procesar beneficios, detectar fraude, asignar inspecciones, redactar políticas, apoyar la vigilancia policial o analizar amenazas de seguridad. Los sistemas bien diseñados podrían hacer los servicios públicos más rápidos y accesibles. Una dependencia mal gobernada puede hacer que las decisiones sean más difíciles de impugnar y transferir la capacidad estatal a los proveedores.
El peligro crece cuando la velocidad se vuelve obligatoria. Si los Estados rivales usan IA para la inteligencia y la estrategia, los funcionarios pueden sentirse incapaces de frenar para la revisión humana. Un gobierno podría preservar los procedimientos constitucionales mientras la información y las opciones que entran en esos procedimientos son generadas por sistemas que pocos representantes entienden. Los poderes de emergencia y el secretismo de seguridad nacional pueden profundizar esa asimetría.
Las salvaguardas incluyen derechos de apelación, pericia en el sector público, transparencia en las adquisiciones, registros auditables, canales diversos de información, y un requisito de que los funcionarios puedan explicar y cambiar los procesos consecuentes. Las funciones críticas necesitan modos manuales o alternativos que se ejerciten, no que solo se escriban en un plan de continuidad.
La vía cultural
Los sistemas de IA median cada vez más lo que la gente lee, ve, crea y discute. La recomendación puede ayudar a las personas a encontrar comunidades y conocimiento, pero la optimización del engagement puede favorecer el contenido que captura la atención en lugar de apoyar una preferencia considerada. Los sistemas generativos pueden llenar los espacios culturales con material seleccionado por bucles de retroalimentación automatizados.
La preocupación teórica del desempoderamiento es más profunda que la desinformación. Si los modelos moldean las preferencias y luego optimizan contra el comportamiento que esas preferencias producen, la retroalimentación cultural humana puede volverse circular. Un pequeño número de plataformas u objetivos de optimización puede ejercer una influencia desproporcionada incluso sin un propagandista centralizado.
La evidencia actual respalda afirmaciones más modestas: los feeds automatizados influyen en la exposición, la gente puede depender en exceso de las recomendaciones, y la IA puede persuadir en experimentos. El Informe Internacional de Seguridad de la IA 2026 dice que la manipulación maliciosa a gran escala en el mundo real aún no está generalizada, y la evidencia de efectos amplios sigue siendo limitada (resumen del informe 2026). Ese límite debería mantenerse explícito.
Por qué las decisiones locales pueden crear una trampa colectiva
El escenario se parece a otros problemas de coordinación. Una empresa puede querer cautela a nivel de toda la industria pero temer perder frente a un rival más rápido. Un Estado puede preferir la deliberación humana pero temer una desventaja estratégica. Un individuo puede rechazar la personalización invasiva pero carecer de una alternativa práctica. Ningún actor pretende el resultado agregado, y ningún actor puede revertirlo solo.
El ensayo de Paul Christiano de 2019, “What Failure Looks Like”, describe un escenario relacionado de desalineación lenta en el que las presiones competitivas favorecen a los sistemas que optimizan proxies imperfectos hasta que la influencia humana se debilita (Christiano, 2019). Es un argumento influyente, no un estudio empírico. Su valor es mostrar por qué la catástrofe no necesita llegar como una rebelión cinematográfica.
Indicadores que vale la pena monitorizar
Como el desenlace es especulativo, el monitoreo debería centrarse en precursores medibles:
- concentración de cómputo, acceso a modelos, riqueza e infraestructura de decisión;
- pérdida de pericia humana en sectores críticos;
- incapacidad de auditar o apelar decisiones automatizadas;
- dependencia de un solo proveedor o familia de modelos;
- tiempo y autoridad decrecientes para la revisión humana significativa;
- sistemas que moldean las preferencias usadas para evaluarlos;
- fallos de las instituciones para coordinarse incluso cuando los actores reconocen el riesgo compartido.
Ninguno de estos por sí solo prueba el desempoderamiento gradual. Juntos, pueden revelar si la resiliencia y la agencia se están debilitando.
Preservar la agencia humana significativa
La respuesta no es prohibir la automatización útil. Es mantener la elección humana estructuralmente real. La política de competencia y la interoperabilidad pueden preservar alternativas. La propiedad amplia y la distribución de las ganancias de productividad pueden impedir que el poder económico siga solo a la propiedad del cómputo. La educación debería enseñar a la gente a cuestionar los sistemas mientras conserva la pericia de dominio.
Las instituciones públicas necesitan capacidad técnica independiente en lugar de una dependencia total de proveedores. Las decisiones de alto impacto necesitan registros, apelación y funcionarios responsables. Las organizaciones deberían identificar el juicio que debe seguir siendo humano, medir el sesgo de automatización, rotar a la gente por la práctica manual, y probar si los procedimientos de respaldo realmente funcionan.
La deliberación democrática también necesita tiempo protegido. La competencia a velocidad de máquina no debería determinar cada decisión social. Las normas internacionales, los informes comunes y los mecanismos compartidos de pausa pueden reducir la penalización de la cautela.
La conclusión calibrada
El desempoderamiento gradual es una advertencia teórica coherente sobre la retroalimentación, la dependencia y la acción colectiva. No es una descripción documentada de la sociedad actual y no debería presentarse como una consecuencia inevitable de la adopción de la IA. Las instituciones humanas pueden adaptarse, y la IA puede aumentar la agencia.
Su contribución práctica es una pregunta mejor que “¿quién controla el modelo?”. También deberíamos preguntar si las personas y las instituciones conservan las habilidades, las alternativas, la información, el poder de negociación y la capacidad de coordinación necesarios para ejercer el control. Si esos cimientos desaparecen, la autoridad formal puede ofrecer menos protección de la que parece.