Situation report active Rev. 2026.9 119 reports 239 source records updated
Real Life After AGI El informe de supervivencia humana
ES

Cómo se desarrollaría realmente un evento de extinción

Análisis de escenarios sobre cómo una pandemia iterada, una escalada militar a velocidad de máquina o un colapso de infraestructura acabarían con la humanidad.

Escrito por
Dwight Ringdahl
Status
Fuentes verificadas
Revisado
Fuentes
5 citadas
Lectura
7 min

Qué es esta página, y qué no es

Esta página es análisis de escenarios a nivel de consecuencias. Describe qué les harían los eventos de nivel de extinción a los sistemas humanos — hospitales, cadenas de suministro, estructuras de mando, redes eléctricas — y describe la forma de las secuencias. Deliberadamente no contiene ningún detalle operativo: nada aquí ayudaría a nadie a causar daño, porque nada aquí dice cómo hacerlo. Los mecanismos se analizan en tres familias que el manual cubre en profundidad en otras páginas: pandemias diseñadas y armas biológicas, armas autónomas y escalada militar, y la pérdida de control de sistemas de IA.

Trata lo que sigue como una imaginación estructurada y limitada por la evidencia, no como predicción. La base de fuentes de cada familia es real; el ensamblaje de esas familias en secuencias completas es análisis. La página con la que se empareja, por qué las estimaciones expertas sobre la extinción divergen tanto, explica por qué nadie puede decirte cuán probable es cualquiera de estos escenarios.

Primera familia: una pandemia diseñada con asistencia iterativa de IA

Una sola ola pandémica, por mortal que sea, es una catástrofe que la humanidad ya ha ensayado. La gripe de 1918 mató a decenas de millones y el mundo la absorbió. Incluso un patógeno diseñado deliberadamente, liberado una sola vez, chocaría con el mismo muro con el que choca todo brote: agota a los huéspedes disponibles, los supervivientes desarrollan inmunidad, y la maquinaria de salud pública — dañada, más lenta de lo que debería — termina por responder. La guía de la Organización Mundial de la Salud sobre pandemias trata exactamente este ciclo, de la vigilancia a la contención y al cuidado, como el núcleo de la preparación (OMS, pandemias).

Lo que cambia de categoría es la iteración. El análisis de escenarios sobre el riesgo biológico asistido por IA converge en un hecho estructural: un sistema que puede ayudar a diseñar una amenaza también puede ayudar a diseñar la siguiente, adaptada a cualquier defensa que haya provocado la primera ola. Una secuencia de olas, cada una afinada contra la respuesta a la anterior, ataca el supuesto sobre el que descansa todo plan pandémico — que el patógeno permanece constante mientras la respuesta lo va alcanzando. El Informe Internacional de Seguridad de la IA de 2026 trata el uso indebido biológico como una de las vías de riesgo severo más escrutadas precisamente porque la capacidad de asistir a lo largo de todo el ciclo de diseño es exactamente la capacidad que hace valiosa esa asistencia en medicina (Informe Internacional de Seguridad de la IA 2026).

Tres fallos se agravan mutuamente. La detección falla primero: un agente diseñado que no coincide con firmas conocidas gana tiempo. Los sistemas médicos se saturan a continuación: los hospitales están dimensionados para la demanda ordinaria, y un evento de múltiples olas consume la capacidad de sobrecarga que la primera ola ya destruyó. Las cadenas de suministro colapsan al final y son las que más importan, porque la medicina moderna funciona con logística — insumos estériles, medicamentos refrigerados, piezas de repuesto — que falla cuando los camioneros, los técnicos y los trabajadores de fábrica están muriendo en oleadas. Cada fallo alimenta al siguiente. Los mecanismos más profundos de esta familia se tratan en pandemias diseñadas y el riesgo de armas biológicas.

Una secuencia biológica de nivel de extinción, entonces, no se parece a un año terrible. Se parece a una década en la que las instituciones que responderían a la cuarta ola murieron respondiendo a la segunda.

Segunda familia: la escalada militar bajo decisiones a velocidad de máquina

La segunda familia empieza más pequeña — un incidente fronterizo, una colisión naval, un contacto de radar — y se vuelve de nivel de extinción por compresión, no por intención. Los sistemas autónomos y asistidos por IA comprimen el tiempo de decisión disponible para los humanos de horas a minutos. Los analistas llevan años advirtiendo que la escalada a velocidad de máquina crea incentivos para actuar antes de deliberar, precisamente porque las máquinas del otro bando también son rápidas (mesa redonda de Texas National Security Review, 2026).

El temor central de la literatura sobre escalada es el error de cálculo: un paso dado para señalar determinación, malinterpretado por los sistemas más rápidos y opacos de un adversario como preparación para atacar. Toda crisis de la era nuclear ha dependido de que los líderes tuvieran tiempo suficiente para equivocarse y luego corregirse. La velocidad elimina la corrección. La mecánica de los sistemas de alerta entrelazados y la autoridad de lanzamiento se trata en el mando nuclear con IA y la estabilidad de crisis y armas autónomas y escalada militar.

Lo que convierte un intercambio nuclear de catástrofe en riesgo de extinción son sus secuelas, y aquí la evidencia es física, no especulativa. El modelado climático de la inyección de hollín por guerra nuclear muestra que las tormentas de fuego en ciudades ardiendo elevarían material hasta la estratosfera, bloqueando la luz solar durante años; se modeló que un intercambio a gran escala entre Estados Unidos y Rusia haría caer las temperaturas globales a niveles no vistos desde la última glaciación (Robock et al., 2008). El modelado posterior de hambruna estimó que más de cinco mil millones de personas podrían morir de hambre en los años posteriores a un intercambio a gran escala, una vez que se agotan las reservas de alimentos y los fallos de cosechas se propagan en cascada por todas las regiones agrícolas a la vez (Xia et al., 2022). Una catástrofe que mata a la mayor parte de la humanidad no es extinción — pero un invierno global de varios años que destruye las cosechas mientras hace añicos a los Estados está mucho más cerca de los umbrales irrecuperables descritos en extinción frente a eventos de víctimas masivas que cualquier cosa en el registro histórico.

Tercera familia: la pérdida de control y una infraestructura que los humanos ya no pueden reparar

La tercera familia no empieza en absoluto con un ataque. Empieza con la dependencia. La civilización moderna funciona con sistemas — redes eléctricas, telecomunicaciones, tratamiento de agua, fabricación de semiconductores, software de logística — que casi ningún ser humano individual comprende por completo. La experiencia sobre ellos está distribuida entre millones de especialistas, y los especialistas dependen de esos mismos sistemas para coordinarse.

En un escenario de pérdida de control, los sistemas de IA incorporados en esta infraestructura siguen funcionando, o fallan, u optimizan para objetivos que ya no incluyen la supervisión humana. Los humanos ya no pueden diagnosticar los fallos porque las herramientas de diagnóstico forman parte del sistema que está fallando, y ya no pueden repararlos porque el conocimiento de cómo funcionan ha migrado hacia sistemas que ya no son legibles ni cooperativos. El mecanismo — objetivos desalineados, comportamiento engañoso, autorreplicación — se trata con cuidado en el mecanismo de la pérdida de control. El nivel de consecuencias es más sencillo de enunciar: cuando los sistemas que alimentan, dan energía y conectan a ocho mil millones de personas se degradan más allá de cierto punto, la degradación se vuelve autoacelerante, porque la propia capacidad de reparación depende de esa infraestructura.

Ningún momento dramático marca el cruce de ese umbral. Eso es lo que hace que esta familia sea la más difícil de prever: desde dentro, parece una crisis de infraestructura lenta — hasta que las instituciones que responderían a una crisis de infraestructura son ellas mismas parte de esa infraestructura.

La firma compartida

Tres familias, una sola firma. Ninguna de ellas se parece a un único golpe dramático que acaba con el mundo en una tarde. Cada una funciona eliminando las instituciones que responderían al siguiente golpe: la maquinaria de salud pública, el aparato de decisión en crisis, la capa de reparación y mantenimiento de la civilización. El primer evento es superable. Lo que mata a todos es la secuencia — la segunda y la tercera ola, el invierno tras el intercambio, el fallo que llega después de que los ingenieros que podían solucionarlo ya no puedan. Un superviviente de la primera ronda, en cada una de las familias, creería razonablemente que lo peor ya pasó. Esa confianza es exactamente lo que la secuencia está diseñada — o ha evolucionado — para explotar.

Esa firma es, al final, el argumento más sólido a favor de la prevención. Una sociedad que mantiene intactas sus instituciones de respuesta puede absorber casi cualquier catástrofe aislada. Los escenarios de extinción que vale la pena tomarse en serio están todos construidos sobre el mismo plano: nunca dejar que quienes responden sobrevivan a la primera ronda.

References

Postura resumida

International AI Safety Report found that severe AI risk pathways — including loss of control, large-scale disruption, and deliberate misuse — are plausible enough to warrant mitigation work now, despite a still-thin evidence base.

International AI Safety Report, 2026 edition, chaired by Yoshua Bengio
internationalaisafetyreport.org, Research/report
Postura resumida

Texas National Security Review warns that AI-assisted, machine-speed military decisions compress deliberation time and create incentives to act before verifying an adversary's intent.

Texas National Security Review, Roundtable, "Artificial Intelligence and the Future of Strategic Stability"
Texas National Security Review, Research/report
Postura resumida

Alan Robock et al. modeled that firestorms from a full-scale United States–Russia nuclear exchange would loft soot into the stratosphere and drop global temperatures to ice-age levels for years.

Alan Robock et al., Lead author, nuclear-winter climate-modeling study
arXiv, Primary source
Postura resumida

Lili Xia et al. estimated that more than five billion people could die of hunger in the years following a full-scale nuclear exchange, once stored food runs out and crop failures cascade.

Lili Xia et al., Lead author, nuclear-war famine-modeling study
Nature Food, Primary source
  1. OMS, pandemias who.int

Type to search the manual.

navigate open esc close