La extinción no es un desastre más grande Por qué la extinción humana es un desenlace categóricamente distinto de cualquier desastre masivo, y por qué la prevención es la única intervención posible.
Fuentes verificadas 7 min
09 Secuelas
Cómo serían realmente los peores desenlaces
Los capítulos 04 a 08 asumen que la prevención puede tener éxito y que la continuidad puede sostenerse. Este capítulo asume honestamente la otra rama: sucesos a escala de extinción, colapso civilizatorio y la vida bajo el dominio de la IA — descritos al nivel de la consecuencia, no de la ficción catastrofista.
Por qué existe este capítulo
Un manual de preparación que solo describe cómo tiene éxito la prevención está asumiendo en silencio algo que nunca argumenta. El capítulo 07 catalogó los mecanismos por los que la IA avanzada podría causar daño masivo o a escala civilizatoria. Este capítulo pregunta qué sigue si uno de ellos tiene éxito — qué es un suceso irrecuperable, en qué se diferenciaría de una catástrofe sobrevivible, qué implican realmente el colapso y la recuperación, y qué opciones quedan para las personas que viven las secuelas. El objetivo no es el espectáculo. Es que «riesgo de extinción» y «colapso» suelen invocarse como eslóganes, y los eslóganes no se pueden planificar.
La declaración sobre lo que está en juego, que respalda buena parte del tema de este capítulo, es breve y está firmada por más de 350 investigadores y ejecutivos, incluidas personas afiliadas a varios de los principales laboratorios:
Signatories to the Statement on AI Risk hold that mitigating the risk of extinction from AI should be a global priority alongside pandemics and nuclear war.
safe.ai, Signed statement
Geoffrey Hinton ha puesto una cifra personal al riesgo. Es un juicio experto bajo incertidumbre, no una frecuencia medida — y el amplio desacuerdo entre expertos se examina en sí mismo en este capítulo:
Geoffrey Hinton said in a December 2024 BBC interview that he put the chance of AI causing human extinction within thirty years at 10–20%.
BBC Radio 4, reported by The Guardian, Secondary coverage
Tres ramas del fracaso
Las páginas de este capítulo clasifican los peores casos en tres desenlaces estructuralmente distintos, porque exigen respuestas diferentes. Extinción y casi extinción cubre qué separa un suceso irrecuperable de uno meramente catastrófico, y cómo se desarrollarían esos sucesos de forma plausible. Colapso y recuperación cubre el terreno intermedio que la mayoría de las personas imagina con menos claridad: una civilización retrasada décadas o siglos, y qué determina si se recupera. La vida tras la pérdida de control cubre el caso en que la humanidad sobrevive pero ya no conserva poder significativo — el desenlace sin momento dramático y, por tanto, sin advertencia dramática.
Lo que este capítulo no hace
Límite editorial
Estas páginas describen las consecuencias al nivel que un lector necesita para razonarlas. Ninguna ofrece instrucciones operativas para causar daño — los detalles de síntesis, los pasos de explotación y las especificidades de ataque quedan fuera del alcance de este manual, tal como en el capítulo 07. El enfoque de los escenarios aquí es deliberadamente directo: se eliminó la regla interna contra el enfoque catastrofista porque la minimización no sirve a ningún lector. El estándar de fuentes no ha cambiado — toda afirmación consecuente sigue llevando su fuente, y la política de revisión sigue aplicando.
En este capítulo
Cómo se desarrollaría realmente un evento de extinción Análisis de escenarios sobre cómo una pandemia iterada, una escalada militar a velocidad de máquina o un colapso de infraestructura acabarían con la humanidad.
Fuentes verificadas 7 min
Por qué las estimaciones expertas sobre la extinción divergen tanto Qué dicen las encuestas a expertos, los modelos estructurados y las tasas base sobre la probabilidad de extinción por IA, y cómo usar cifras tan inciertas.
Fuentes verificadas 6 min
Escenarios de colapso civilizacional Qué significa el colapso civilizacional, qué falla primero —dinero, comida, energía, agua, el Estado— y en qué se diferenciaría un colapso causado por la IA.
Fuentes verificadas 7 min
Crisis prolongada frente a recuperación El punto medio entre un año malo y el final: la disrupción de varios años, qué requiere la recuperación, las trampas que la impiden, y qué la inclina de vuelta.
Fuentes verificadas 6 min
Preservación y recuperación del conocimiento Semillas, archivos, discos Rosetta y manuales de recuperación: qué protegen los proyectos de preservación, por qué lo digital es frágil, y qué funciona.
Fuentes verificadas 6 min
Vivir bajo el dominio de la IA Un escenario sobre un futuro en el que la humanidad sobrevive a la IA avanzada pero no conserva poder real, y por qué la dependencia dificulta la reversión.
Fuentes verificadas 8 min
Las últimas jugadas y los intentos de apagado Qué podrían hacer los Estados, las empresas y las comunidades tras perder el control de la IA avanzada, y por qué toda última jugada fracasa sin coordinación.
Fuentes verificadas 7 min
El pavor existencial y la lesión moral Qué enseñan la psicología climática y la lesión moral al enfrentar una posible pérdida civilizacional, y cómo evitar que el pavor se vuelva desesperación.
Fuentes verificadas 7 min
La continuidad de los valores como objetivo Si la supervivencia es incierta, ¿tiene sentido preservar registros, valores y cultura? Argumentos a favor y en contra, qué se ha intentado, y qué hacer ahora.
Fuentes verificadas 8 min
Respuestas religiosas y filosóficas ante la AGI Autoridades católicas, islámicas, budistas y judías, y filósofos seculares, han emitido posturas formales sobre el riesgo y el estatus moral de la AGI.
Fuentes verificadas 9 min