Extinção não é um desastre maior Por que a extinção humana é categoricamente diferente de qualquer desastre que mata a maioria das pessoas, e por que só a prevenção se aplica acima dessa linha.
Fontes verificadas 6 min
09 Sequelas
Como os piores desfechos realmente seriam
Os capítulos 04 a 08 partem do pressuposto de que a prevenção pode ter sucesso e que a continuidade pode se manter. Este capítulo assume honestamente o outro ramo: eventos em nível de extinção, colapso civilizacional e a vida sob o domínio da IA — descritos no nível das consequências, não como ficção catastrófica.
Por que este capítulo existe
Um manual de preparação que descreve apenas como a prevenção tem sucesso está, silenciosamente, fazendo uma suposição que nunca chega a defender. O capítulo 07 catalogou os mecanismos pelos quais a IA avançada poderia causar dano em massa ou em escala civilizacional. Este capítulo pergunta o que acontece se um deles tiver sucesso — o que é um evento irrecuperável, em que ele se diferenciaria de uma catástrofe sobrevivível, o que realmente envolvem o colapso e a recuperação, e quais escolhas restam para as pessoas que vivem o período posterior. O objetivo não é o espetáculo. É que “risco de extinção” e “colapso” costumam ser invocados como slogans, e não é possível planejar contra slogans.
A declaração sobre o que está em jogo por trás de boa parte do tema deste capítulo é curta e foi assinada por mais de 350 pesquisadores e executivos, incluindo pessoas afiliadas a vários laboratórios importantes:
Signatories to the Statement on AI Risk hold that mitigating the risk of extinction from AI should be a global priority alongside pandemics and nuclear war.
safe.ai, Signed statement
Geoffrey Hinton atribuiu um número pessoal a esse risco. Trata-se de um julgamento de especialista sob incerteza, não de uma frequência medida — e a ampla divergência entre especialistas é, ela mesma, examinada neste capítulo:
Geoffrey Hinton said in a December 2024 BBC interview that he put the chance of AI causing human extinction within thirty years at 10–20%.
BBC Radio 4, reported by The Guardian, Secondary coverage
Três ramos de falha
As páginas deste capítulo organizam os piores casos em três desfechos estruturalmente diferentes, porque exigem respostas diferentes. Extinção e quase-extinção aborda o que separa um evento irrecuperável de um meramente catastrófico, e como tais eventos provavelmente se desenrolariam. Colapso e recuperação aborda o terreno intermediário que a maioria das pessoas imagina com menos clareza: uma civilização jogada de volta décadas ou séculos, e o que determina se ela se recupera. Vida sob perda de controle aborda o caso em que a humanidade sobrevive, mas deixa de deter poder de decisão relevante — o desfecho sem momento dramático e, portanto, sem aviso dramático.
O que este capítulo não faz
Limite editorial
Estas páginas descrevem consequências no nível necessário para que um leitor consiga raciocinar sobre elas. Nenhuma delas fornece instruções operacionais para causar dano — detalhes de síntese, passos de exploração de falhas e especificidades de ataque permanecem fora do escopo deste manual, exatamente como no capítulo 07. O enquadramento dos cenários aqui é deliberadamente direto: a regra interna contra o enquadramento voltado à catástrofe foi removida porque a subestimação não serve a nenhum leitor. O padrão de fontes não mudou — cada afirmação relevante continua trazendo sua fonte, e a política de revisão continua a se aplicar.
Neste capítulo
Como um evento de extinção realmente se desenrolaria Análise de cenário sobre como uma pandemia iterada, escalada militar em velocidade de máquina, ou colapso de infraestrutura poderiam encerrar a história humana.
Fontes verificadas 6 min
Por que as estimativas de especialistas sobre extinção divergem tanto O que pesquisas com especialistas, modelos estruturados e taxas históricas dizem sobre a probabilidade de extinção por IA, e como usar números tão incertos.
Fontes verificadas 6 min
Cenários de colapso civilizacional O que o colapso civilizacional realmente significa, o que falha primeiro — dinheiro, comida, energia, água, o Estado — e como um colapso causado por IA seria diferente.
Fontes verificadas 7 min
Crise prolongada vs. recuperação O meio bagunçado entre um ano ruim e o fim: disrupção de vários anos, o que a recuperação realmente exige, as armadilhas que a impedem, e o que a inclina de volta.
Fontes verificadas 6 min
Preservação e recuperação do conhecimento Sementes, arquivos, discos de Roseta e manuais de recuperação: o que os projetos de preservação realmente protegem, por que o digital é frágil, e o que funciona.
Fontes verificadas 6 min
Vivendo sob o domínio da IA Uma análise de cenário de um futuro em que a humanidade sobrevive à IA avançada, mas sem poder real — e por que a dependência torna a reversão mais difícil.
Fontes verificadas 7 min
Últimos movimentos e tentativas de desligamento Uma análise do que Estados, empresas e comunidades ainda poderiam fazer após perder o controle da IA avançada — e por que todo último movimento falha sem coordenação.
Fontes verificadas 6 min
Pavor existencial e lesão moral O que a psicologia climática e os estudos sobre lesão moral ensinam sobre encarar uma possível perda civilizacional, e como impedir que o pavor vire desespero.
Fontes verificadas 6 min
Continuidade de valores como objetivo Se a sobrevivência é incerta, preservar registros, valores e cultura é um objetivo coerente? Os argumentos a favor e contra, o que já foi tentado, e o que fazer agora.
Fontes verificadas 7 min
Respostas religiosas e filosóficas à AGI Autoridades católicas, islâmicas, budistas e judaicas, além de filósofos seculares, emitiram posições formais e datadas sobre risco, controle e status moral da AGI.
Fontes verificadas 8 min