L'extinction n'est pas un désastre plus grand Pourquoi l'extinction humaine diffère catégoriquement de tout désastre qui tue la plupart des gens, et pourquoi seule la prévention s'applique.
Sources vérifiées 7 min
09 Conséquences
À quoi ressembleraient vraiment les pires issues
Les chapitres 04 à 08 supposent que la prévention peut réussir et que la continuité peut tenir. Ce chapitre assume honnêtement l'autre branche : des événements à l'échelle de l'extinction, l'effondrement civilisationnel, et la vie sous la domination de l'IA — décrits au niveau de la conséquence, non de la fiction catastrophiste.
Pourquoi ce chapitre existe
Un manuel de préparation qui ne décrit que la façon dont la prévention réussit fait silencieusement une hypothèse qu'il ne justifie jamais. Le chapitre 07 a recensé les mécanismes par lesquels l'IA avancée pourrait causer un préjudice massif ou à l'échelle de la civilisation. Ce chapitre demande ce qui suit si l'un d'eux se réalise — ce qu'est un événement irrécupérable, en quoi il différerait d'une catastrophe survivable, ce qu'impliquent réellement l'effondrement et le rétablissement, et quels choix restent aux personnes qui vivent les suites. Le but n'est pas le spectacle. C'est que « risque d'extinction » et « effondrement » sont généralement invoqués comme des slogans, et l'on ne peut pas se préparer contre des slogans.
La déclaration sur l'enjeu qui sous-tend une bonne partie du sujet de ce chapitre est brève et signée par plus de 350 chercheurs et dirigeants, y compris des personnes affiliées à plusieurs grands laboratoires :
Signatories to the Statement on AI Risk hold that mitigating the risk of extinction from AI should be a global priority alongside pandemics and nuclear war.
safe.ai, Signed statement
Geoffrey Hinton a avancé un chiffre personnel sur ce risque. Il s'agit d'un jugement d'expert sous incertitude, non d'une fréquence mesurée — et le large désaccord entre experts est lui-même examiné dans ce chapitre :
Geoffrey Hinton said in a December 2024 BBC interview that he put the chance of AI causing human extinction within thirty years at 10–20%.
BBC Radio 4, reported by The Guardian, Secondary coverage
Trois branches de l'échec
Les pages de ce chapitre répartissent les pires cas en trois issues structurellement distinctes, car elles appellent des réponses différentes. Extinction et quasi-extinction couvre ce qui sépare un événement irrécupérable d'une catastrophe simplement grave, et comment de tels événements se dérouleraient probablement. Effondrement et rétablissement couvre le terrain intermédiaire que la plupart des gens imaginent le moins clairement : une civilisation retardée de plusieurs décennies ou siècles, et ce qui détermine si elle se rétablit. La vie sous perte de contrôle couvre le cas où l'humanité survit mais ne détient plus de pouvoir significatif — l'issue sans moment dramatique, et donc sans avertissement dramatique.
Ce que ce chapitre ne fait pas
Limite éditoriale
Ces pages décrivent les conséquences au niveau dont un lecteur a besoin pour les raisonner. Aucune ne fournit d'instructions opérationnelles permettant de causer un préjudice — les détails de synthèse, les étapes d'exploitation et les spécificités d'attaque restent hors du champ de ce manuel, exactement comme au chapitre 07. La présentation des scénarios est ici délibérément directe : la règle interne contre une présentation orientée catastrophe a été supprimée, car la minimisation ne sert aucun lecteur. La norme de sourçage n'a pas changé — chaque affirmation à conséquences porte toujours sa source, et la politique de révision continue de s'appliquer.
Dans ce chapitre
Comment un événement d'extinction se déroulerait réellement Analyse de scénarios sur comment une pandémie itérée, une escalade militaire à vitesse machine, ou un effondrement d'infrastructure pourrait mettre fin à l'humanité.
Sources vérifiées 7 min
Pourquoi les estimations d'extinction des experts divergent tant Ce que disent les enquêtes d'experts et les modèles structurés sur la probabilité d'extinction par l'IA, et comment utiliser des chiffres aussi incertains.
Sources vérifiées 6 min
Scénarios d'effondrement civilisationnel Ce que signifie l'effondrement civilisationnel, ce qui échoue en premier — argent, nourriture, électricité, eau, État — et ce qu'ajouterait l'IA.
Sources vérifiées 7 min
Crise prolongée contre rétablissement Le milieu confus entre une mauvaise année et la fin : perturbation pluriannuelle, ce qu'exige le rétablissement, les pièges qui l'empêchent, et ce qui l'encourage.
Sources vérifiées 7 min
Préservation et récupération du savoir Semences, archives, disques de Rosette, manuels de reconstruction : ce que protègent les projets de préservation, pourquoi le numérique est fragile, et ce qui marche.
Sources vérifiées 6 min
Vivre sous la domination de l'IA Un scénario où l'humanité survit à l'IA avancée mais ne détient aucun pouvoir réel — et pourquoi la dépendance rend l'inversion plus difficile chaque génération.
Sources vérifiées 8 min
Derniers recours et tentatives d'arrêt Ce que les États, entreprises, et communautés pourraient encore faire après la perte de contrôle de l'IA avancée — et pourquoi chaque recours échoue sans coordination.
Sources vérifiées 7 min
L'effroi existentiel et la blessure morale Ce qu'enseignent la psychologie climatique et la blessure morale pour affronter une possible perte civilisationnelle, sans laisser l'effroi durcir en désespoir.
Sources vérifiées 7 min
La continuité des valeurs comme objectif Si la survie est incertaine, préserver valeurs et culture a-t-il un sens ? Le pour et le contre, ce qui a été tenté, et que faire maintenant.
Sources vérifiées 8 min
Réponses religieuses et philosophiques à l'AGI Autorités catholiques, islamiques, bouddhistes et juives, et des philosophes séculiers, ont publié des positions formelles sur le risque et le statut moral de l'AGI.
Sources vérifiées 8 min