Situation report active Rev. 2026.9 119 reports 239 source records updated
Real Life After AGI Le briefing de survie humaine
FR

L'extinction n'est pas un désastre plus grand

Pourquoi l'extinction humaine diffère catégoriquement de tout désastre qui tue la plupart des gens, et pourquoi seule la prévention s'applique.

Written by
Dwight Ringdahl
Status
Sources vérifiées
Revised
Sources
3 cited
Reading
7 min

Ce qu’est cette page, et ce qu’elle n’est pas

Cette page défend une distinction de catégorie, non une prévision. Elle ne prédit pas que l’extinction humaine se produira, et ne prétend pas savoir à quel point elle est probable. Elle défend quelque chose de plus étroit et, pour des besoins de planification, de plus important : si l’extinction survient, ce ne sera pas une version très large d’un désastre que nous avons déjà survécu. Ce sera un type d’événement différent, avec une logique différente, et cela appelle une réponse différente. Tout ce qui concerne la gravité de l’extinction comme résultat, et tout ce qui concerne ce qui peut y être fait, découle de cette distinction.

Les affirmations factuelles ici — ce que disent les enquêtes, quels sont les seuils, quelles institutions existent — sont observées. Les scénarios de ce chapitre sont étiquetés comme des analyses. La distinction elle-même n’a rien de spéculatif.

Le problème de la définition : une mortalité de 99% n’est pas l’extinction

Imaginez une catastrophe qui tue 99% de la population humaine. Il est presque impossible d’exagérer à quel point ce serait terrible : huit milliards de morts, chaque famille brisée, chaque économie détruite. Et pourtant, des survivants demeurent. Un événement à mortalité de 99% laisse environ quatre-vingts millions de personnes — plus que la population de n’importe quelle grande nation actuelle. Ces survivants peuvent faire trois choses que les morts ne peuvent pas.

Ils peuvent se reconstituer. Quatre-vingts millions de personnes dispersées à travers la planète portent assez de compétence, de machinerie, de réserves de semences, et de savoir écrit pour reconstruire l’agriculture, les réseaux électriques, et les gouvernements. L’humanité s’est déjà reconstruite après des effondrements : des sociétés de l’âge du bronze sont tombées, des pestes ont emporté un tiers de l’Europe, et le rétablissement — lent, laid, incomplet — est quand même venu.

Ils peuvent apprendre. Toute catastrophe qui laisse des survivants laisse un témoignage. La génération suivante hérite à la fois des décombres physiques et du récit de ce qui s’est passé, ce pourquoi les digues contre les ouragans sont reconstruites plus solides et pourquoi les laboratoires de variole ont des verrous sur les portes. Un savoir douloureux reste un savoir.

Ils peuvent se retrouver. Une population humaine fragmentée peut se réunifier, s’entremêler, commercer, et à nouveau partager un patrimoine génétique.

L’extinction ferme ces trois portes. Il n’y a pas de reconstitution car il n’y a personne pour se reconstituer. Il n’y a pas d’apprentissage car il n’y a pas d’apprenant. C’est pourquoi les signataires de la déclaration de 2023 sur le risque de l’IA — des centaines de chercheurs et de dirigeants, dont les directeurs généraux des principaux laboratoires de pointe — ont choisi le mot délibérément : « atténuer le risque d’extinction lié à l’IA devrait être une priorité mondiale aux côtés d’autres risques à l’échelle sociétale comme les pandémies et la guerre nucléaire » (déclaration du Center for AI Safety). Ils ne disaient pas que l’IA était aussi susceptible qu’une pandémie de vous tuer. Ils disaient que l’état final dont il est question n’est pas une pandémie plus grande.

Les seuils qui séparent le surmontable de l’irrécupérable

Certaines catastrophes sont autolimitées et d’autres non, et la différence traverse un petit nombre de systèmes. L’analyse de l’emplacement exact de cette ligne est véritablement incertaine, mais les seuils candidats sont concrets :

  • L’intégrité de la chaîne alimentaire. Si les systèmes qui produisent et distribuent les calories échouent mondialement assez longtemps, les survivants meurent de faim la deuxième année plutôt que de reconstruire la deuxième année. La différence entre une famine sévère et l’extinction humaine est de savoir si quelqu’un, quelque part, peut encore semer, récolter, et stocker.
  • La capacité de l’État. Les sociétés complexes se coordonnent à travers des États. Si chaque État perd la capacité de maintenir l’ordre, d’entretenir l’infrastructure, et de gérer les biens communs, le rétablissement devient une question ouverte plutôt qu’une lente certitude.
  • La population minimale viable. En dessous d’un certain nombre de survivants non apparentés, une espèce fait face à une dépression de consanguinité et à la perte du savoir spécialisé nécessaire pour maintenir en marche une civilisation technologique. Personne ne connaît le chiffre humain avec certitude ; les estimations en biologie de la conservation vont de centaines à plusieurs milliers pour la seule viabilité génétique, et la viabilité technologique exige probablement bien davantage.
  • Le dommage écologique irréversible. Certains préjudices s’aggravent après l’événement initial — une perturbation climatique incontrôlable, des réseaux trophiques océaniques effondrés. Si l’environnement cesse de soutenir l’agriculture pendant des siècles, le compte à rebours du rétablissement s’épuise.

Aucun de ces seuils n’est visible de l’intérieur d’une catastrophe. Une société qui a perdu 95% de sa population peut croire qu’elle se rétablit jusqu’au moment précis où le système alimentaire, l’État, et le patrimoine génétique échouent tous ensemble, en silence.

Pourquoi l’asymétrie du rétablissement change la planification

Toute catastrophe surmontable est une répétition. Les sociétés qui traversent une pandémie améliorent leur surveillance. Les villes qui inondent améliorent leurs digues. La civilisation dispose d’un cliquet pour tout, sauf pour l’événement qui la termine : elle convertit la souffrance en institutions.

Cela crée une asymétrie profonde que les planificateurs appellent l’asymétrie du rétablissement, et elle compte plus que toute estimation de la probabilité de l’extinction. Sous la ligne d’extinction, le temps est du côté de l’humanité. Chaque année qui passe avec des survivants est une année de reconstruction. Au-dessus de la ligne, le temps ne signifie rien. Le même événement, infligé deux fois à un monde survivant, produit deux rétablissements. Infligé une seule fois au-delà du seuil, il produit un registre fossile.

La plus large enquête pertinente auprès de chercheurs en IA a trouvé cette logique reflétée dans les propres mots des experts. Interrogé de façon générale sur l’extinction ou une perte de pouvoir tout aussi permanente et sévère, le répondant médian l’a située à environ 5% — mais quand la question précisait l’extinction causée par l’incapacité de l’humanité à contrôler l’IA avancée, la médiane est montée à environ 10% (Grace et al., 2024 ; voir pourquoi les estimations d’extinction des experts divergent pour la ventilation complète). L’un et l’autre cadrage décrivaient un avenir grand ouvert dans les deux directions. Cette ouverture joue dans les deux sens. C’est précisément parce que le résultat est évitable que traiter l’extinction comme une catégorie à part — plutôt que comme l’extrémité éloignée d’un bilan de morts — en vaut la peine.

L’implication inconfortable

Voici la partie que la plupart des réflexions sur la préparation évitent de dire tout haut : la prévention est la seule intervention qui s’applique au-dessus de la ligne. Les réserves, les bunkers, les communications redondantes, les réseaux communautaires — chaque outil de la boîte à outils du survivaliste suppose des survivants. Ce sont d’excellents outils pour les catastrophes sous la ligne, et ce manuel les couvre en détail. Ils n’apportent rien au scénario où la question « qui se prépare ? » a pour réponse « personne ».

Ce n’est pas du fatalisme. C’est du triage. L’organisme international chargé de synthétiser les preuves sur la sécurité de l’IA a conclu dans son rapport le plus récent que les trajectoires sévères plausibles — perte de contrôle, perturbation à grande échelle, usage abusif délibéré — sont assez réelles pour justifier un travail d’atténuation dès maintenant, tout en notant combien mince reste encore la base de preuves (Rapport international sur la sécurité de l’IA 2026). Le travail de prévention — évaluations, confinement, gouvernance du calcul, conception de traités — est la seule catégorie de travail qui s’attaque au pire cas.

Sous le seuil d'extinction, chaque catastrophe est une répétition. Au-dessus, il n'y a pas de répétitions. Cette asymétrie, et non un quelconque bilan de morts, est ce qui fait de l'extinction la catégorie organisatrice de ce chapitre.

Comment tenir les deux vérités à la fois

Un lecteur n’a pas à choisir entre « se préparer à l’effondrement » et « travailler à la prévention ». La position rationnelle est séquentielle. Sous la ligne, la préparation et le travail de continuité comptent parmi les activités les plus précieuses qu’une famille ou une communauté puisse entreprendre — voir scénarios d’effondrement civilisationnel pour ce à quoi ressemble un effondrement partiel, comment un événement d’extinction se déroulerait réellement pour l’analyse au niveau de la séquence du pire cas, et la continuité des valeurs comme objectif pour ce qui vaut la peine d’être transmis dans l’un ou l’autre dénouement. Au-dessus de la ligne, seule la prévention compte, et prétendre le contraire n’est pas de la prudence — c’est une erreur de catégorie déguisée en plan.

L’extinction n’est pas un désastre plus grand. C’est le seul désastre dont on ne peut ni survivre, ni apprendre, ni se reconstruire après. Planifiez pour les deux régions de la carte, et ne confondez pas les outils.

References

Summarized position

Signatories to the Statement on AI Risk hold that mitigating the risk of extinction from AI should be a global priority alongside pandemics and nuclear war.

Signatories to the Statement on AI Risk, Researchers, executives, and other public figures; statement hosted by the Center for AI Safety
safe.ai, Signed statement
Summarized position

International AI Safety Report found that severe AI risk pathways — including loss of control, large-scale disruption, and deliberate misuse — are plausible enough to warrant mitigation work now, despite a still-thin evidence base.

International AI Safety Report, 2026 edition, chaired by Yoshua Bengio
internationalaisafetyreport.org, Research/report
  1. Grace et al., 2024 arxiv.org

Type to search the manual.

navigate open esc close