Что это за страница, и чем она не является
Эта страница отстаивает категориальное различие, а не прогноз. Она не предсказывает, что вымирание человечества произойдёт, и не претендует на знание того, насколько это вероятно. Она отстаивает нечто более узкое и, для целей планирования, более важное: если вымирание произойдёт, это не будет очень крупной версией катастрофы, которую мы уже переживали. Это будет событие иного рода, с иной логикой, требующее иного ответа. Всё, что касается того, насколько плох исход в виде вымирания, и всё, что касается возможных действий в связи с этим, следует из этого различия.
Фактические утверждения здесь — что говорят опросы, каковы пороги, какие институты существуют — наблюдаемы. Сценарии в этой главе помечены как анализ. Само же различие вовсе не является умозрительным.
Проблема определения: 99% смертности — это не вымирание
Представьте катастрофу, убивающую 99% населения Земли. Насколько это ужасно, почти невозможно преувеличить: восемь миллиардов погибших, каждая семья разрушена, каждая экономика уничтожена. И всё же выжившие остаются. Событие с 99% смертностью оставляет примерно восемьдесят миллионов человек — больше, чем население любой крупной нации сегодня. Эти выжившие способны сделать три вещи, недоступные мёртвым.
Они способны восстановиться. Восемьдесят миллионов человек, рассеянных по планете, несут достаточно навыков, техники, семенного фонда и письменного знания, чтобы восстановить сельское хозяйство, энергосети и правительства. Человечество уже восстанавливалось после крахов: общества бронзового века пали, чума унесла треть Европы, и восстановление — медленное, безобразное, неполное — всё равно наступало.
Они способны учиться. Каждая катастрофа, оставляющая выживших, оставляет и свидетельство. Следующее поколение наследует и физические руины, и рассказ о том, что произошло, — именно поэтому дамбы от ураганов отстраивают более прочными, а лаборатории с оспой оснащают замками на дверях. Болезненное знание всё равно остаётся знанием.
Они способны воссоединиться. Раздробленное человеческое население может воссоединиться, вступать в смешанные браки, торговать и вновь разделять единый генофонд.
Вымирание закрывает все три двери. Нет восстановления, потому что некому восстанавливать. Нет обучения, потому что некому учиться. Именно поэтому подписанты заявления 2023 года о риске ИИ — сотни исследователей и руководителей, включая генеральных директоров крупнейших передовых лабораторий, — выбрали это слово намеренно: «Снижение риска вымирания от ИИ должно быть глобальным приоритетом наравне с другими рисками общественного масштаба, такими как пандемии и ядерная война» (заявление Center for AI Safety). Они не говорили, что ИИ так же вероятно убьёт вас, как пандемия. Они говорили, что обсуждаемое конечное состояние — не более крупная пандемия.
Пороги, отделяющие переживаемое от невосстановимого
Одни катастрофы самоограничены, другие нет, и разница проходит через небольшое число систем. Анализ того, где именно проходит эта грань, по-настоящему неопределёнен, но кандидаты в пороги вполне конкретны:
- Целостность продовольственной цепочки. Если системы, производящие и распределяющие калории, глобально откажут на достаточно долгий срок, выжившие будут голодать на второй год вместо того, чтобы восстанавливаться на второй год. Разница между тяжёлым голодом и вымиранием человечества в том, способен ли кто-либо где-либо по-прежнему сеять, собирать урожай и хранить его.
- Государственная дееспособность. Сложные общества координируются через государства. Если каждое государство утратит способность поддерживать порядок, содержать инфраструктуру и управлять общими ресурсами, восстановление станет открытым вопросом, а не медленной неизбежностью.
- Минимально жизнеспособная популяция. Ниже некоторого числа неродственных выживших вид сталкивается с депрессией инбридинга и утратой специализированного знания, необходимого для поддержания технологической цивилизации. Никто не знает точное число для человека с уверенностью; оценки в биологии сохранения варьируются от сотен до многих тысяч только для чисто генетической жизнеспособности, а технологическая жизнеспособность, вероятно, требует значительно большего.
- Необратимый экологический ущерб. Некоторые виды вреда накапливаются после исходного события — неконтролируемое климатическое нарушение, рухнувшие океанические пищевые сети. Если окружающая среда перестанет поддерживать сельское хозяйство на века, время на восстановление истечёт.
Ни один из этих порогов не виден изнутри катастрофы. Общество, потерявшее 95% своих людей, может считать, что восстанавливается, вплоть до момента, когда продовольственная система, государство и генофонд одновременно и незаметно рушатся все разом.
Почему асимметрия восстановления меняет планирование
Каждая переживаемая катастрофа — это репетиция. Общества, пережившие пандемию, улучшают своё эпидемиологическое наблюдение. Затопленные города улучшают свои дамбы. У цивилизации есть трещотка на всё, кроме события, которое её заканчивает: она превращает страдание в институты.
Это создаёт глубокую асимметрию, которую специалисты по планированию называют асимметрией восстановления, и она важнее любой оценки вероятности вымирания. Ниже линии вымирания время на стороне человечества. Каждый год, проходящий с выжившими, — это год восстановления. Выше этой линии время ничего не значит. Одно и то же событие, обрушившееся дважды на выживший мир, производит два восстановления. Обрушившись однажды за порогом, оно производит ископаемую летопись.
Крупнейший релевантный опрос исследователей ИИ обнаружил эту логику отражённой в собственных словах экспертов. При широком вопросе о вымирании или сходной по необратимости, тяжести утрате власти медианный респондент назвал примерно 5% — но когда вопрос уточнял вымирание, вызванное неспособностью человечества контролировать продвинутый ИИ, медиана поднялась примерно до 10% (Grace et al., 2024; полную разбивку см. в статье «Почему экспертные оценки вымирания расходятся»). Обе формулировки описывали будущее как широко открытое в обоих направлениях. Эта открытость режет в обе стороны. Именно потому, что исход можно предотвратить, стоит потрудиться и рассматривать вымирание как отдельную категорию — а не как дальний конец шкалы числа жертв.
Неудобное следствие
Вот часть, которую большая часть мышления о готовности избегает произносить вслух: предотвращение — единственное вмешательство, применимое выше этой линии. Запасы, бункеры, резервные средства связи, общинные сети — каждый инструмент в наборе выживальщика предполагает выживших. Это отличные инструменты для катастроф ниже линии, и это руководство подробно их рассматривает. Они ничего не дают сценарию, в котором на вопрос «кто готовится?» ответом служит «никто».
Это не фатализм. Это триаж. Международный орган, отвечающий за обобщение доказательств безопасности ИИ, заключил в своём последнем отчёте, что правдоподобные тяжёлые пути — потеря контроля, масштабный срыв, намеренное злоупотребление — достаточно реальны, чтобы оправдать работу по снижению риска уже сейчас, отмечая при этом, насколько тонка пока доказательная база (Международный отчёт о безопасности ИИ за 2026 год). Работа по предотвращению — оценки возможностей, сдерживание, управление вычислительными мощностями, разработка договоров — единственная категория работы, вообще затрагивающая наихудший случай.
Как удерживать обе истины одновременно
Читателю не нужно выбирать между «готовиться к краху» и «работать над предотвращением». Рациональная позиция последовательна. Ниже линии готовность и работа над непрерывностью — одни из самых ценных действий, какие могут предпринять семья или сообщество: см. «Сценарии цивилизационного краха» о том, как выглядит частичный крах, «Как на самом деле развернулось бы событие вымирания» для пошагового анализа наихудшего случая и «Преемственность ценностей как цель» о том, что стоит проносить через любой из исходов. Выше линии в счёт идёт только предотвращение, и притворяться иначе — не благоразумие, а категориальная ошибка, наряженная в план.
Вымирание — это не более крупная катастрофа. Это единственная катастрофа, которую нельзя пережить, из которой нельзя извлечь урок и после которой нельзя восстановиться. Планируйте под обе области карты и не путайте инструменты.