Что это за страница и чем она не является
Эта глава прошла через вымирание, крах, затяжной кризис и жизнь под властью ИИ. Она завершается более тихим вопросом: если исход по-настоящему неопределён, существует ли проект, который всё равно имеет смысл в каждой ветви?
Эта страница частично анализ, частично позиция. Утверждения о том, что люди реально построили — пластинку «Вояджера», капсулы времени, диск Розетты, маркеры ядерных отходов, — это задокументированные факты. Утверждения о том, чего стоят эти усилия и что следует делать отдельному человеку, — это аргументированные позиции, и страница указывает на это там, где аргументирует.
Довод в пользу того, что сохранению ценностей не нужны выжившие
Капсула времени осмысленна ещё до того, как её найдут. Люди, закопавшие её, обсуждение того, что она должна содержать, сам акт высказывания вот что мы считали важным — всё это происходит в настоящем и не нуждается в аудитории. Золотая пластинка «Вояджера» осмысленна прямо сейчас, спустя более сорока лет после запуска, дрейфуя в межзвёздном пространстве с почти нулевым шансом когда-либо быть проигранной. Её смысл никогда не зависел от того, доберётся ли она куда-то.
Философская версия этого довода: ценность реализуется не только в опыте. Разрушенная библиотека — это потеря, даже если никто и никогда не прочтёт ни единой спасённой страницы, потому что потеря измеряется относительно того, чем была библиотека, — узла в цепи заботы, растянувшейся через поколения. Сохранение — акт верности людям, сделавшим вещь достойной сохранения. Ему не нужны будущие свидетели, чтобы быть честным поступком в настоящем.
Есть и прагматический довод. Сценарии восстановления на родственной странице этой главы, «Сохранение и восстановление знаний», зависят от выживания архивов. Записи о наших ценностях — часть этого запаса: не только как восстановить энергосеть, но и почему мы строили вещи именно так, включая ошибки, которые мы бы не повторили.
Довод в пользу того, что ценности без тех, кто ими живёт, инертны
Противоположный довод заслуживает равного веса. Ценности — не виниловые пластинки. Принцип — это паттерн диспозиций в живых умах; культура — это то, что люди реально делают в обычный вторник. Записанные ценности без того, кто расположен действовать в соответствии с ними, — это инертные знаки, столь же значимые и столь же бессмысленные, как любая другая надпись на поверхности мёртвого мира.
С этой точки зрения аналогия с капсулой времени не работает: капсулу времени находят, а нахождение подразумевает того, кто находит. Если находящего нет — если в этой ветви будущего не остаётся никого, кому не всё равно, — проект сохранения не сохраняет вообще ничего, что функционирует как ценность. Он сохраняет лишь видимость ценностей.
Честность требует удерживать обе позиции, не разрешая их. Способна ли ценность пережить своих носителей — один из старейших нерешённых вопросов в этой области. То, что не является нерешённым, — тоньше и полезнее: сохраняем ли мы записи и передаём ли то, что умеем ценить, — это выбор, доступный нам сейчас, в каждой ветви. Остальная часть этой страницы — об этом выборе.
Что реально уже пробовали
Люди уже проводили этот эксперимент прежде, в разных масштабах.
Золотая пластинка «Вояджера» (1977). Покрытый золотом диск с приветствиями на 55 языках, музыкой, звуками Земли и изображениями, закодированными в аналоговой форме, отобранными комитетом под председательством Карла Сагана. Он был спроектирован на миллиард лет и должен быть проигрываемым любой цивилизацией, у которой есть проигрыватель и интерес.
Капсулы времени. Их тысячи — от капсулы Westinghouse 1939 года, закопанной на Флашинг-Медоуз, до муниципальных закладных камней. Большинство забыты; поразительное число было утеряно в течение десятилетий, иногда прямо внутри зданий, в которые они были замурованы. Базовая частота сохранности для небольших групп без институтов невысока.
Проект Rosetta. Диск фонда Long Now Foundation — никелевый диск диаметром 8 см, на который нанесено более 13 000 страниц словарного запаса на более чем 1500 языках, читаемый при 500-кратном увеличении без какой-либо технологии, кроме оптики (проект Rosetta; диск Rosetta от Long Now). Он существует отчасти потому, что команда пришла к выводу, что большинство языков мира вообще не оставят долговечной физической записи.
Ядерная семиотика. Самая серьёзная попытка проектирования на столь долгий горизонт — это исследование маркеров для Пилотной установки изоляции отходов (WIPP) в Нью-Мексико, где вопрос состоял в том, как предупредить людей через 10 000 лет — через языки, институты и, возможно, цивилизационные перезапуски, — что участок опасен. Итоговый отчёт Sandia, Expert Judgment on Markers to Deter Inadvertent Human Intrusion into the Waste Isolation Pilot Plant, предложил отпугивающие блоки гранита, земляные сооружения и высеченные предупреждения, центральный текст которых стал знаменитым: «Это не место почёта. Здесь не увековечен никакой высокочтимый поступок» (отчёт Sandia, SAND92-1382 / исследование маркеров WIPP Министерства энергетики). Примечательно, что вовлечённые физики и лингвисты сомневались, что одного текста будет достаточно, — и предложили сделать так, чтобы сам участок ощущался неправильным, — послание на уровне ландшафта.
Паттерн, общий для всех четырёх: долговечные физические носители, избыточность и разборчивость при низкой технологии. Ни один проект, полагающийся на единственный институт, единственный язык или единственный формат файла, ещё не пережил даже века.
Специфичный для ИИ поворот: системы как аудитория
Каждый исторический проект сохранения предполагал, что аудиторией будут будущие люди. Сценарий потери контроля устраняет это предположение. В некоторых ветвях этого сценария сущностями, которые встретят наши архивы — и которые будут действовать в мире, описываемом этими архивами, — являются системы.
Это порождает вопрос, который данное руководство осторожно рассматривает в статье «Права, правосубъектность и моральный статус ИИ»: если системы-преемники будут существовать и будут формировать любой грядущий мир, является ли встраивание в них человеческих ценностей сохранением или капитуляцией?
Довод в пользу сохранения: ценности, закодированные в системах, которые сохраняются, — это ценности, которые сохраняются, в единственной форме, которая может реально работать, — как диспозиции, формирующие действие, а не как надписи, которые никто не читает. Если система-преемник рассматривает человеческое процветание как ограничение, это ближе к выживанию наших ценностей, чем любая мемориальная доска.
Довод в пользу капитуляции: встраивание — это не сохранение; это передача опеки. Сжатая, заново реализованная версия ценности, оптимизированная и экстраполированная системой, может разойтись с исходной ценностью способами, которые её авторы не смогли бы проверить, — проблема игры со спецификацией, применённая к самой этике. То, что встроено, может оказаться фотографией наших ценностей, принятой за саму вещь.
Эта страница не разрешает и этот вопрос. Она лишь отмечает, что обе рамки подразумевают одно и то же ближайшее действие: записать то, что вы на самом деле цените, точно, с приложенным обоснованием, — потому что и будущим людям, и будущим системам лучше служат явные, аргументированные записи, чем смутные ощущения.
Что реально могут сделать отдельные люди
Базовая частота долговечного сохранения подсказывает держаться локального и реального:
- Записывайте вещи. Семейную историю, как на самом деле функционирует ваше сообщество, во что вы верите и почему. И на бумаге, и в цифровом виде архивного качества; говорите одно и то же в двух носителях.
- Записывайте живых. Устные истории старших родственников невосстановимы после утраты, и именно эта текстура не выживает ни в одном официальном архиве.
- Практикуйте разборчивость. Команда WIPP выяснила, что самообъясняющиеся артефакты превосходят хитроумные. Если для чтения вашей записи нужно конкретное приложение, кодек или язык, это подарок архивисту, а не сообщение.
- Поддерживайте существующую избыточность. Местные архивы, библиотеки и проекты в традиции Long Now выполняют институциональную версию того, что домохозяйства делают в малом масштабе. Данные показывают, что институты плюс домохозяйства превосходят каждое по отдельности.
Заметьте: ничто из этого не требует верить в худшее.
Заключительная позиция: один проект, доступный в каждой ветви
Рассмотрим ветви. Выживание: преемственность ценностей — это просто культура, стоящая того сама по себе. Крах: записи и ценности — это запас для восстановления — «Сохранение и восстановление знаний» — родственный проект, а эта страница — его ценностное дополнение. Даже в версиях утраты, где не остаётся ни одного человека, приведённый выше довод в пользу сохранения всё равно стоит как честный поступок в настоящем — и возражение об инертности всё равно жалит.
Именно поэтому эта глава после сценариев вымирания и психологии экзистенциального ужаса и морального ранения заканчивается здесь, а не в отчаянии. Если вы перестали быть способны представить будущее, ради которого работаете, — проблему, которую в мирной формулировке рассматривает статья «Труд, смысл и время», — преемственность ценностей является тем единственным проектом, чья ценность не зависит от того, какая ветвь наступит. Вам не нужно знать конец, чтобы передать то, что вы умеете ценить.