08 Будущее
Будущее — это проблема распределения, а не только возможностей
AGI не появится вместе с готовым общественным договором. То, что последует за ним, будет зависеть от того, кто владеет производительными системами, какие институты сохраняют полномочия, как распределяются выгоды и сохраняют ли люди значимую свободу выбора.
Сценарии, а не пророчества
Ни один набор данных не описывает жизнь после AGI, и ни одна согласованная оценка не устанавливает, что такой переход уже произошёл. Поэтому эта глава работает иначе, чем отчёт о нынешних рынках труда или текущем мошенничестве. Она отталкивается от доказательств об институтах, распространении технологий и прошлых экономических переходах, затем делает свои допущения явными и прослеживает более одного правдоподобного пути. Быстрый переход к новым возможностям при концентрированной собственности порождает иные решения, чем более медленный переход с широким доступом, даже если в обоих случаях в итоге используются системы, которые кто-то называет AGI.
Каждая статья, обращённая к будущему, отделяет текущий факт от смоделированного сценария и от редакционной рекомендации. Уверенность должна снижаться по мере роста цепочки допущений. Цель — сделать решения устойчивыми при разных вариантах будущего, а не представить непознаваемое будущее как нечто решённое.
Вопросы, на которые одни лишь возможности не дают ответа
- Собственность: кто получает доход от систем, способных выполнять всё большую долю ценной работы?
- Власть: способны ли демократические институты осуществлять надзор за организациями, чей технический и экономический потенциал превосходит потенциал многих государств?
- Субъектность: какие решения должны оставаться по-настоящему человеческими, даже если делегирование дешевле или точнее?
- Доступ: достигают ли достижения в здравоохранении, образовании и науке всех, или в первую очередь тех, кто уже может себе их позволить?
- Смысл: как люди выстраивают статус, предназначение и сообщество, если оплачиваемая занятость становится менее центральной частью жизни?
Что здесь означает выживание
Выживание — это больше, чем избежание вымирания. Общество может оставаться живым, теряя при этом самоуправление, экономическую независимость, приватность, компетентность или причины, по которым людям стоит верить, что у них есть доля в будущем. Поэтому редакционный стандарт, используемый в этой главе, нормативен и требователен: люди сохраняют практическую способность принимать значимые решения, оспаривать действия институтов, участвовать в распределении материальных выгод, заботиться друг о друге и пересматривать системы, от которых зависят.