Что это за страница, и чем она не является
Большая часть этого руководства рассматривает AGI как инженерную и политическую проблему. Но для большей части человечества это ещё и теологическая, и философская проблема, и институты, говорящие от имени этих традиций, начали выпускать формальные, датированные позиции вместо расплывчатых комментариев. Эта страница каталогизирует те из них, что обращаются конкретно к AGI или сверхразуму — контролю, моральному статусу, человеческой подотчётности на уровне человеческих возможностей или выше, — а не более широкий, более старый спор о повседневной этике ИИ, рассматриваемый в других местах этого руководства. Ни одна традиция здесь не представлена как правильная. Авторитетные люди, исходящие из очень разных предпосылок, сходятся в одних предостережениях и резко расходятся в других; читателю, взвешивающему любой отдельный голос, стоит увидеть всё поле целиком.
Католическое учение: два документа за шестнадцать месяцев
Католическая церковь выпустила два содержательных документа об ИИ в быстрой последовательности. Первый, Antiqua et Nova: заметка об отношениях между искусственным и человеческим интеллектом, был выпущен совместно Дикастерией доктрины веры и Дикастерией культуры и образования, ратифицирован 14 января 2025 года и одобрен папой Франциском. На протяжении 117 пронумерованных параграфов документ обрамляет ставки ИИ как антропологические, а не технические — живой вопрос в том, что остаётся отличительно человеческим, а не в том, что способна вычислить машина, — и явно предостерегает от того, чтобы ИИ «создавал замену Богу».
Второй документ — первая энциклика папы Льва XIV, Magnifica Humanitas, «О защите человеческой личности во времена искусственного интеллекта», подписанная 15 мая 2026 года — в 135-ю годовщину Rerum Novarum Льва XIII — и опубликованная 25 мая 2026 года. Ватиканские и прессовые сообщения, включая освещение епископов США, описывают её центральное требование как то, что ИИ должен быть «разоружён», его контроль не должен оставаться «в руках немногих», а её опасение — в том, что неконтролируемый ИИ ослабляет человеческие отношения и критическое мышление, одновременно расширяя психологическую дистанцию, стоящую за современными вооружёнными конфликтами. Он предвосхитил связанный аргумент несколькими месяцами ранее в послании по случаю Всемирного дня средств массовой коммуникации о симулированных голосе и присутствии ИИ. Поскольку этот документ настолько свеж, читателям, желающим цитировать его напрямую, следует свериться с полным текстом на vatican.va, а не полагаться на вторичные резюме, включая это.
Оба документа находятся внутри более широкого межконфессионального проекта: Римский призыв к этике ИИ, подписанного в Ватикане 28 февраля 2020 года Папской академией жизни, Microsoft, IBM, Продовольственной и сельскохозяйственной организацией ООН и правительством Италии, обязывающего подписантов строить ИИ вокруг человеческого достоинства, инклюзии, прозрачности, беспристрастности, надёжности и безопасности. В январе 2023 года иудейские и мусульманские представители подписали его наряду с Католической церковью — редкий случай межконфессионального согласия в вопросах управления ИИ.
Исламская юриспруденция: формальное постановление, а не комментарий
Исламская наука об ИИ произвела реальное правовое постановление — документ иного рода, нежели комментарий. Международная исламская академия фикха, орган Организации исламского сотрудничества, приняла Резолюцию № 258 (3/26) «Искусственный интеллект: постановления, руководства и этика» на своей 26-й сессии в Дохе 4–8 мая 2025 года. Она устанавливает, что разработка и использование ИИ по умолчанию допустимы при соблюдении шести требований: законная цель; доказуемая чистая польза; отсутствие оскорбления религиозных убеждений или символов; защита данных и прав; отсутствие угрозы безопасности на любом уровне; честность и прозрачность в использовании. Резолюция также утверждает, что сам ИИ, лишённый независимой воли и морального сознания, не несёт никакой правовой или моральной ответственности по исламскому праву — ответственность полностью лежит на людях, которые его создают, финансируют или эксплуатируют, — при этом отмечая, что вопрос о том, сможет ли ИИ когда-либо обладать правосубъектностью, заслуживает дальнейшего изучения. Статья Института Yaqeen, применяющая маqasid аш-шариа — цели исламского права — к ИИ, продолжает схожие рассуждения, не обладая институциональным весом академии фикха.
Буддийская этика: взаимозависимость как оптика
Буддийская наука об ИИ пока более академична и менее институциональна, но она даёт особый концептуальный инструмент. Глава Ханны Гулд и Кейко Нисимуры «The Buddha in AI/Robotics» в Cambridge Companion to Religion and Artificial Intelligence (Cambridge University Press, 2023) утверждает, что буддийское учение о взаимозависимости, пратитьясамутпада — ничто не существует как самодостаточная сущность, — предлагает такую оптику для этики ИИ, которая недоступна рамкам, построенным на дискретных, ограниченных агентах. Глава также затрагивает вопрос о том, где буддийские традиции проводят границу моральной личности, — вопрос, который относится к AGI точнее, чем к сегодняшним узким системам: если моральный статус следует за качеством опыта ума, а не за его субстратом, статус AGI становится живым вопросом, а не категориальной ошибкой. Рядом с этим формируется более предварительная литература, включая работы, применяющие Четыре благородные истины к алгоритмическому страданию; она новее и менее устоявшаяся, и её атрибуции стоит перепроверять перед цитированием.
Иудейское право: респонсум о машинной субъектности
Наиболее развитое иудейское правовое рассмотрение ИИ предшествует нынешнему спору об AGI, но во многом его предвосхитило. Респонсум раввина Дэниела Невинса «Artificial Intelligence, Moral Machines and Halakhah» был одобрен Комитетом по иудейскому праву и нормам Консервативного движения 19 июня 2019 года — это настоящая тшува, а не колонка мнений. Он применяет галахические понятия субъектности, ответственности и ущерба к принятию решений ИИ, заключая, что человек должен оставаться подотчётным за результаты, особенно в вопросах жизни и смерти, даже там, где ИИ существенно помогал, — предвосхищая на несколько лет формулировку «человек в контуре», ныне стандартную в светской политике безопасности ИИ. Более свежие комментарии с Torah Musings и Chabad.org расширяют это через тиккун олам, исправление мира, — ИИ оценивается по его использованию, а не запрещается категорически.
Светская философия без религиозной рамки
Самые цитируемые светские аргументы конкретно об AGI, а не об ИИ вообще, исходят от небольшой группы философов. Тезис ортогональности и инструментальной конвергенции Ника Бострома — формализованный в его статье 2012 года «The Superintelligent Will» и расширенный в Superintelligence (2014) — утверждает, что уровень интеллекта системы ничего не говорит о её целях, и что почти любой достаточно способный целенаправленный агент сходится к самосохранению, приобретению ресурсов и сопротивлению изменению своих целей. Это философское ядро того, почему катастрофа не потребовала бы злого умысла. The Precipice (2020) Тоби Орда даёт этой озабоченности число: примерно один из шести для общего экзистенциального риска в этом столетии, один из десяти — конкретно от несогласованного ИИ, что больше его оценок для изменения климата, ядерной войны и пандемий вместе взятых. Число Орда — одна точка данных в намного более широком разбросе; см. «Почему экспертные оценки вымирания так расходятся» и «Оценки риска и разногласия экспертов» о том, как оно соотносится с остальным полем.
Более короткий, более знаменитый артефакт — Заявление о риске ИИ Center for AI Safety, одно предложение, опубликованное 30 мая 2023 года: «Снижение риска вымирания от ИИ должно быть глобальным приоритетом наравне с другими рисками общественного масштаба, такими как пандемии и ядерная война». Его сила — в том, кто его подписал: среди прочих Джеффри Хинтон, Йошуа Бенджио, Демис Хассабис, Сэм Альтман, Дарио Амодеи, Стюарт Рассел и Билл Гейтс — люди, в остальном резко расходящиеся во мнениях о сроках и стратегии снижения риска. Две дополнительные линии дополняют картину. Статья Дэвида Чалмерса 2010 года о сингулярности рассматривает взрыв интеллекта как серьёзную эпистемическую возможность и спрашивает, были бы сверхразумные умы сознательными и сохранил бы загруженный в компьютер человек личную идентичность, — один из первых аналитико-философских разборов этой темы. А «Taking AI Welfare Seriously» (2024) авторства группы, включающей Роберта Лонга, Джеффа Себо и снова Чалмерса, утверждает, что существует реалистичная возможность того, что некоторые системы ИИ ближайшего будущего окажутся сознательными или обладающими устойчивой субъектностью, и что разработчики несут ответственность отнестись к этому серьёзно уже сейчас, — утверждение о неопределённости, а не о том, что какая-либо нынешняя система сознательна.
Где рамки сходятся, а где нет
При прочтении всех пяти сразу одна нить повторяется почти без исключений: контроль важнее возможностей. Энциклика Льва XIV предостерегает от концентрированного контроля; резолюция фикха обусловливает допустимость ИИ тем, что он не угрожает безопасности; респонсум Невинса настаивает на сохранении подотчётности человека; инструментальная конвергенция Бострома предсказывает, что любая достаточно способная система будет сопротивляться именно такому контролю. Вторая нить — моральный статус: буддийская наука спрашивает, где проходит граница личности; исламская юриспруденция постановляет, что у ИИ её нет, полностью возлагая ответственность на людей; светская литература о благополучии ИИ спрашивает с противоположной стороны, может ли какая-то будущая система заслуживать морального учёта. Традиции расходятся в том, какой тип документа они производят — энциклика заявляет моральный авторитет, которого не заявляет резолюция, и ни одна из них не заявляет фальсифицируемости вероятностной оценки. Серьёзное вовлечение в любое из этого несёт собственный психологический вес; это руководство рассматривает этот вес напрямую в статье «Экзистенциальный ужас и моральное ранение».
Почему это принадлежит этому руководству
Руководство, построенное вокруг технической и политической готовности, могло бы пропустить всё это. Но не должно: эти институты достигают дальше, чем любой аналитический доклад. Постановление, обязывающее исламское правовое рассуждение в десятках стран, и энциклика, адресованная более чем миллиарду католиков, сформируют то, как об AGI думает намного больше людей, чем любая отдельная статья о безопасности ИИ. Указание источников с той же дисциплиной, что применяется везде в этом руководстве, — не любезность; это стандарт, которого это руководство требует от каждого своего утверждения.