O que esta página é, e não é
A maior parte deste manual trata a AGI como um problema de engenharia e política pública. Ela também é, para a maioria da humanidade, um problema teológico e filosófico, e as instituições que falam por essas tradições começaram a emitir posições formais e datadas, em vez de comentários vagos. Esta página cataloga aquelas que tratam especificamente da AGI ou da superinteligência — controle, status moral, responsabilização humana em ou além da capacidade de nível humano —, e não o debate mais amplo e antigo sobre ética cotidiana de IA, coberto em outro lugar deste manual. Nenhuma tradição aqui é apresentada como correta. Pessoas credenciadas, a partir de premissas muito diferentes, convergem em alguns alertas e divergem fortemente em outros; um leitor ponderando qualquer voz isolada deveria ver o campo inteiro.
O ensino católico: dois documentos em dezesseis meses
A Igreja Católica emitiu dois documentos substanciais sobre IA em rápida sucessão. O primeiro, Antiqua et Nova: Nota sobre a Relação entre Inteligência Artificial e Inteligência Humana, veio conjuntamente do Dicastério para a Doutrina da Fé e do Dicastério para a Cultura e a Educação, ratificado em 14 de janeiro de 2025 e aprovado pelo Papa Francisco. Ao longo de 117 parágrafos numerados, ele enquadra o que está em jogo na IA como antropológico, e não técnico — a questão viva é o que permanece distintamente humano, não o que uma máquina consegue computar —, e alerta explicitamente contra a IA “criando um substituto para Deus”.
O segundo é a primeira encíclica do Papa Leão XIV, Magnifica Humanitas, “Sobre a Salvaguarda da Pessoa Humana no Tempo da Inteligência Artificial”, assinada em 15 de maio de 2026 — o 135º aniversário da Rerum Novarum de Leão XIII — e publicada em 25 de maio de 2026. A cobertura vaticana e da imprensa, incluindo a cobertura dos bispos dos EUA, descreve sua exigência central como a de que a IA seja “desarmada”, que seu controle não fique “nas mãos de poucos”, e sua preocupação como o enfraquecimento, por uma IA sem freios, dos relacionamentos humanos e do pensamento crítico, ao mesmo tempo em que amplia a distância psicológica por trás do conflito armado contemporâneo. Ele já havia antecipado um argumento relacionado meses antes, em uma mensagem do Dia Mundial das Comunicações Sociais sobre a voz e a presença simuladas da IA. Por ser um documento tão recente, leitores que queiram citá-lo diretamente deveriam checar o texto integral em vatican.va, em vez de confiar em resumos secundários, incluindo este.
Os dois se inserem em um projeto interconfessional mais amplo: a Rome Call for AI Ethics, assinada no Vaticano em 28 de fevereiro de 2020 pela Pontifícia Academia para a Vida, Microsoft, IBM, a Organização das Nações Unidas para Alimentação e Agricultura, e o governo italiano, comprometendo os signatários com uma IA construída em torno da dignidade humana, inclusão, transparência, imparcialidade, confiabilidade e segurança. Em janeiro de 2023, representantes judeus e muçulmanos assinaram ao lado da Igreja Católica — um raro caso de alinhamento entre tradições sobre governança de IA.
Jurisprudência islâmica: uma decisão formal, não comentário
A erudição islâmica sobre IA produziu uma decisão jurídica real, um tipo de documento diferente de um comentário. A International Islamic Fiqh Academy, órgão da Organização para a Cooperação Islâmica, adotou a Resolução n.º 258 (3/26), “Inteligência Artificial: Suas Decisões, Diretrizes e Ética”, em sua 26ª sessão em Doha, de 4 a 8 de maio de 2025. Ela sustenta que desenvolver e usar IA é permissível por padrão, condicionado a seis requisitos: propósito lícito; benefício líquido demonstrável; nenhuma ofensa a crenças ou símbolos religiosos; proteção de dados e direitos; nenhuma ameaça à segurança em qualquer nível; e honestidade e transparência no uso. A resolução também afirma que a própria IA, por carecer de vontade independente e consciência moral, não carrega nenhuma responsabilização legal ou moral sob a lei islâmica — a responsabilidade recai inteiramente sobre os humanos que a constroem, financiam ou operam —, ao mesmo tempo em que sinaliza que se a IA algum dia poderia deter personalidade jurídica merece estudo adicional. O artigo do Yaqeen Institute aplicando o maqasid al-shariah — os objetivos da lei islâmica — à IA estende raciocínio semelhante sem o peso institucional de uma academia de fiqh.
Ética budista: interdependência como lente
A erudição budista sobre IA é, até agora, mais acadêmica e menos institucional, mas fornece uma ferramenta conceitual distinta. O capítulo de Hannah Gould e Keiko Nishimura, “The Buddha in AI/Robotics”, no Cambridge Companion to Religion and Artificial Intelligence (Cambridge University Press, 2023), argumenta que a doutrina budista da interdependência, pratītyasamutpāda — nada existe como uma entidade autocontida —, oferece uma lente sobre a ética da IA indisponível para estruturas construídas sobre agentes discretos e delimitados. O capítulo também aborda onde as tradições budistas traçam a fronteira da personalidade moral, uma questão que se aplica à AGI de forma mais precisa do que aos sistemas estreitos de hoje: se o status moral acompanha a qualidade da experiência de uma mente, em vez de seu substrato, o status de uma AGI se torna uma questão viva, e não um erro de categoria. Uma literatura mais provisória está surgindo ao lado dela, incluindo trabalhos que aplicam as Quatro Nobres Verdades ao sofrimento algorítmico; é mais nova e menos consolidada, e as atribuições ali vale a pena checar novamente antes de citar.
Lei judaica: um responsum sobre a agência de máquinas
O tratamento jurídico judaico mais desenvolvido sobre IA antecede o debate atual sobre AGI, mas antecipou boa parte dele. O responsum do rabino Daniel Nevins, “Artificial Intelligence, Moral Machines and Halakhah”, foi aprovado pelo Comitê de Lei Judaica e Padrões do movimento Conservador em 19 de junho de 2019 — uma teshuva de fato, não um artigo de opinião. Ele aplica conceitos halákhicos de agência, responsabilidade e danos à tomada de decisão por IA, concluindo que um humano precisa permanecer responsável pelos resultados, especialmente em questões de vida e morte, mesmo quando a IA assistiu materialmente — antecipando, por vários anos, a linguagem de “humano no circuito” hoje padrão na política secular de segurança em IA. Comentários mais recentes do Torah Musings e do Chabad.org estendem isso por meio de tikkun olam, o reparo do mundo — a IA avaliada por seu uso, não proibida categoricamente.
Filosofia secular sem uma moldura religiosa
Os argumentos seculares mais citados sobre a AGI especificamente, em vez de IA em geral, vêm de um pequeno grupo de filósofos. A tese da ortogonalidade e a convergência instrumental de Nick Bostrom — formalizada em seu artigo de 2012 “The Superintelligent Will” e expandida em Superintelligence (2014) — argumenta que o nível de inteligência de um sistema nada diz sobre seus objetivos, e que quase todo agente dirigido a objetivos suficientemente capaz converge para autopreservação, aquisição de recursos, e resistência a ter seus objetivos alterados. Esse é o núcleo filosófico de por que a catástrofe não exigiria malícia. The Precipice (2020), de Toby Ord, coloca um número na preocupação: aproximadamente um em seis para o risco existencial geral neste século, um em dez dele especificamente por IA desalinhada — maior do que suas estimativas para mudança climática, guerra nuclear e pandemias combinadas. O número de Ord é um ponto de dado em um espectro muito mais amplo; veja por que as estimativas de especialistas sobre extinção divergem tão amplamente e estimativas de risco e desacordo entre especialistas para como ele se compara ao campo.
Um artefato mais curto e mais famoso é a Declaração sobre Risco de IA do Center for AI Safety, uma frase, publicada em 30 de maio de 2023: “Mitigar o risco de extinção pela IA deveria ser uma prioridade global ao lado de outros riscos de escala social, como pandemias e guerra nuclear.” Sua força está em quem a assinou — Geoffrey Hinton, Yoshua Bengio, Demis Hassabis, Sam Altman, Dario Amodei, Stuart Russell e Bill Gates entre eles — pessoas que, do contrário, discordam fortemente sobre prazos e estratégia de mitigação. Duas linhas adicionais completam o quadro. O artigo de 2010 de David Chalmers sobre a singularidade trata uma explosão de inteligência como uma possibilidade epistêmica séria e pergunta se mentes superinteligentes seriam conscientes e se um humano digitalizado manteria a identidade pessoal — um dos primeiros tratamentos da filosofia analítica sobre o tema. E “Taking AI Welfare Seriously” (2024), de um grupo incluindo Robert Long, Jeff Sebo e novamente Chalmers, argumenta que há uma possibilidade realista de que alguns sistemas de IA de futuro próximo sejam conscientes ou robustamente agentivos, e que os desenvolvedores têm a responsabilidade de levar isso a sério agora — uma alegação sobre incerteza, não de que algum sistema atual é consciente.
Onde as estruturas convergem, e onde não
Lendo as cinco em conjunto, um fio se repete com quase nenhuma exceção: o controle importa mais do que a capacidade. A encíclica de Leão XIV alerta contra o controle concentrado; a resolução de fiqh condiciona a permissibilidade da IA a ela não ameaçar a segurança; o responsum de Nevins insiste que um humano permaneça responsável; a convergência instrumental de Bostrom prevê que qualquer sistema suficientemente capaz vai resistir exatamente a esse controle. Um segundo fio é o status moral: a erudição budista pergunta onde fica a fronteira da personalidade; a jurisprudência islâmica decide que a IA não tem nenhuma, colocando a responsabilização inteiramente sobre os humanos; a literatura secular de bem-estar de IA pergunta, na direção oposta, se algum sistema futuro poderia merecer consideração moral. As tradições divergem no tipo de documento que produzem — uma encíclica reivindica uma autoridade moral que uma resolução não reivindica, e nenhuma das duas reivindica a falseabilidade de uma estimativa de probabilidade. Engajar-se seriamente com qualquer uma dessas questões carrega seu próprio peso psicológico; este manual trata desse peso diretamente em pavor existencial e lesão moral.
Por que isto pertence a este manual
Um manual construído em torno de preparação técnica e política poderia pular tudo isso. Não deveria: essas instituições alcançam mais longe do que qualquer white paper. Uma decisão vinculante ao raciocínio jurídico islâmico em dezenas de países, e uma encíclica endereçada a mais de um bilhão de católicos, vão moldar como muito mais pessoas pensam sobre a AGI do que qualquer artigo isolado de segurança em IA. Citá-las com a mesma disciplina aplicada em todo lugar aqui não é uma cortesia; é o padrão que este manual exige de toda afirmação que faz.