Qué es esta página, y qué no es
La mayor parte de este manual trata la AGI como un problema de ingeniería y de política pública. También es, para la mayoría de la humanidad, un problema teológico y filosófico, y las instituciones que hablan por esas tradiciones han empezado a emitir posturas formales y fechadas en lugar de comentarios vagos. Esta página cataloga las que abordan específicamente la AGI o la superinteligencia — el control, el estatus moral, la rendición de cuentas humana ante una capacidad igual o superior a la humana — y no el debate más amplio y antiguo sobre la ética cotidiana de la IA que se trata en otras partes de este manual. Ninguna tradición aquí se presenta como correcta. Personas acreditadas que parten de premisas muy distintas convergen en algunas advertencias y divergen tajantemente en otras; un lector que sopese cualquier voz individual debería ver el campo completo.
La enseñanza católica: dos documentos en dieciséis meses
La Iglesia Católica ha publicado dos documentos sustanciales sobre la IA en rápida sucesión. El primero, Antiqua et Nova: Nota sobre la relación entre la inteligencia artificial y la inteligencia humana, llegó conjuntamente del Dicasterio para la Doctrina de la Fe y el Dicasterio para la Cultura y la Educación, ratificado el 14 de enero de 2025 y aprobado por el papa Francisco. A lo largo de 117 párrafos numerados, enmarca lo que está en juego con la IA como algo antropológico y no técnico — la pregunta viva es qué sigue siendo distintivamente humano, no qué puede calcular una máquina — y advierte explícitamente contra que la IA “cree un sustituto de Dios”.
El segundo es la primera encíclica del papa León XIV, Magnifica Humanitas, “Sobre la salvaguarda de la persona humana en la era de la inteligencia artificial”, firmada el 15 de mayo de 2026 — el 135.º aniversario de la Rerum Novarum de León XIII — y publicada el 25 de mayo de 2026. Las coberturas del Vaticano y de la prensa, incluida la cobertura de los obispos de EE. UU., describen su exigencia central como que la IA sea “desarmada”, que su control no quede “en manos de unos pocos”, y su preocupación como que una IA sin control debilite las relaciones humanas y el pensamiento crítico mientras ensancha la distancia psicológica detrás de los conflictos armados contemporáneos. Meses antes había anticipado un argumento relacionado en un mensaje por la Jornada Mundial de las Comunicaciones Sociales sobre la voz y la presencia simuladas de la IA. Debido a que este documento es tan reciente, los lectores que quieran citarlo directamente deberían consultar el texto completo en vatican.va en lugar de fiarse de resúmenes secundarios, incluido este.
Ambos documentos se ubican dentro de un proyecto interreligioso más amplio: la Llamada de Roma para la Ética de la IA, firmada en el Vaticano el 28 de febrero de 2020 por la Academia Pontificia para la Vida, Microsoft, IBM, la Organización de las Naciones Unidas para la Alimentación y la Agricultura, y el gobierno italiano, que compromete a los firmantes con una IA construida en torno a la dignidad humana, la inclusión, la transparencia, la imparcialidad, la fiabilidad y la seguridad. En enero de 2023, representantes judíos y musulmanes firmaron junto a la Iglesia Católica — una alineación entre tradiciones poco común en materia de gobernanza de la IA.
La jurisprudencia islámica: una resolución formal, no un comentario
La erudición islámica sobre la IA ha producido una resolución jurídica real, un tipo de documento distinto de un comentario. La Academia Islámica Internacional de Fiqh, un organismo de la Organización de Cooperación Islámica, adoptó la Resolución N.º 258 (3/26), “Inteligencia artificial: sus dictámenes, directrices y ética”, en su 26.ª sesión en Doha, del 4 al 8 de mayo de 2025. Sostiene que desarrollar y usar la IA es permisible por defecto, condicionado a seis requisitos: un propósito lícito; un beneficio neto demostrable; ningún insulto a las creencias o símbolos religiosos; la protección de los datos y los derechos; ninguna amenaza a la seguridad en ningún nivel; y honestidad y transparencia en su uso. La resolución también afirma que la propia IA, al carecer de voluntad independiente y de conciencia moral, no tiene responsabilidad legal ni moral alguna bajo la ley islámica — la responsabilidad recae por completo en los humanos que la construyen, la financian o la operan —, aunque señala que si la IA podría alguna vez ostentar personalidad jurídica merece más estudio. El artículo del Yaqeen Institute que aplica el maqasid al-shariah — los objetivos de la ley islámica — a la IA extiende un razonamiento similar sin el peso institucional de una academia de fiqh.
La ética budista: la interdependencia como lente
Hasta ahora, la erudición budista sobre la IA es más académica y menos institucional, pero aporta una herramienta conceptual distinta. El capítulo de Hannah Gould y Keiko Nishimura “The Buddha in AI/Robotics”, en Cambridge Companion to Religion and Artificial Intelligence (Cambridge University Press, 2023), sostiene que la doctrina budista de la interdependencia, pratītyasamutpāda — nada existe como una entidad autocontenida — ofrece una lente sobre la ética de la IA que no está disponible para marcos construidos sobre agentes discretos y acotados. El capítulo también aborda dónde trazan las tradiciones budistas el límite de la personalidad moral, una pregunta que encaja en la AGI con más precisión que en los sistemas estrechos de hoy: si el estatus moral sigue la calidad de la experiencia de una mente en lugar de su sustrato, el estatus de una AGI se convierte en una pregunta viva, no en un error de categoría. Junto a esto está surgiendo una literatura más provisional, incluidos trabajos que aplican las Cuatro Nobles Verdades al sufrimiento algorítmico; es más reciente y menos asentada, y sus atribuciones vale la pena verificarlas dos veces antes de citarlas.
La ley judía: un responsum sobre la agencia de las máquinas
El tratamiento jurídico judío más desarrollado sobre la IA es anterior al debate actual sobre la AGI, pero anticipó buena parte de él. El responsum del rabino Daniel Nevins, “Artificial Intelligence, Moral Machines and Halakhah”, fue aprobado por el Comité de Ley y Normas Judías del movimiento Conservador el 19 de junio de 2019 — una teshuvá real, no un artículo de opinión. Aplica conceptos halájicos de agencia, responsabilidad y daños a la toma de decisiones de la IA, y concluye que un humano debe seguir siendo responsable de los resultados, especialmente en asuntos de vida o muerte, incluso cuando la IA haya asistido de forma sustancial — anticipando, por varios años, el lenguaje del “humano en el circuito” que hoy es estándar en la política secular de seguridad de la IA. Comentarios más recientes de Torah Musings y Chabad.org extienden esto a través del tikkun olam, la reparación del mundo — la IA evaluada por su uso, no prohibida categóricamente.
La filosofía secular sin marco religioso
Los argumentos seculares más citados específicamente sobre la AGI, y no sobre la IA en general, provienen de un pequeño grupo de filósofos. La tesis de la ortogonalidad y la convergencia instrumental de Nick Bostrom — formalizada en su artículo de 2012 “The Superintelligent Will” y ampliada en Superintelligence (2014) — sostiene que el nivel de inteligencia de un sistema no dice nada sobre sus objetivos, y que casi cualquier agente dirigido a objetivos que sea suficientemente capaz converge en la autopreservación, la adquisición de recursos y la resistencia a que se le alteren sus objetivos. Ese es el núcleo filosófico de por qué la catástrofe no requeriría malicia. The Precipice (2020), de Toby Ord, pone un número a esta preocupación: aproximadamente uno de cada seis para el riesgo existencial global de este siglo, uno de cada diez específicamente por la IA desalineada — mayor que sus estimaciones para el cambio climático, la guerra nuclear y las pandemias combinadas. El número de Ord es un solo dato dentro de una dispersión mucho más amplia; véase por qué las estimaciones expertas sobre la extinción divergen tanto y estimaciones de riesgo y desacuerdo entre expertos para ver cómo se compara con el resto del campo.
Un artefacto más breve y más famoso es la Declaración sobre el Riesgo de la IA del Center for AI Safety, una sola frase, publicada el 30 de mayo de 2023: “Mitigar el riesgo de extinción por la IA debería ser una prioridad global junto a otros riesgos de escala social como las pandemias y la guerra nuclear”. Su fuerza está en quiénes la firmaron — entre ellos Geoffrey Hinton, Yoshua Bengio, Demis Hassabis, Sam Altman, Dario Amodei, Stuart Russell y Bill Gates —, personas que por lo demás discrepan tajantemente sobre plazos y estrategia de mitigación. Dos hilos más completan el panorama. El artículo de 2010 de David Chalmers sobre la singularidad trata una explosión de inteligencia como una posibilidad epistémica seria y pregunta si las mentes superinteligentes serían conscientes y si un humano cargado digitalmente conservaría su identidad personal — uno de los primeros tratamientos del tema desde la filosofía analítica. Y “Taking AI Welfare Seriously” (2024), de un grupo que incluye a Robert Long, Jeff Sebo y de nuevo a Chalmers, sostiene que existe una posibilidad realista de que algunos sistemas de IA del futuro cercano sean conscientes o robustamente agenciales, y que los desarrolladores tienen la responsabilidad de tomarse eso en serio ya — una afirmación sobre la incertidumbre, no de que algún sistema actual sea consciente.
Dónde convergen los marcos, y dónde no
Leídas las cinco en conjunto, un hilo se repite casi sin excepciones: el control importa más que la capacidad. La encíclica de León XIV advierte contra el control concentrado; la resolución de fiqh condiciona la licitud de la IA a que no amenace la seguridad; el responsum de Nevins insiste en que un humano siga siendo responsable; la convergencia instrumental de Bostrom predice que cualquier sistema suficientemente capaz resistirá precisamente ese control. Un segundo hilo es el estatus moral: la erudición budista pregunta dónde está el límite de la personalidad; la jurisprudencia islámica dictamina que la IA no tiene ninguno, y coloca la responsabilidad enteramente sobre los humanos; la literatura secular sobre el bienestar de la IA pregunta, desde la dirección opuesta, si algún sistema futuro podría merecer consideración moral. Las tradiciones divergen en qué tipo de documento producen — una encíclica reclama una autoridad moral que una resolución no reclama, y ninguna de las dos reclama la falsabilidad de una estimación de probabilidad. Involucrarse en serio con cualquiera de esto conlleva su propio peso psicológico; este manual trata ese peso directamente en el pavor existencial y la lesión moral.
Por qué esto pertenece a este manual
Un manual construido en torno a la preparación técnica y de política pública podría saltarse todo esto. No debería: estas instituciones llegan más lejos que cualquier informe técnico. Una resolución vinculante para el razonamiento jurídico islámico en decenas de países, y una encíclica dirigida a más de mil millones de católicos, darán forma a cómo piensa sobre la AGI muchísima más gente que cualquier artículo aislado sobre seguridad de la IA. Referenciarlas con la misma disciplina que se aplica en todas las demás partes de este manual no es una cortesía; es el estándar que este manual exige a cada afirmación que hace.