Ce qu’est cette page, et ce qu’elle n’est pas
La majeure partie de ce manuel traite l’AGI comme un problème d’ingénierie et de politique publique. C’est aussi, pour la majorité de l’humanité, un problème théologique et philosophique, et les institutions qui parlent au nom de ces traditions ont commencé à publier des positions formelles et datées plutôt que des commentaires vagues. Cette page catalogue celles qui traitent spécifiquement de l’AGI ou de la superintelligence — le contrôle, le statut moral, la responsabilité humaine à un niveau de capacité égal ou supérieur à l’humain — et non le débat plus large et plus ancien sur l’éthique quotidienne de l’IA traité ailleurs dans ce manuel. Aucune tradition ici n’est présentée comme correcte. Des personnes accréditées partant de prémisses très différentes convergent sur certaines mises en garde et divergent nettement sur d’autres ; un lecteur qui pèse une voix quelconque devrait considérer le champ entier.
L’enseignement catholique : deux documents en seize mois
L’Église catholique a publié deux documents substantiels sur l’IA en succession rapprochée. Le premier, Antiqua et Nova : Note sur la relation entre l’intelligence artificielle et l’intelligence humaine, est venu conjointement du Dicastère pour la Doctrine de la Foi et du Dicastère pour la Culture et l’Éducation, ratifié le 14 janvier 2025, et approuvé par le pape François. À travers 117 paragraphes numérotés, il cadre les enjeux de l’IA comme anthropologiques plutôt que techniques — la question vivante est ce qui reste distinctement humain, non ce qu’une machine peut calculer — et met explicitement en garde contre le fait que l’IA « crée un substitut de Dieu ».
Le second est la première encyclique du pape Léon XIV, Magnifica Humanitas, « Sur la sauvegarde de la personne humaine à l’ère de l’intelligence artificielle », signée le 15 mai 2026 — le 135e anniversaire de Rerum Novarum de Léon XIII — et publiée le 25 mai 2026. Les comptes rendus du Vatican et de la presse, y compris la couverture des évêques américains, décrivent son exigence centrale comme le fait que l’IA soit « désarmée », que son contrôle ne reste pas « entre les mains d’un petit nombre », et sa préoccupation comme une IA non maîtrisée affaiblissant les relations humaines et la pensée critique tout en élargissant la distance psychologique derrière les conflits armés contemporains. Il avait préfiguré un argument connexe des mois plus tôt dans un message pour la Journée mondiale des communications sociales sur la voix et la présence simulées de l’IA. Ce document étant très récent, les lecteurs souhaitant le citer directement devraient consulter le texte intégral sur vatican.va plutôt que de se fier à des résumés secondaires, y compris celui-ci.
Les deux s’inscrivent dans un projet interreligieux plus large : l’Appel de Rome pour l’éthique de l’IA, signé au Vatican le 28 février 2020 par l’Académie pontificale pour la vie, Microsoft, IBM, l’Organisation des Nations unies pour l’alimentation et l’agriculture, et le gouvernement italien, engageant les signataires envers une IA construite autour de la dignité humaine, de l’inclusion, de la transparence, de l’impartialité, de la fiabilité, et de la sécurité. En janvier 2023, des représentants juifs et musulmans ont signé aux côtés de l’Église catholique — un rare exemple d’alignement transtraditionnel sur la gouvernance de l’IA.
La jurisprudence islamique : une décision formelle, non un commentaire
L’érudition islamique sur l’IA a produit une véritable décision juridique, un type de document différent d’un commentaire. L’Académie internationale de fiqh islamique, un organisme de l’Organisation de la coopération islamique, a adopté la résolution n° 258 (3/26), « L’intelligence artificielle : ses règles, orientations, et éthique », lors de sa 26e session à Doha, du 4 au 8 mai 2025. Elle soutient que développer et utiliser l’IA est permis par défaut, sous réserve de six exigences : un but licite ; un bénéfice net démontrable ; aucune insulte aux croyances ou symboles religieux ; la protection des données et des droits ; aucune menace pour la sécurité à quelque niveau que ce soit ; et l’honnêteté et la transparence dans l’usage. La résolution affirme aussi que l’IA elle-même, dépourvue de volonté indépendante et de conscience morale, ne porte aucune responsabilité légale ou morale en droit islamique — la responsabilité incombe entièrement aux humains qui la construisent, la financent, ou l’exploitent — tout en signalant que la question de savoir si l’IA pourrait un jour détenir une personnalité juridique mérite une étude plus approfondie. L’article du Yaqeen Institute appliquant le maqasid al-shariah — les objectifs du droit islamique — à l’IA étend un raisonnement similaire sans le poids institutionnel d’une académie de fiqh.
L’éthique bouddhiste : l’interdépendance comme prisme
L’érudition bouddhiste sur l’IA est jusqu’à présent plus académique et moins institutionnelle, mais elle fournit un outil conceptuel distinct. Le chapitre de Hannah Gould et Keiko Nishimura, « The Buddha in AI/Robotics », dans le Cambridge Companion to Religion and Artificial Intelligence (Cambridge University Press, 2023), soutient que la doctrine bouddhiste de l’interdépendance, pratītyasamutpāda — rien n’existe comme entité autonome — offre un prisme sur l’éthique de l’IA indisponible pour des cadres construits sur des agents discrets et délimités. Le chapitre aborde aussi où les traditions bouddhistes tracent la limite de la personnalité morale, une question qui s’applique à l’AGI avec plus de précision qu’aux systèmes étroits d’aujourd’hui : si le statut moral suit la qualité de l’expérience d’un esprit plutôt que son substrat, le statut d’une AGI devient une question vivante plutôt qu’une erreur de catégorie. Une littérature plus provisoire émerge à ses côtés, incluant des travaux appliquant les Quatre nobles vérités à la souffrance algorithmique ; elle est plus récente et moins établie, et ses attributions méritent d’être vérifiées avant d’être citées.
La loi juive : un responsum sur l’agentivité des machines
Le traitement juridique juif le plus développé de l’IA précède le débat actuel sur l’AGI mais en a anticipé une grande partie. Le responsum du rabbin Daniel Nevins, « Artificial Intelligence, Moral Machines and Halakhah », a été approuvé par le Comité sur le droit et les normes juives du mouvement conservateur le 19 juin 2019 — une véritable teshuva, non un article d’opinion. Il applique des concepts halakhiques d’agentivité, de responsabilité, et de dommages à la prise de décision de l’IA, concluant qu’un humain doit rester responsable des résultats, en particulier pour les questions de vie ou de mort, même là où l’IA a matériellement assisté — anticipant, de plusieurs années, le langage de l’« humain dans la boucle » désormais standard dans la politique séculière de sécurité de l’IA. Des commentaires plus récents de Torah Musings et Chabad.org prolongent cela à travers le tikkun olam, réparer le monde — l’IA évaluée selon son usage, non interdite catégoriquement.
La philosophie séculière sans cadre religieux
Les arguments séculiers les plus cités sur l’AGI spécifiquement, plutôt que sur l’IA en général, proviennent d’un petit groupe de philosophes. La thèse de l’orthogonalité et de la convergence instrumentale de Nick Bostrom — formalisée dans son article de 2012 « The Superintelligent Will » et développée dans Superintelligence (2014) — soutient que le niveau d’intelligence d’un système ne dit rien de ses objectifs, et que presque tout agent dirigé vers un but suffisamment capable converge vers l’autopréservation, l’acquisition de ressources, et la résistance à toute modification de ses objectifs. C’est le noyau philosophique de pourquoi la catastrophe n’exigerait pas de malveillance. The Precipice (2020) de Toby Ord met un chiffre sur cette inquiétude : environ un sur six pour le risque existentiel global de ce siècle, un sur dix spécifiquement lié à une IA désalignée — plus élevé que ses estimations combinées pour le changement climatique, la guerre nucléaire, et les pandémies. Le chiffre d’Ord est un point de données dans une dispersion bien plus large ; voir pourquoi les estimations d’extinction des experts divergent tant et estimations de risque et désaccord entre experts pour situer ce chiffre par rapport au champ.
Un artefact plus court et plus célèbre est la déclaration sur le risque de l’IA du Center for AI Safety, une seule phrase, publiée le 30 mai 2023 : « Atténuer le risque d’extinction lié à l’IA devrait être une priorité mondiale aux côtés d’autres risques à l’échelle sociétale comme les pandémies et la guerre nucléaire. » Sa force réside dans qui l’a signée — Geoffrey Hinton, Yoshua Bengio, Demis Hassabis, Sam Altman, Dario Amodei, Stuart Russell, et Bill Gates parmi eux — des personnes qui, par ailleurs, sont en désaccord marqué sur les échéances et la stratégie d’atténuation. Deux fils supplémentaires complètent le tableau. L’article de 2010 de David Chalmers sur la singularité traite une explosion d’intelligence comme une possibilité épistémique sérieuse et se demande si des esprits superintelligents seraient conscients et si un humain téléchargé conserverait son identité personnelle — l’un des premiers traitements du sujet en philosophie analytique. Et « Taking AI Welfare Seriously » (2024), d’un groupe incluant Robert Long, Jeff Sebo, et de nouveau Chalmers, soutient qu’il existe une possibilité réaliste que certains systèmes d’IA du futur proche soient conscients ou robustement agentiques, et que les développeurs ont la responsabilité de prendre cela au sérieux dès maintenant — une affirmation sur l’incertitude, non que tel système actuel serait conscient.
Où les cadres convergent, et où ils ne convergent pas
En lisant les cinq ensemble, un fil se répète avec presque aucune exception : le contrôle compte plus que la capacité. L’encyclique de Léon XIV met en garde contre le contrôle concentré ; la résolution de fiqh conditionne la licéité de l’IA à ce qu’elle ne menace pas la sécurité ; le responsum de Nevins insiste pour qu’un humain reste responsable ; la convergence instrumentale de Bostrom prédit que tout système suffisamment capable résistera précisément à ce contrôle. Un second fil est le statut moral : l’érudition bouddhiste demande où se situe la limite de la personnalité ; la jurisprudence islamique juge que l’IA n’en a aucune, plaçant la responsabilité entièrement sur les humains ; la littérature séculière sur le bien-être de l’IA demande, dans la direction opposée, si un futur système pourrait mériter une considération morale. Les traditions divergent dans le type de document qu’elles produisent — une encyclique revendique une autorité morale qu’une résolution ne revendique pas, et aucune des deux ne revendique la falsifiabilité d’une estimation de probabilité. S’engager sérieusement avec l’un ou l’autre de ces éléments comporte son propre poids psychologique ; ce manuel traite ce poids directement dans l’effroi existentiel et la blessure morale.
Pourquoi cela a sa place dans ce manuel
Un manuel construit autour de la préparation technique et politique pourrait se passer de tout cela. Il ne le devrait pas : ces institutions portent plus loin que n’importe quel livre blanc. Une décision qui fait autorité dans le raisonnement juridique islamique à travers des dizaines de pays, et une encyclique adressée à plus d’un milliard de catholiques, façonneront la façon dont bien plus de gens pensent l’AGI que n’importe quel article isolé sur la sécurité de l’IA. Les référencer avec la même discipline appliquée partout ailleurs ici n’est pas une courtoisie ; c’est le standard que ce manuel exige de chaque affirmation qu’il fait.