Trang này là gì, và không phải là gì
Phần lớn cẩm nang này xử lý AGI như một vấn đề kỹ thuật và chính sách. Nó cũng là, đối với phần lớn nhân loại, một vấn đề thần học và triết học, và các thể chế đại diện cho những truyền thống đó đã bắt đầu đưa ra các lập trường chính thức, có ngày tháng thay vì bình luận mơ hồ. Trang này liệt kê những lập trường đề cập cụ thể đến AGI hoặc siêu trí tuệ — kiểm soát, địa vị đạo đức, trách nhiệm giải trình của con người ở hoặc vượt ngoài năng lực cấp độ con người — không phải cuộc tranh luận rộng hơn, cũ hơn về đạo đức AI hàng ngày được đề cập ở nơi khác trong cẩm nang này. Không truyền thống nào ở đây được trình bày là đúng. Những người có trình độ từ các tiền đề rất khác nhau hội tụ về một số cảnh báo và phân kỳ mạnh mẽ về những cảnh báo khác; một độc giả cân nhắc bất kỳ tiếng nói nào nên xem toàn bộ lĩnh vực.
Giáo huấn Công giáo: hai văn kiện trong mười sáu tháng
Giáo hội Công giáo đã ban hành hai văn kiện đáng kể về AI trong sự kế tiếp nhanh chóng. Văn kiện đầu tiên, Antiqua et Nova: Ghi chú về Mối quan hệ giữa Trí tuệ Nhân tạo và Trí tuệ Con người, đến từ Bộ Giáo lý Đức tin và Bộ Văn hóa và Giáo dục cùng nhau, được phê chuẩn ngày 14 tháng 1 năm 2025, và được Giáo hoàng Francis chấp thuận. Qua 117 đoạn được đánh số, văn kiện đóng khung những gì đang bị đe dọa của AI là mang tính nhân học chứ không phải kỹ thuật — câu hỏi sống động là điều gì vẫn còn mang tính đặc trưng của con người, chứ không phải một cỗ máy có thể tính toán được điều gì — và cảnh báo rõ ràng chống lại việc AI “tạo ra một sự thay thế cho Thiên Chúa.”
Văn kiện thứ hai là thông điệp đầu tiên của Giáo hoàng Leo XIV, Magnifica Humanitas, “Về việc Bảo vệ Con người trong Thời đại Trí tuệ Nhân tạo,” được ký ngày 15 tháng 5 năm 2026 — kỷ niệm 135 năm thông điệp Rerum Novarum của Leo XIII — và được công bố ngày 25 tháng 5 năm 2026. Báo cáo của Vatican và báo chí, bao gồm tường thuật của các giám mục Hoa Kỳ, mô tả yêu cầu trung tâm của nó là AI phải được “giải giáp,” quyền kiểm soát nó không được để “trong tay một số ít,” và mối lo ngại của nó là AI không được kiểm soát đang làm suy yếu các mối quan hệ con người và tư duy phản biện trong khi mở rộng khoảng cách tâm lý đằng sau xung đột vũ trang đương đại. Ngài đã đưa ra trước một lập luận liên quan vài tháng trước đó trong thông điệp Ngày Truyền thông Thế giới về giọng nói và sự hiện diện mô phỏng của AI. Vì văn kiện này còn rất mới, độc giả muốn trích dẫn trực tiếp nên kiểm tra toàn văn tại vatican.va thay vì dựa vào các bản tóm tắt thứ cấp, bao gồm cả bản tóm tắt này.
Cả hai đều nằm trong một dự án liên tôn rộng lớn hơn: Lời kêu gọi Rome về Đạo đức AI, được ký tại Vatican ngày 28 tháng 2 năm 2020, bởi Học viện Giáo hoàng về Sự sống, Microsoft, IBM, Tổ chức Lương thực và Nông nghiệp Liên Hợp Quốc, và chính phủ Ý, cam kết các bên ký kết xây dựng AI xoay quanh phẩm giá con người, tính bao trùm, minh bạch, công bằng, độ tin cậy, và an ninh. Vào tháng 1 năm 2023, các đại diện Do Thái giáo và Hồi giáo đã ký cùng với Giáo hội Công giáo — một trường hợp hiếm hoi của sự liên kết xuyên truyền thống về quản trị AI.
Luật học Hồi giáo: một phán quyết chính thức, không phải bình luận
Học thuật Hồi giáo về AI đã tạo ra một phán quyết pháp lý thực sự, một loại văn kiện khác với bình luận. Học viện Fiqh Hồi giáo Quốc tế, một cơ quan của Tổ chức Hợp tác Hồi giáo, đã thông qua Nghị quyết số 258 (3/26), “Trí tuệ Nhân tạo: Các Phán quyết, Hướng dẫn, và Đạo đức,” tại phiên họp thứ 26 ở Doha, ngày 4–8 tháng 5 năm 2025. Nghị quyết cho rằng việc phát triển và sử dụng AI được phép mặc định, với điều kiện đáp ứng sáu yêu cầu: mục đích hợp pháp; lợi ích ròng có thể chứng minh được; không xúc phạm tín ngưỡng hoặc biểu tượng tôn giáo; bảo vệ dữ liệu và quyền; không đe dọa an ninh ở bất kỳ cấp độ nào; và sự trung thực và minh bạch trong sử dụng. Nghị quyết cũng khẳng định rằng bản thân AI, thiếu ý chí độc lập và nhận thức đạo đức, không chịu trách nhiệm pháp lý hoặc đạo đức theo luật Hồi giáo — trách nhiệm hoàn toàn thuộc về con người xây dựng, tài trợ, hoặc vận hành nó — trong khi gắn cờ rằng liệu AI có thể có tư cách pháp nhân hay không xứng đáng được nghiên cứu thêm. Bài báo của Viện Yaqeen áp dụng maqasid al-shariah — các mục tiêu của luật Hồi giáo — vào AI mở rộng lý luận tương tự mà không có trọng lượng thể chế của một học viện fiqh.
Đạo đức Phật giáo: sự phụ thuộc lẫn nhau như một lăng kính
Học thuật Phật giáo về AI mang tính học thuật hơn và ít mang tính thể chế hơn cho đến nay, nhưng nó cung cấp một công cụ khái niệm riêng biệt. Chương “The Buddha in AI/Robotics” của Hannah Gould và Keiko Nishimura, trong Cambridge Companion to Religion and Artificial Intelligence (Cambridge University Press, 2023), lập luận rằng học thuyết Phật giáo về sự phụ thuộc lẫn nhau, pratītyasamutpāda — không có gì tồn tại như một thực thể tự chứa — cung cấp một lăng kính về đạo đức AI không có sẵn cho các khung xây dựng trên các tác nhân rời rạc, có ranh giới. Chương này cũng đề cập đến nơi các truyền thống Phật giáo vẽ ranh giới của tư cách con người về mặt đạo đức, một câu hỏi ánh xạ vào AGI chính xác hơn là vào các hệ thống hẹp ngày nay: nếu địa vị đạo đức theo dõi chất lượng trải nghiệm của một tâm trí hơn là chất nền của nó, địa vị của một AGI trở thành một câu hỏi sống động thay vì một lỗi phạm trù. Một tài liệu tạm thời hơn đang xuất hiện song song, bao gồm công trình áp dụng Tứ Diệu Đế vào sự đau khổ thuật toán; nó mới hơn và ít được xác lập hơn, và các quy kết ở đó đáng để kiểm tra lại trước khi trích dẫn.
Luật Do Thái: một responsum về quyền tự quyết của máy móc
Sự xử lý pháp lý Do Thái phát triển nhất về AI có trước cuộc tranh luận AGI hiện tại nhưng đã dự đoán được phần lớn nó. Responsum của Giáo sĩ Daniel Nevins, “Artificial Intelligence, Moral Machines and Halakhah,” được Ủy ban Luật pháp và Tiêu chuẩn Do Thái của phong trào Bảo thủ phê duyệt ngày 19 tháng 6 năm 2019 — một teshuva thực sự, không phải một bài xã luận. Nó áp dụng các khái niệm halakhic về quyền tự quyết, trách nhiệm pháp lý, và thiệt hại vào việc ra quyết định của AI, kết luận rằng con người phải vẫn chịu trách nhiệm giải trình cho kết quả, đặc biệt trong các vấn đề sinh tử, ngay cả khi AI hỗ trợ đáng kể — dự đoán, trước nhiều năm, ngôn ngữ “con người trong vòng lặp” hiện là tiêu chuẩn trong chính sách an toàn AI thế tục. Bình luận gần đây hơn từ Torah Musings và Chabad.org mở rộng điều này thông qua tikkun olam, sửa chữa thế giới — AI được đánh giá qua cách sử dụng của nó, không bị cấm theo phạm trù.
Triết học thế tục không có khung tôn giáo
Những lập luận thế tục được trích dẫn nhiều nhất về AGI cụ thể, chứ không phải AI nói chung, đến từ một nhóm nhỏ các triết gia. Luận đề trực giao và sự hội tụ công cụ của Nick Bostrom — được chính thức hóa trong bài báo năm 2012 “The Superintelligent Will” và mở rộng trong Superintelligence (2014) — lập luận rằng mức độ trí tuệ của một hệ thống không nói lên điều gì về mục tiêu của nó, và rằng gần như bất kỳ tác nhân hướng-mục-tiêu đủ năng lực nào cũng hội tụ về sự tự bảo tồn, thu thập tài nguyên, và kháng cự việc thay đổi mục tiêu của nó. Đó là cốt lõi triết học của lý do vì sao thảm họa sẽ không cần ác ý. The Precipice (2020) của Toby Ord đặt một con số cho mối lo ngại: khoảng một phần sáu cho rủi ro hiện sinh tổng thể trong thế kỷ này, một phần mười trong số đó cụ thể từ AI bị lệch hướng — lớn hơn các ước tính của ông cho biến đổi khí hậu, chiến tranh hạt nhân, và đại dịch cộng lại. Con số của Ord là một điểm dữ liệu trong một phạm vi rộng hơn nhiều; xem vì sao ước tính tuyệt chủng của chuyên gia phân kỳ rộng như vậy và ước tính rủi ro và sự bất đồng của chuyên gia để biết nó so sánh với lĩnh vực này như thế nào.
Một hiện vật ngắn hơn, nổi tiếng hơn là Tuyên bố về Rủi ro AI của Center for AI Safety, một câu, được công bố ngày 30 tháng 5 năm 2023: “Giảm thiểu rủi ro tuyệt chủng từ AI nên là một ưu tiên toàn cầu cùng với các rủi ro quy mô xã hội khác như đại dịch và chiến tranh hạt nhân.” Sức mạnh của nó nằm ở những ai đã ký — Geoffrey Hinton, Yoshua Bengio, Demis Hassabis, Sam Altman, Dario Amodei, Stuart Russell, và Bill Gates trong số đó — những người bất đồng sâu sắc về mọi thứ khác từ dòng thời gian đến chiến lược giảm thiểu. Hai luồng nữa hoàn thiện bức tranh. Bài báo năm 2010 về sự bùng nổ kỳ dị của David Chalmers coi một sự bùng nổ trí tuệ là một khả năng nhận thức luận nghiêm túc và đặt câu hỏi liệu những tâm trí siêu trí tuệ có ý thức hay không và liệu một con người được tải lên có giữ được bản dạng cá nhân hay không — một trong những sự xử lý triết học phân tích đầu tiên về chủ đề này. Và “Taking AI Welfare Seriously” (2024), bởi một nhóm bao gồm Robert Long, Jeff Sebo, và Chalmers một lần nữa, lập luận rằng có một khả năng thực tế rằng một số hệ thống AI trong tương lai gần sẽ có ý thức hoặc mang tính tác nhân một cách vững chắc, và rằng các nhà phát triển có trách nhiệm coi trọng điều đó ngay bây giờ — một tuyên bố về sự bất định, không phải rằng bất kỳ hệ thống hiện tại nào có ý thức.
Nơi các khung hội tụ, và nơi chúng không
Đọc qua cả năm truyền thống, một mạch lặp lại với gần như không có ngoại lệ: kiểm soát quan trọng hơn năng lực. Thông điệp của Leo XIV cảnh báo chống lại sự kiểm soát tập trung; nghị quyết fiqh điều kiện hóa tính hợp pháp của AI dựa trên việc nó không đe dọa an ninh; responsum của Nevins khăng khăng đòi con người phải chịu trách nhiệm giải trình; sự hội tụ công cụ của Bostrom dự đoán bất kỳ hệ thống đủ năng lực nào cũng sẽ kháng cự chính xác sự kiểm soát đó. Mạch thứ hai là địa vị đạo đức: học thuật Phật giáo hỏi ranh giới của tư cách con người nằm ở đâu; luật học Hồi giáo cho rằng AI không có địa vị đó, đặt trách nhiệm giải trình hoàn toàn lên con người; tài liệu phúc lợi AI thế tục hỏi, từ hướng ngược lại, liệu một số hệ thống tương lai có xứng đáng được cân nhắc đạo đức hay không. Các truyền thống phân kỳ về loại văn kiện mà chúng tạo ra — một thông điệp tuyên bố một thẩm quyền đạo đức mà một nghị quyết không có, và không cái nào tuyên bố khả năng bị bác bỏ của một ước tính xác suất. Việc tham gia nghiêm túc với bất kỳ điều nào trong số này mang theo trọng lượng tâm lý riêng của nó; cẩm nang này xử lý trọng lượng đó trực tiếp tại nỗi sợ hiện sinh và tổn thương đạo đức.
Vì sao điều này thuộc về cẩm nang này
Một cẩm nang được xây dựng xoay quanh sự chuẩn bị kỹ thuật và chính sách có thể bỏ qua tất cả những điều này. Nó không nên: những thể chế này vươn xa hơn bất kỳ sách trắng nào. Một phán quyết ràng buộc đối với lý luận pháp lý Hồi giáo trên hàng chục quốc gia, và một thông điệp gửi đến hơn một tỷ người Công giáo, sẽ định hình cách nhiều người hơn nghĩ về AGI hơn bất kỳ bài báo an toàn AI đơn lẻ nào. Trích dẫn nguồn cho chúng với cùng kỷ luật được áp dụng ở mọi nơi khác ở đây không phải là một phép lịch sự; đó là tiêu chuẩn mà cẩm nang này yêu cầu đối với mọi tuyên bố nó đưa ra.