Apa halaman ini, dan apa bukan
Sebagian besar manual ini memperlakukan AGI sebagai sebuah masalah rekayasa dan kebijakan. Ini juga, bagi sebagian besar kemanusiaan, sebuah masalah teologis dan filosofis, dan institusi-institusi yang berbicara untuk tradisi-tradisi itu telah mulai mengeluarkan posisi formal dan bertanggal alih-alih komentar yang samar. Halaman ini mengkatalogkan yang membahas AGI atau superkecerdasan secara spesifik — kendali, status moral, akuntabilitas manusia pada atau melampaui kapabilitas tingkat-manusia — bukan debat yang lebih luas dan lebih lama tentang etika AI sehari-hari yang dibahas di tempat lain dalam manual ini. Tidak ada tradisi di sini yang disajikan sebagai benar. Orang-orang berkredensial dari premis yang sangat berbeda menyatu pada beberapa peringatan dan berbeda tajam pada yang lain; seorang pembaca yang menimbang satu suara mana pun harus melihat seluruh bidang.
Ajaran Katolik: dua dokumen dalam enam belas bulan
Gereja Katolik telah mengeluarkan dua dokumen substansial tentang AI secara berurutan cepat. Yang pertama, Antiqua et Nova: Note on the Relationship Between Artificial Intelligence and Human Intelligence, datang bersama dari Dicastery for the Doctrine of the Faith dan Dicastery for Culture and Education, diratifikasi 14 Januari 2025, dan disetujui Paus Fransiskus. Melintasi 117 paragraf bernomor ia membingkai taruhan AI sebagai antropologis alih-alih teknis — pertanyaan hidupnya adalah apa yang tetap khas manusia, bukan apa yang dapat dihitung sebuah mesin — dan memperingatkan secara eksplisit terhadap AI “menciptakan sebuah pengganti bagi Tuhan.”
Yang kedua adalah ensiklik pertama Paus Leo XIV, Magnifica Humanitas, “On Safeguarding the Human Person in the Time of Artificial Intelligence,” ditandatangani 15 Mei 2026 — peringatan ke-135 Rerum Novarum karya Leo XIII — dan diterbitkan 25 Mei 2026. Pelaporan Vatikan dan pers, termasuk liputan para uskup AS, menggambarkan tuntutan sentralnya bahwa AI “dilucuti,” kendalinya tidak dibiarkan “di tangan segelintir orang,” dan kekhawatirannya sebagai AI yang tidak terkendali melemahkan hubungan manusia dan pemikiran kritis sambil melebarkan jarak psikologis di balik konflik bersenjata kontemporer. Ia telah mempratinjau sebuah argumen terkait beberapa bulan sebelumnya dalam sebuah pesan World Communications Day tentang suara dan kehadiran tersimulasi AI. Karena dokumen ini begitu baru, pembaca yang ingin mengutipnya secara langsung harus memeriksa teks lengkapnya di vatican.va alih-alih bergantung pada ringkasan sekunder, termasuk ini.
Keduanya berada dalam sebuah proyek antar-iman yang lebih luas: Rome Call for AI Ethics, ditandatangani di Vatikan pada 28 Februari 2020, oleh Pontifical Academy for Life, Microsoft, IBM, Food and Agriculture Organization milik PBB, dan pemerintah Italia, mengikat para penandatangan pada AI yang dibangun di sekitar martabat manusia, inklusi, transparansi, ketidakberpihakan, keandalan, dan keamanan. Pada Januari 2023, perwakilan Yahudi dan Muslim menandatangani bersama Gereja Katolik — sebuah contoh langka keselarasan lintas-tradisi tentang tata kelola AI.
Yurisprudensi Islam: sebuah putusan formal, bukan komentar
Kesarjanaan Islam tentang AI telah menghasilkan sebuah putusan hukum sesungguhnya, sebuah jenis dokumen yang berbeda dari komentar. International Islamic Fiqh Academy, sebuah badan Organisation of Islamic Cooperation, mengadopsi Resolusi No. 258 (3/26), “Artificial Intelligence: Its Rulings, Guidelines, and Ethics,” pada sesi ke-26-nya di Doha, 4–8 Mei 2025. Ia menetapkan bahwa mengembangkan dan menggunakan AI diperbolehkan secara default, dikondisikan pada enam persyaratan: tujuan yang sah; manfaat bersih yang dapat ditunjukkan; tidak menghina keyakinan atau simbol religius; perlindungan data dan hak; tidak mengancam keamanan pada tingkat mana pun; dan kejujuran serta transparansi dalam penggunaan. Resolusi itu juga menegaskan bahwa AI itu sendiri, kekurangan kehendak independen dan kesadaran moral, tidak menanggung akuntabilitas hukum atau moral di bawah hukum Islam — tanggung jawab sepenuhnya ada pada manusia yang membangun, mendanai, atau mengoperasikannya — sambil menandai bahwa apakah AI dapat pernah memegang personalitas hukum layak studi lebih lanjut. Makalah Yaqeen Institute yang menerapkan maqasid al-shariah — tujuan-tujuan hukum Islam — pada AI memperluas penalaran serupa tanpa bobot institusional sebuah akademi fiqh.
Etika Buddha: interdependensi sebagai sebuah lensa
Kesarjanaan Buddha tentang AI lebih akademis dan kurang institusional sejauh ini, tetapi ia memasok sebuah alat konseptual yang khas. Bab Hannah Gould dan Keiko Nishimura “The Buddha in AI/Robotics”, dalam Cambridge Companion to Religion and Artificial Intelligence (Cambridge University Press, 2023), berargumen bahwa doktrin Buddha tentang interdependensi, pratītyasamutpāda — tidak ada yang ada sebagai sebuah entitas mandiri — menawarkan sebuah lensa pada etika AI yang tidak tersedia bagi kerangka yang dibangun pada agen diskret dan terbatas. Bab itu juga terlibat pada di mana tradisi Buddha menggambar batas personhood moral, sebuah pertanyaan yang memetakan pada AGI lebih tepat daripada pada sistem sempit hari ini: jika status moral mengikuti kualitas pengalaman sebuah pikiran alih-alih substratnya, status sebuah AGI menjadi sebuah pertanyaan hidup alih-alih sebuah kesalahan kategori. Sebuah literatur yang lebih provisional muncul bersamanya, termasuk karya yang menerapkan Empat Kebenaran Mulia pada penderitaan algoritmik; itu lebih baru dan kurang mapan, dan atribusi di sana layak diperiksa-ulang sebelum dikutip.
Hukum Yahudi: sebuah responsum tentang agensi mesin
Perlakuan hukum Yahudi paling berkembang terhadap AI mendahului debat AGI saat ini tetapi mengantisipasi sebagian besarnya. Responsum Rabi Daniel Nevins, “Artificial Intelligence, Moral Machines and Halakhah,” disetujui Committee on Jewish Law and Standards milik gerakan Konservatif pada 19 Juni 2019 — sebuah teshuva sesungguhnya, bukan sebuah opini editorial. Ia menerapkan konsep halakhik tentang agensi, tanggung jawab, dan kerugian pada pengambilan-keputusan AI, menyimpulkan seorang manusia harus tetap akuntabel atas hasil, terutama masalah hidup dan mati, bahkan di mana AI secara material membantu — mengantisipasi, beberapa tahun sebelumnya, bahasa “manusia dalam lingkar” yang kini standar dalam kebijakan keselamatan-AI sekuler. Komentar yang lebih baru dari Torah Musings dan Chabad.org memperluas ini melalui tikkun olam, memperbaiki dunia — AI dievaluasi berdasarkan penggunaannya, tidak dilarang secara kategoris.
Filsafat sekuler tanpa bingkai religius
Argumen sekuler yang paling banyak dikutip tentang AGI secara spesifik, alih-alih AI secara umum, datang dari sekelompok kecil filsuf. Tesis ortogonalitas dan konvergensi instrumental milik Nick Bostrom — diformalkan dalam makalah 2012-nya “The Superintelligent Will” dan diperluas dalam Superintelligence (2014) — berargumen bahwa tingkat kecerdasan sebuah sistem tidak mengatakan apa pun tentang tujuannya, dan bahwa hampir agen berorientasi-tujuan yang cukup mampu mana pun menyatu pada pelestarian-diri, akuisisi sumber daya, dan resistensi terhadap tujuannya yang diubah. Itu adalah inti filosofis mengapa bencana tidak akan membutuhkan kedengkian. The Precipice (2020) karya Toby Ord memberi angka pada kekhawatiran itu: kira-kira satu dari enam untuk risiko eksistensial keseluruhan abad ini, satu dari sepuluh darinya secara spesifik dari AI yang tidak selaras — lebih besar daripada estimasinya untuk perubahan iklim, perang nuklir, dan pandemi digabungkan. Angka Ord adalah satu titik data dalam sebuah sebaran yang jauh lebih luas; lihat mengapa estimasi kepunahan ahli berbeda begitu luas dan estimasi risiko dan perselisihan ahli untuk bagaimana itu dibandingkan dengan bidang tersebut.
Sebuah artefak yang lebih pendek dan lebih terkenal adalah Statement on AI Risk milik Center for AI Safety, satu kalimat, diterbitkan 30 Mei 2023: “Memitigasi risiko kepunahan dari AI harus menjadi prioritas global bersama risiko berskala-masyarakat lainnya seperti pandemi dan perang nuklir.” Kekuatannya ada pada siapa yang menandatanganinya — Geoffrey Hinton, Yoshua Bengio, Demis Hassabis, Sam Altman, Dario Amodei, Stuart Russell, dan Bill Gates di antara mereka — orang-orang yang sebaliknya sangat tidak sepakat tentang garis waktu dan strategi mitigasi. Dua benang lagi melengkapi gambaran. Makalah 2010 David Chalmers tentang singularitas memperlakukan sebuah ledakan kecerdasan sebagai sebuah kemungkinan epistemik yang serius dan bertanya apakah pikiran superkecerdasan akan sadar dan apakah seorang manusia yang diunggah akan mempertahankan identitas pribadi — salah satu perlakuan filsafat-analitik pertama tentang topik ini. Dan “Taking AI Welfare Seriously” (2024), oleh sebuah kelompok termasuk Robert Long, Jeff Sebo, dan Chalmers lagi, berargumen ada sebuah kemungkinan realistis bahwa beberapa sistem AI mendekat-masa-depan akan sadar atau secara kuat agentik, dan bahwa para pengembang memiliki tanggung jawab untuk menanggapinya serius sekarang — sebuah klaim tentang ketidakpastian, bukan bahwa sistem saat ini mana pun sadar.
Di mana kerangka-kerangka itu menyatu, dan di mana tidak
Baca lintas kelimanya, satu benang berulang dengan hampir tidak ada pengecualian: kendali lebih penting daripada kapabilitas. Ensiklik Leo XIV memperingatkan terhadap kendali yang terkonsentrasi; resolusi fiqh mengondisikan kebolehan AI padanya tidak mengancam keamanan; responsum Nevins bersikeras seorang manusia tetap akuntabel; konvergensi instrumental Bostrom memprediksi sistem yang cukup mampu mana pun akan menolak persis kendali itu. Benang kedua adalah status moral: kesarjanaan Buddha bertanya di mana letak batas personhood; yurisprudensi Islam menetapkan AI tidak memilikinya, menempatkan akuntabilitas sepenuhnya pada manusia; literatur kesejahteraan-AI sekuler bertanya, dari arah sebaliknya, apakah beberapa sistem masa depan mungkin layak mendapat pertimbangan moral. Tradisi-tradisi itu berbeda dalam jenis dokumen apa yang mereka hasilkan — sebuah ensiklik mengklaim sebuah otoritas moral yang tidak diklaim sebuah resolusi, dan tidak satu pun mengklaim keterfalsifikasian sebuah estimasi probabilitas. Terlibat secara serius dengan salah satu dari ini membawa bobot psikologisnya sendiri; manual ini membahas bobot itu secara langsung di dread eksistensial dan cedera moral.
Mengapa ini termasuk dalam manual ini
Sebuah manual yang dibangun di sekitar kesiapsiagaan teknis dan kebijakan dapat melewatkan semua ini. Ia tidak seharusnya: institusi-institusi ini menjangkau lebih jauh daripada makalah putih mana pun. Sebuah putusan yang mengikat penalaran hukum Islam di puluhan negara, dan sebuah ensiklik yang ditujukan kepada lebih dari satu miliar umat Katolik, akan membentuk bagaimana jauh lebih banyak orang berpikir tentang AGI daripada makalah keselamatan-AI tunggal mana pun. Menyumberkan mereka dengan disiplin yang sama yang diterapkan di mana pun di manual ini bukanlah sebuah kesopanan; itu adalah standar yang dituntut manual ini dari setiap klaim yang dibuatnya.