Bu sayfa ne, ve ne değil
Bu kılavuzun çoğu AGI’yi bir mühendislik ve politika sorunu olarak ele alıyor. İnsanlığın çoğu için, aynı zamanda teolojik ve felsefi bir sorundur, ve bu geleneklerin sözcülüğünü yapan kurumlar, belirsiz yorum yerine resmî, tarihli pozisyonlar yayımlamaya başladı. Bu sayfa, AGI’yi veya süper zekâyı özel olarak ele alanları — kontrol, ahlaki statü, insan-düzeyi kapasitede veya ötesinde insan hesap verebilirliği — kataloglıyor, bu kılavuzun başka yerlerinde ele alınan daha geniş, daha eski gündelik yapay-zekâ etiği tartışmasını değil. Buradaki hiçbir gelenek doğru olarak sunulmuyor. Çok farklı öncüllerden gelen belgeli insanlar bazı uyarılarda birleşiyor ve diğerlerinde keskin biçimde ayrılıyor; herhangi bir tek sesi tartan bir okuyucunun tüm alanı görmesi gerekir.
Katolik öğretisi: on altı ayda iki belge
Katolik Kilisesi hızlı ardışıklıkla yapay zekâ üzerine iki esaslı belge yayımladı. Birincisi, Antiqua et Nova: Yapay Zekâ ile İnsan Zekâsı Arasındaki İlişki Üzerine Not, İnanç Doktrini Dikasteryası ile Kültür ve Eğitim Dikasteryası’ndan ortaklaşa geldi, 14 Ocak 2025’te onaylandı ve Papa Francis tarafından kabul edildi. 117 numaralandırılmış paragraf boyunca, yapay zekânın bahislerini teknik değil antropolojik olarak çerçeveliyor — canlı soru bir makinenin ne hesaplayabileceği değil, belirgin biçimde insan kalanın ne olduğu — ve yapay zekânın “Tanrı’nın yerine bir ikame yaratmasına” karşı açıkça uyarıyor.
İkincisi, Papa XIV. Leo’nun ilk ansiklopedisidir, Magnifica Humanitas, “Yapay Zekâ Çağında İnsan Kişisinin Korunması Üzerine,” 15 Mayıs 2026’da — XIII. Leo’nun Rerum Novarum’unun 135. yıldönümünde — imzalandı ve 25 Mayıs 2026’da yayımlandı. Vatikan ve basın haberciliği, ABD piskoposlarının haberi dahil, merkezi talebini yapay zekânın “silahsızlandırılması,” kontrolünün “birkaç kişinin elinde” bırakılmaması, ve endişesini kontrolsüz yapay zekânın çağdaş silahlı çatışmanın arkasındaki psikolojik mesafeyi genişletirken insan ilişkilerini ve eleştirel düşünmeyi zayıflatması olarak tarif ediyor. İlgili bir argümanı aylar önce, yapay zekânın simüle edilmiş sesi ve varlığı üzerine bir Dünya İletişim Günü mesajında önizlemişti. Bu belge çok yeni olduğu için, doğrudan alıntı yapmak isteyen okuyucuların bu dahil ikincil özetlere güvenmek yerine vatican.va’daki tam metni kontrol etmesi gerekir.
İkisi de daha geniş bir dinler-arası projenin içinde oturuyor: Yapay Zekâ Etiği için Roma Çağrısı, 28 Şubat 2020’de Vatikan’da Papalık Yaşam Akademisi, Microsoft, IBM, BM’nin Gıda ve Tarım Örgütü ve İtalyan hükûmeti tarafından imzalandı, imzacıları insan onuru, kapsayıcılık, şeffaflık, tarafsızlık, güvenilirlik ve güvenlik etrafında inşa edilmiş yapay zekâya taahhüt ediyor. Ocak 2023’te, Yahudi ve Müslüman temsilciler Katolik Kilisesi’yle birlikte imzaladı — yapay zekâ yönetişiminde nadir bir gelenekler-arası uyum örneği.
İslami fıkıh: yorum değil resmî bir hüküm
Yapay zekâ üzerine İslami bilim, yorumdan farklı türden bir belge olan gerçek bir hukuki hüküm üretti. İslam İşbirliği Teşkilatı’nın bir organı olan Uluslararası İslam Fıkıh Akademisi, Doha’daki 26. oturumunda, 4-8 Mayıs 2025’te, “Yapay Zekâ: Hükümleri, İlkeleri ve Etiği” başlıklı 258 (3/26) sayılı Kararı kabul etti. Yapay zekâ geliştirmenin ve kullanmanın varsayılan olarak izin verilir olduğunu, altı gerekliliğe bağlı olarak tutuyor: yasal amaç; kanıtlanabilir net fayda; dini inanca veya sembollere hakaret yok; veri ve hakların korunması; herhangi bir düzeyde güvenliğe tehdit yok; ve kullanımda dürüstlük ve şeffaflık. Karar ayrıca, bağımsız irade ve ahlaki farkındalıktan yoksun olan yapay zekânın kendisinin İslam hukuku altında hiçbir hukuki veya ahlaki hesap verebilirlik taşımadığını doğruluyor — sorumluluk tamamen onu inşa eden, finanse eden veya işleten insanlara aittir — yapay zekânın hukuki kişilik taşıyıp taşıyamayacağının daha fazla çalışmayı hak ettiğini işaretlerken. Yaqeen Enstitüsü’nün maqasid al-shariah — İslam hukukunun amaçları — kavramını yapay zekâya uygulayan makalesi, bir fıkıh akademisinin kurumsal ağırlığı olmadan benzer bir akıl yürütmeyi genişletiyor.
Budist etiği: bir mercek olarak karşılıklı bağımlılık
Yapay zekâ üzerine Budist bilim şimdiye kadar daha akademik ve daha az kurumsal, ama farklı bir kavramsal araç sağlıyor. Hannah Gould ve Keiko Nishimura’nın Cambridge Companion to Religion and Artificial Intelligence (Cambridge University Press, 2023) kitabındaki “The Buddha in AI/Robotics” bölümü, Budist karşılıklı bağımlılık doktrini pratītyasamutpāda’nın — hiçbir şey kendi kendine yeterli bir varlık olarak var olmaz — ayrık, sınırlı ajanlar üzerine inşa edilmiş çerçevelerin sunamadığı bir yapay-zekâ-etiği merceği sunduğunu savunuyor. Bölüm ayrıca Budist geleneklerin ahlaki kişiliğin sınırını nereye çizdiğiyle, bugünün dar sistemlerinden daha kesin biçimde AGI’ye eşlenen bir soruyla ilgileniyor: ahlaki statü, bir zihnin altyapısı yerine deneyiminin kalitesini takip ediyorsa, bir AGI’nin statüsü bir kategori hatası değil canlı bir soru hâline gelir. Dört Yüce Gerçeği algoritmik acıya uygulayan çalışma dahil, yanında daha geçici bir literatür ortaya çıkıyor; bu daha yeni ve daha az yerleşik, ve buradaki atıflar alıntılamadan önce çift kontrol edilmeye değer.
Yahudi hukuku: makine iradesi üzerine bir responsum
Yapay zekâ üzerine en gelişmiş Yahudi hukuki değerlendirmesi mevcut AGI tartışmasından önce geliyor ama onun çoğunu öngördü. Rabbi Daniel Nevins’in responsumu, “Artificial Intelligence, Moral Machines and Halakhah,” Muhafazakâr hareketin Yahudi Hukuku ve Standartları Komitesi tarafından 19 Haziran 2019’da onaylandı — gerçek bir teshuva, bir köşe yazısı değil. Yapay zekâ karar-vermesine irade, sorumluluk ve zarar halakhik kavramlarını uyguluyor, özellikle yaşam-ve-ölüm meselelerinde, yapay zekâ maddi olarak yardım etse bile bir insanın sonuçlardan hesap verebilir kalması gerektiği sonucuna varıyor — şimdi seküler yapay-zekâ-güvenliği politikasında standart olan “döngüde insan” dilini birkaç yıl önceden öngörerek. Torah Musings ve Chabad.org sitelerinden daha yeni yorumlar bunu tikkun olam, dünyayı onarma, yoluyla genişletiyor — yapay zekâ kullanımıyla değerlendiriliyor, kategorik olarak yasaklanmıyor.
Dini bir çerçeve olmadan seküler felsefe
Genel olarak yapay zekâ değil özellikle AGI hakkında en çok atıf yapılan seküler argümanlar, küçük bir filozof grubundan geliyor. Nick Bostrom’un ortogonallik tezi ve araçsal yakınsama — 2012 tarihli “The Superintelligent Will” makalesinde biçimselleştirilmiş ve Superintelligence’ta (2014) genişletilmiş — bir sistemin zekâ düzeyinin hedefleri hakkında hiçbir şey söylemediğini, ve yeterince yetenekli hedef-yönlendirmeli neredeyse herhangi bir ajanın öz-korumaya, kaynak edinimine ve hedeflerinin değiştirilmesine direnmeye yakınsadığını savunuyor. Bu, felaketin neden kötülük gerektirmeyeceğinin felsefi çekirdeğidir. Toby Ord’un The Precipice (2020) kitabı endişeye bir sayı koyuyor: bu yüzyıl için genel varoluşsal risk için kabaca altıda bir, özellikle hizalanmamış yapay zekâdan onda biri — iklim değişikliği, nükleer savaş ve salgınlar için tahminlerinin toplamından daha büyük. Ord’un sayısı çok daha geniş bir yayılmadaki bir veri noktasıdır; alana göre nasıl karşılaştırdığı için bkz. uzman soy-tükenmesi tahminleri neden bu kadar geniş ayrılıyor ve risk tahminleri ve uzman anlaşmazlığı.
Daha kısa, daha ünlü bir eser, Center for AI Safety’nin Yapay Zekâ Riski Üzerine Bildirisi’dir, tek bir cümle, 30 Mayıs 2023’te yayımlandı: “Yapay zekâdan kaynaklanan soy tükenmesi riskini azaltmak, salgın hastalıklar ve nükleer savaş gibi diğer toplum-ölçekli risklerle birlikte küresel bir öncelik olmalıdır.” Gücü kimin imzaladığındadır — aralarında Geoffrey Hinton, Yoshua Bengio, Demis Hassabis, Sam Altman, Dario Amodei, Stuart Russell ve Bill Gates olmak üzere — zaman çizelgeleri ve azaltma stratejisi konusunda başka türlü keskin biçimde anlaşmazlığa düşen insanlar. İki ek iplik tabloyu tamamlıyor. David Chalmers’ın tekillik üzerine 2010 makalesi, bir zekâ patlamasını ciddi bir epistemik olasılık olarak ele alıyor ve süper zeki zihinlerin bilinçli olup olmayacağını ve yüklenmiş bir insanın kişisel kimliğini koruyup korumayacağını soruyor — konunun ilk analitik-felsefe değerlendirmelerinden biri. Ve Robert Long, Jeff Sebo ve tekrar Chalmers’ı içeren bir grup tarafından yazılan “Taking AI Welfare Seriously” (2024), bazı yakın-gelecek yapay zekâ sistemlerinin bilinçli veya sağlam biçimde ajan olacağına dair gerçekçi bir olasılık olduğunu, ve geliştiricilerin bunu şimdi ciddiye alma sorumluluğu olduğunu savunuyor — herhangi bir mevcut sistemin bilinçli olduğuna dair değil, belirsizlik hakkında bir iddia.
Çerçevelerin nerede birleştiği, ve nerede birleşmediği
Beşinin hepsini okuyunca, neredeyse hiç istisnasız tekrarlanan bir iplik var: kontrol, kapasiteden daha önemli. XIV. Leo’nun ansiklopedisi yoğunlaşmış kontrole karşı uyarıyor; fıkıh kararı yapay zekânın izin verilirliğini güvenliği tehdit etmemesine bağlıyor; Nevins’in responsumu bir insanın hesap verebilir kalması konusunda ısrar ediyor; Bostrom’un araçsal yakınsaması yeterince yetenekli herhangi bir sistemin tam olarak o kontrole direneceğini tahmin ediyor. İkinci bir iplik ahlaki statüdür: Budist bilim kişiliğin sınırının nerede olduğunu soruyor; İslami fıkıh yapay zekânın hiçbirine sahip olmadığına, hesap verebilirliği tamamen insanlara yerleştirerek hükmediyor; seküler yapay-zekâ-refahı literatürü, ters yönden, bazı gelecekteki bir sistemin ahlaki değerlendirmeyi hak edip etmeyeceğini soruyor. Gelenekler ürettikleri belge türünde ayrılıyor — bir ansiklopedi bir kararın iddia etmediği bir ahlaki otorite iddia ediyor, ve hiçbiri bir olasılık tahmininin yanlışlanabilirliğini iddia etmiyor. Bunlardan herhangi biriyle ciddiyetle ilgilenmek kendi psikolojik ağırlığını taşıyor; bu kılavuz o ağırlığı doğrudan varoluşsal dehşet ve ahlaki yaralanma sayfasında ele alıyor.
Bunun neden bu kılavuza ait olduğu
Teknik ve politika hazırlığı etrafında inşa edilmiş bir kılavuz bunların hepsini atlayabilirdi. Atlamamalı: bu kurumlar herhangi bir beyaz kâğıttan daha ileri uzanıyor. Düzinelerce ülkede İslami hukuki akıl yürütmeyi bağlayan bir hüküm, ve bir milyardan fazla Katoliğe hitap eden bir ansiklopedi, herhangi bir tek yapay-zekâ-güvenliği makalesinden çok daha fazla insanın AGI hakkında nasıl düşündüğünü şekillendirecek. Bunları burada başka her yerde uygulanan aynı disiplinle kaynaklandırmak bir nezaket değildir; bu kılavuzun yaptığı her iddiadan istediği standarttır.