Bu sayfa ne, ve ne değil
Bu sayfa sayıların kendisi değil, arkasındaki kanıtla ilgili. Manşetleri gördünüz: ciddi bir araştırmacı yapay-zekâ-güdümlü insan soy tükenmesi olasılığının kabaca %20 civarında olduğunu söylüyor, bir diğeri etkin biçimde sıfır olduğunu söylüyor, ve ikisi de uzmanlığa atıfta bulunuyor. Bu sayfa bu tahminlerin nereden geldiğini, neden iki büyüklük mertebesi boyunca yayıldığını, ve — en yararlı biçimde — kimsenin ölçemediği bir miktarla dikkatli bir okuyucunun ne yapması gerektiğini açıklıyor.
Burada tartışılan anket sonuçları ve modeller gözlemlenmiş yayınlardır. Anlaşmazlıklarının ne anlama geldiğinin yorumu analizdir. Bu sayıların kategorik olarak farklı bir sonuç türünü tarif ettiğine dair eşlik eden argüman için bkz. soy-tükenmesine karşı kitlesel-kayıp olayları; kılavuzun tahminlerin daha geniş ele alınışı risk tahminleri ve uzman anlaşmazlığı sayfasında yaşıyor.
Anketler gerçekte ne söylüyor
En büyük ilgili anket, büyük yapay-zekâ konferanslarındaki yazarlar olan binlerce makine-öğrenimi araştırmacısına, gelişmiş yapay zekânın uzun-vadeli etkisi hakkında olasılıklarını sordu. 2023 dalgası, gelecekteki yapay zekâ ilerlemelerinin neden olduğu insan soy tükenmesi veya benzer şekilde kalıcı ve şiddetli iktidarsızlaştırma için kabaca %5’lik bir ortanca tahmin buldu, ortalama yaklaşık %16 ve kabaca %0 ile %19 arasında değişen bir çeyrekler-arası aralıkla (Grace vd., 2024). O dağılımı okuyun, yalnızca ortancayı değil: ortancanın dört katı bir ortalama, uzun bir sağ kuyruk anlamına gelir, uzmanların önemli bir azınlığı %20’nin üzerinde ve bazıları %50’ye yakınken, başka önemli bir azınlık esas olarak sıfırda oturuyor.
Aynı makale, sayının ifadeyle hareket ettiğini belgeliyor. Soru, insanların gelişmiş yapay zekâyı kontrol edememesinin neden olduğu soy tükenmesini belirttiğinde, ortanca kabaca %10’a ikiye katlandı. 2022 dalgası genel olarak yapay zekâdan soy tükenmesi hakkında sorduğunda, ortanca %5’ti; daha erken AI Impacts anket turları çerçevelemeye aynı hassasiyeti gösteriyor (2022 Expert Survey on Progress in AI). Soru yeniden ifade edildiğinde iki kat kayan bir miktar, size yanıtlayıcıların belirsizliği hakkında bir şey söylüyor — ve, açıkçası, ölçülen kavramın gevşekliği hakkında. Bunların hiçbiri anketleri değersiz kılmıyor. Onları hüküm değil ham malzeme yapıyor.
Model-tabanlı tahminler karşı iç güdü yargıları
İkinci bir tahmin ailesi kimsenin sezgisini sormuyor; açık bir argüman inşa ediyor ve her adıma olasılıklar atıyor. En titiz örnek, güç-arayan yapay zekânın varoluşsal bir risk oluşturup oluşturmadığına dair Joseph Carlsmith’in yapılandırılmış analizidir; iddiayı altı bağlaca ayırıyor — sistemler çok daha yetenekli hâle gelecek, güç arayacaklar, insanlar bunu düzeltmekte başarısız olacak, vb. — ve her birinde bir olasılığı savunuyor. Alt satırı, bu yüzyıl için yapay-zekâ-kaynaklı felaket için kabaca %10’a iniyor, dikkatle gösterdiği geniş hata çubuklarıyla birlikte (Carlsmith, 2022). Aynı gelenekte çalışan filozoflar, tek tek bağlaçları tartışarak farklı sayılara ulaşıyor: Toby Ord, The Precipice’ta (2020), hizalanmamış yapay zekâdan bu yüzyıl için kabaca altıda bir genel varoluşsal risk savunuyor, hizalama sorununun daha kötümser bir okumasıyla yönlendirilerek.
Bu modeller anketlerin eksik olduğu bir erdemi paylaşıyor: her adım görünür ve tartışılabilir. İki kusuru paylaşıyorlar. Her adım aynı zamanda tartışılabilir, ki bu yüzden makul okuyucular tek tek bağlaçların işaretini tersine çevirir; ve her adıma eklenen olasılıklar, sonuçta, hâlâ yargılardır. Bir diyagramlı iç güdü yargısı hâlâ bir iç güdü yargısıdır. %10’luk yapılandırılmış bir model ile %0,1’lik bir sezgi arasındaki anlaşmazlık bir ölçüm çatışması değildir. Hangi referans sınıflarının ve hangi başarısızlık modlarının ağırlığı hak ettiğine dair bir çatışmadır.
Referans sınıflarının neden farklı yönlere çektiği
Her tahminin altında bir benzetme oturur, ve benzetmeler gerçekten çatışıyor:
- Biyolojik soy tükenmesi. Türler sürekli tükeniyor; arka plan oranı son on yıllarda yılda kabaca bir ile beş tür arasında. Ama bunlar küçük nüfuslara ve dar aralıklara sahip türler. En yakın insan benzeri, Toba süper-patlaması darboğazı, tartışmalıdır ve medeniyetten tamamen önce gelir. Bu temel oran, size küresel bir teknolojik tür hakkında neredeyse hiçbir şey söylemezken “soy tükenmesi normal bir sonuçtur”a doğru çekiyor.
- Nükleer neredeyse-kaçırmalar. Küba Füze Krizi, 1983 Stanislav Petrov olayı ve 1995 Norveç roketi paniği, maksimum gerilim altındaki sistemlerin neredeyse-başarısızlıklar üretip sonra başarısız olmadığını gösteriyor. İyimserler uzun bir şans-eseri-kurtarılmış olaylar dizisi okuyor; kötümserler aynı diziyi şansın tükendiğinin kanıtı olarak okuyor.
- Teknoloji kazaları. Yolcu uçakları, reaktörler ve uzay araçları ölçülebilir oranlarda başarısız olur ve sonra zorlu-öğrenilmiş yeniden tasarım yoluyla daha güvenli hâle gelir. İyimserler yeniden tasarımı ekstrapole ediyor; kötümserler havacılığın yalnızca bir kez başarılı olmak zorunda olmadığını not ediyor.
Her benzetme dürüsttür. Her biri bir gerçeği değil bir önseli kodluyor. Tahminler ayrılıyor çünkü önseller ayrılıyor, ve önseller ayrılıyor çünkü hiçbirini disipline edecek doğrudan kanıt yok — deneyin tamamlanmış bir turu yok.
Anlaşmazlığın kendisinin size söylediği
İşte çoğu haberciliğin kaçırdığı analitik nokta: varyans bulgudur. Soy-tükenmesi olasılığı kolayca tahmin edilebilseydi, binlerce bilgili uzman sıfıra yakından yazı-tura yakına kadar tahminler üretmezdi. Yayılma, tıpkı vahşice ayrışan hava-durumu modellerinin ortalama tahminin doğru olması gerektiğine değil fırtınanın gerçekten öngörülemez olduğuna dair kanıt olması gibi, bilgi durumu hakkında kanıttır. Uzmanları düzgün bir orta rakama — diyelim %5 — ortalamak, kesinlik hissi yaratırken bilginin hiçbirini miras almaz. Şimdiye kadarki en kapsamlı sentez girişimi olan 2026 International AI Safety Report, şiddetli-risk kanıtının ince, tartışmalı ve bir avuç laboratuvarda yoğunlaşmış olduğu konusunda açık sözlü (International AI Safety Report 2026).
Dağılımın kodladığı bir gerçek daha: anlaşmazlık rastgele değildir. Anketlerde, daha hızlı kapasite ilerlemesi bekleyen araştırmacılar daha yüksek felaket-riski olasılıkları atıyor, ve öncü laboratuvarlardaki araştırmacılar bağımsız akademisyenlerden daha düşük atıyor. Bunun bir kısmı kimin neyi gördüğüne dair kanıttır. Bir kısmı teşviktir. Okuyucular her iki açıklamayı da elde tutmalıdır.
Bu sayıları gerçekte nasıl kullanmalı
Pratik sonuç sayıların işe yaramaz olduğu değildir; doğru araçla kullanılmaları gerektiğidir. Beklenen-değer muhasebesi — kesin bir olasılığı bir getiriyle çarpın ve sonuçları sıralayın — burada başarısız olur, çünkü girdi iki-büyüklük-mertebesi-genişliğinde bir yargıdır ve girdideki küçük hatalar sessizce çıktıya hâkim olur. Derin belirsizlik altında karar-verme farklı çalışır: tüm makul aralık boyunca hangi eylemlerin hâlâ almaya değer olduğunu sorarsınız, ve optimal yerine dayanıklı eylemleri tercih edersiniz.
Yapay-zekâ soy-tükenmesi riskine uygulandığında, bu mantık açıklayıcıdır. Önleme çalışması — kapasite değerlendirmeleri, dağıtım güvenceleri, hesaplama yönetişimi — %20’de, %5’te ve %1’de değerli görünüyor, çünkü çalışmanın maliyeti mütevazı ve koruduğu sonuç sıradan politikada fiyatlandırılmış herhangi bir şeyden kategorik olarak farklı. Reddediş yalnızca sıfıra yakınken savunulabilir görünüyor. Yani anketler, gevşekliklerine rağmen, gerçek bir iş yapıyor: size neredeyse-sıfırın bir fikir birliği değil tartışmalı bir pozisyon olduğunu söylüyorlar. Altta yatan zaman çizelgesi beklentilerinin anlaşmazlığı nasıl yönlendirdiği için bkz. zaman çizelgesi tahminleri. Yangın söndürücüyü satın almayı haklı çıkarmak için yangının olasılığını bilmenize gerek yok. Aynı kanıta bakan ciddi insanların duman kokusu almaya devam ettiğini bilmeniz gerekiyor.