Bir yüzde bir ölçüm değil, bir yargıdır
Bir araştırmacı, gelişmiş yapay zekânın insan neslinin tükenmesine neden olma olasılığının yüzde 10 olduğunu söylediğinde, sayı tekrarlanan tarihler boyunca ölçülen bir sıklık değildir. Yetenek, dağıtım, kurumlar, çatışma ve birçok belirsiz adım hakkındaki inançları özetleyen öznel bir olasılıktır. Başka bir uzman “varoluşsal risk”i kalıcı insan güçsüzleştirmesini içerecek şekilde kullanabilirken bir manşet yalnızca soy tükenmesini bildirir.
Bu tür tahminler, özellikle sonuçlar çok büyük olduğunda kararları bilgilendirebilir, ama yerleşik bilimsel sabitler olarak sunulmamalıdır. Konuşmacı, tarih, kesin soru, zaman ufku, sonuç tanımı, kanıt ve belirsizlik hepsi önemlidir. Ünlü bir bilim insanının kişisel tahmini kişisel bir tahmin olarak kalır.
Karşılaştırmadan önce sonucu tanımlayın
Yaygın olarak en az dört sonuç birbirine karıştırılır:
- ciddi zarar: büyük can kayıpları, ekonomik kayıp veya hak ihlalleri;
- küresel felaket: insanlığın büyük bir kısmını veya belirtilen bir ölüm oranını etkileyen zarar;
- insan neslinin tükenmesi: hayatta kalan hiçbir insan popülasyonu yok;
- varoluşsal felaket: soy tükenmesi veya insanlığın uzun vadeli potansiyelinin geri döndürülemez şekilde yok edilmesi, bazen kalıcı ciddi güçsüzleştirmeyi de içerecek şekilde.
Tahminler, yapay zekânın sonuca neden olup olmadığını, gerekli bir katkıda bulunup bulunmadığını veya yalnızca zincirin bir yerinde görünüp görünmediğini sorabilir. On yılı, 2100 yılını veya tüm gelecek zamanı kapsayabilirler. On yıl üzerinden yüzde birlik bir tahmin, bir yüzyıl üzerinden yüzde beşlik bir tahminle doğrudan karşılaştırılamaz.
Teknolojinin tanımları da değişir: mevcut genel amaçlı yapay zekâ, “yüksek düzeyde makine zekâsı”, AGI, süper zekâ veya herhangi bir gelecekteki yapay zekâ. Her zaman orijinal ifadeyi koruyun.
Büyük araştırmacı anketinin bulduğu
2023 Yapay Zekâda İlerleme Üzerine Uzman Anketi, önde gelen yapay zekâ mecralarından yazarları davet etti ve 2.778 araştırmacıdan yanıt aldı. Yayımlanan analizi, zaman çizelgeleri ve etkiler konusunda geniş bir anlaşmazlık buldu. Katılımcıların çoğu, süper insan yapay zekâdan iyi sonuçların kötü sonuçlardan daha olası olmasını bekliyordu, yine de birçoğu son derece kötü sonuçlara önemsiz olmayan bir olasılık atadı. Makale ayrıca yanıtların soru çerçevelemesiyle değiştiğini buldu (Grace ve ark., “Binlerce Yapay Zekâ Yazarı Yapay Zekânın Geleceği Hakkında”).
Bu “yapay zekâ uzmanları soy tükenmesinin muhtemel olduğu konusunda hemfikir” ifadesini desteklemiyor. Daha dar bir iddiayı destekliyor: anket yapılan araştırmacıların önemli bir kısmı, iyimserlik ve geniş dağılımla birlikte, aşırı sonuçları anlamlı bir olasılık atayacak kadar makul buldu. Bu ankette ve diğerlerinde soy-tükenmesine-özgü yanıtların neden bu kadar geniş bir şekilde ayrıştığına daha yakından bakmak için bkz. uzman soy tükenmesi tahminleri neden bu kadar geniş ayrışıyor.
Anket sınırlamaları; yanıtsızlığı, risk analizinde farklı uzmanlığı, istikrarsız tanımları ve sezgisel endişeyi kalibre edilmiş olasılıklara çevirmenin zorluğunu içerir. Önde gelen bir yapay zekâ konferansında yayın yapmak, jeopolitik veya yüzyıl-ölçeğinde sosyal değişim hakkında tahmin becerisini değil, teknik deneyimi kurar. Medyan cevaplar ayrıca kutuplaşmayı ve yanıtlayanlar arasındaki korelasyonları gizler.
Tahmin turnuvaları başka bir anlaşmazlığı ortaya çıkarıyor
Varoluşsal Risk İkna Turnuvası, kısa vadeli tahminde kayıtlara sahip 80 konu-alanı uzmanını ve 89 süper-tahminciyi bir araya getirdi. Katılımcılar; yapay zekâ, nükleer, biyolojik ve diğer riskleri ortak tanımlar altında tahmin etti, argümanlar değişti ve güncelledi (Tahmin Araştırma Enstitüsü XPT).
Ortaya çıkan hakem-denetimli analiz, özellikle yapay zekâ için alan uzmanları ve süper-tahminciler arasında büyük farklılıklar buldu (Karger ve ark., International Journal of Forecasting). Bu, yanlış fikir birliğine karşı değerli bir kanıttır. Daha düşük veya daha yüksek grubun doğru olduğunu kanıtlamıyor.
Süper-tahminciler birçok çözülebilir, kısa-ufuklu soruda kalibrasyon gösterdi. Yüzyıl-ölçeğinde soy-tükenmesi soruları katılımcıların kariyerleri içinde puanlanamaz ve yüzde birin altındaki nadir olasılıklar özellikle doğrulanması zordur. Alan uzmanları mekanizmaları daha iyi anlayabilir ama endişe nedeniyle bir alana seçilmiş olabilir ve tahmin kalibrasyonundan yoksun olabilir. Gruplar farklı güçler ve önyargılar getiriyor.
Uzmanlar neden anlaşmazlığa düşüyor
Yetenek varsayımları: Mevcut yöntemler sağlam özerklik, bilimsel keşif ve stratejik planlama mı üretecek, yoksa güvenilirlik ve cisimleşme zor mu kalacak?
Zaman çizelgesi varsayımları: Dönüştürücü yetenek beş yıl içinde mi yoksa elli yıl içinde mi geldiğine bağlı olarak risk farklı birikir. Kurumların daha yavaş ilerleme altında uyum sağlamak için daha fazla zamanı vardır, ama daha fazla aktör erişim kazanabilir.
Hizalama varsayımları: Araştırmacılar, gelişmiş sistemlerin kalıcı hedefler geliştirip geliştirmeyeceği, mevcut eğitimin bunları kontrol edip etmeyeceği ve gözlemlenebilir öncül kanıtın tahminleri ne kadar hareket ettirmesi gerektiği konusunda anlaşmazlığa düşüyor.
Güç ve dağıtım varsayımları: Araçları veya yetkisi olmayan yetenekli bir model, para, kod, laboratuvarlar veya altyapıyı kontrol eden geniş çapta dağıtılmış bir ajandan farklıdır.
Yönetişim varsayımları: Rekabet, askeri çatışma, yoğunlaşmış sahiplik, düzenleme ve uluslararası koordinasyon teknik belirsizliğe hâkim olabilir.
Ahlaki tanımlar: İnsan kontrolünün kalıcı kaybı bir tahminci için varoluşsal zarar sayılabilir, bir diğeri için sayılmayabilir.
Bir manşet sayısı bu modelin tamamını sıkıştırır. İyi raporlama onu yeniden genişletir.
Kalibrasyon zor ama isteğe bağlı değil
Birçok olaya yüzde 20 atayan kalibre edilmiş bir tahminci, zamanın beşte birinde haklı olmalıdır. Kalibrasyon yalnızca karşılaştırılabilir, çözülmüş bir soru kümesi üzerinde ölçülebilir. 2100’e kadar bir soy tükenmesi tahminini bugün doğrudan kalibre edemeyiz.
Tahminciler, yolu daha yakın, gözlemlenebilir sorulara ayrıştırarak disiplini yine de iyileştirebilir: model özerkliği, araştırma otomasyonu, güvenlik önlemi başarısızlıkları, dağıtım ölçeği, olay oranları ve yönetişim benimsemesi. Bu tahminler daha erken çözülebilir ve hangi varsayımların yanlış olduğunu ortaya çıkarabilir.
Temel oranları dikkatle kullanın. İnsanlığın AGI geçişlerine dair tarihsel bir örneği yok. Nükleer silahlarla, salgınlarla, siber güvenlikle, endüstriyel kazalarla veya yazılım benimsemesiyle yapılan benzetmeler kısmi kanıt sunar, doğrudan bir referans sınıfı değil. Mekanistik modeller ayrıca bağımlı adımlar boyunca spekülatif olasılıkları birleştirme riski taşır.
Bilimsel sentez tek bir olasılık atamıyor
Uluslararası bir uzman süreci aracılığıyla yazılan 2026 Uluslararası Yapay Zekâ Güvenliği Raporu, belgelenmiş kötü niyetli kullanımı ve güvenilirlik başarısızlıklarını hipotezleştirilmiş kontrol-kaybı senaryolarından ayırıyor. Mevcut sistemlerin kontrol kaybı için gereken yeteneklerden yoksun olduğunu, ilgili becerilerin geliştiğini ve uzmanların olasılık ve şiddet konusunda önemli ölçüde anlaşmazlığa düştüğünü belirtiyor (Uluslararası Yapay Zekâ Güvenliği Raporu 2026).
Bu bir “fikir birliği olasılığı” değildir. Kanıtın ciddi riskler ve büyük belirsizlik içerdiği konusunda bir fikir birliğidir. Bilimsel değerlendirme, tek bir felaket şansı bildiğini iddia etmeden mekanizmaları, gözlemleri, boşlukları ve güvenlik önlemlerini tanımlayabilir.
Kamuya açık bir tahmin nasıl sunulur
Sorumlu bir girdi şöyle görünmelidir:
[Tarih]’te, [kişi veya grup], [teknoloji tanımı] altında, [ana nedenlere] dayanarak, [zaman]’a kadar [tam sonuca] [olasılık veya aralık] atadı. Bu, gözlemlenmiş bir sıklık değil, [kişisel yargı, anket toplamı veya yapılandırılmış tahmin]dir.
Mümkün olduğunda dağılımı ekleyin. Anketler için yanıt oranını ve örnek seçimini bildirin. Ortalamayı medyandan ve koşullu olasılığı koşulsuzdan ayırın. Tahminlerin sessizce üzerine yazılmak yerine değerlendirilebilmesi için revizyonları koruyun.
Uyumsuz soruları ortalamayın. Bir anketin “kalıcı güçsüzleştirme” tahminini bir turnuvanın “nüfus 1.000’in altında” tahminiyle birleştirmek, tutarlı bir anlamı olmayan bir sayı yaratır.
Anlaşmazlık altında karar verme
Politika kesinlik gerektirmez. Düşük-olasılıklı, yüksek-sonuçlu riskler; bu önlemlerin senaryolar genelinde faydaları olduğunda araştırmayı, izlemeyi, dayanıklılığı ve geri döndürülebilir güvenlik önlemlerini haklı çıkarabilir. Müdahalenin maliyeti ve yan etkileri de önemlidir. Tekeli kalıcılaştıran, meşru bilimi bastıran veya jeopolitik istikrarsızlığı artıran bir önlem başka riskleri artırabilir.
Sağlam önlemler; bağımsız değerlendirmeleri, olay bildirimini, model güvenliğini, acil durum müdahalesini, biyolojik savunmayı, siber güvenliği, nükleer kullanım üzerinde insan kontrolünü ve net hesap verebilirliği içerir. Geniş bir olasılık aralığında yararlı kalırlar.
Farklı risk toleransları meşru siyasi sorulardır. Uzmanlar kanıtı bilgilendirebilir ama toplumun yeniliği, özgürlüğü, dağıtımı, güvenliği ve belirsiz gelecekteki zararı nasıl takas ettiğine tek başına karar veremez.
Bir kabileyi savunmak yerine güncelleme
Kanıt değiştiğinde tahminler değişmelidir. İlgili güncellemeler; sürdürülen uzun-görev özerkliğini, doğrulanmış yapay-zekâ-üretimi araştırma ilerlemelerini, gerçek-dünya güvenlik önlemi başarısızlıklarını, başarılı gözetimi, büyük yasaları veya kalıcı yetenek platolarını içerir. Bir tahminci, tahmini yukarı veya aşağı ne hareket ettirecebileceğini belirtmelidir.
Entelektüel çeşitlilik değerlendirmeyi iyileştirir. Teknik şüphecileri, güvenlik araştırmacılarını, sosyal bilimcileri, tahmincileri, alan uzmanlarını, etkilenen toplulukları ve politika yapıcıları dahil edin. Anlaşmazlık “iyimserler” ve “kıyametçiler”e indirgenmek yerine varsayımlara göre haritalanmalıdır.
Pratik sonuç
Uzman tahminleri, felaket niteliğindeki yapay zekâ riskinin birçok nitelikli kişi tarafından ciddiye alındığını ve diğerleri tarafından şüpheyle karşılandığını gösteriyor. Ölçülmüş bir olasılık veya oybirliğiyle bilimsel bir görüş kurmuyorlar. Anketler inançları ortaya çıkarır; turnuvalar tahmin disiplini dayatır; teori yolları açıklar; değerlendirmeler bileşenleri test eder; dağıtım gerçek-dünya kanıtı sağlar.
En dürüst kamu konumu, yapılandırılmış belirsizliktir: sonucu tanımlayın, aralığı gösterin, varsayımları ortaya çıkarın, mümkün olduğunda kalibrasyonu izleyin ve birkaç makul gelecek altında değerli kalan güvenlik önlemlerini seçin.