07 Mekanizmalar
En kötü senaryoların ardındaki mekanizmalar
02. bölüm, genel kontrol kaybı mekanizmasını ele alır. Bu bölüm ise araştırmacıların gerçekten incelediği belirli, adlandırılmış yolların kaydıdır — çünkü birini önleyen müdahale, diğerini de mutlaka önlemez.
Bunun neden tek bir senaryo olmadığı
"Yapay zekâ herkesi öldürebilir" ifadesi, yapısal olarak birbirinden farklı birçok hata modunu tek bir imgede sıkıştırır. Bu sıkıştırma bir manşet için işe yarar ama önleme için işe yaramaz, çünkü bir mekanizmayı ele alan teknik ve politika müdahaleleri diğeri için çok az işe yarayabilir — örneğin büyük bir eğitim çalıştırmasına getirilen kontroller, tek başına zaten dağıtılmış bir modelin kötüye kullanımını önlemez. Birkaç büyük laboratuvarla bağlantılı kişiler de dâhil olmak üzere 350'den fazla araştırmacı ve yönetici, 2023'te politika yapıcıları yok oluş riskini küresel bir öncelik olarak ele almaya çağıran tek cümlelik bir bildiriyi imzaladı. Bu, önde gelen imzacıların savunduğu bir tutumu kaydeder; zararın olasılığını ölçmez:
Signatories to the Statement on AI Risk hold that mitigating the risk of extinction from AI should be a global priority alongside pandemics and nuclear war.
safe.ai, Signed statement
Üç geniş aile
2026 Uluslararası Yapay Zekâ Güvenliği Raporu üç geniş aile kullanır. Kötüye kullanım, bir insanın yapay zekâ yeteneğini kitlesel zarara — tasarlanmış salgınlara, altyapı saldırılarına veya özerk silahlara — kasıtlı olarak yöneltmesidir. Arızalar, güvenilirlik hataları ve sistemlerin kimsenin kontrolü dışında çalıştığı olası kontrol kaybı senaryolarını içerir. Sistemik riskler, yaygın dağıtım ve kurumsal etkileşim yoluyla ortaya çıkar; yoğunlaşma, iş gücü bozulması ve kademeli insan iradesizleşmesi bunlara dâhildir. Kategoriler örtüşebilir ve kanıt gücü mekanizmalar arasında farklılık gösterir. Raporun başkanı, kontrol kaybını kamuoyu önünde vurgulamıştır:
Yoshua Bengio warned that future systems exhibiting self-preservation behavior could create a loss-of-control risk.
AFP, via TechXplore, Secondary coverage
Geoffrey Hinton da kişisel bir olasılık tahmini sunmuştur. Bu, belirsizlik altında bir uzman görüşüdür, ölçülmüş bir sıklık değil:
Geoffrey Hinton said in a December 2024 BBC interview that he put the chance of AI causing human extinction within thirty years at 10–20%.
BBC Radio 4, reported by The Guardian, Secondary coverage
Bu bölüm ne yapmaz
Her sayfa, belgelenmiş kanıtı tahminlerden ve teoriden ayırırken araştırmacıların önerdiği azaltım önlemlerini de adlandırır. Hiçbiri sentez, istismar veya saldırı ayrıntılarını tarif etmez — bu bilgi bir okuyucuyu daha güvenli kılmaz ve bunu yayınlamak bilinçli hazırlığın gerektirdiği bir şey değildir. Önemli iddiaların nasıl sınıflandırıldığını ve incelendiğini görmek için kaynak standardına bakın.