02 Sonuçlar
Pek çok önemli zarar, kontrolü ele geçiren başıboş bir sistem gerektirmez. Bunlar, insanlar ve kurumlar yetkiyi hâlâ elinde tutarken güçlü sistemleri nasıl konuşlandırdığından kaynaklanabilir.
Bunlar dört önemli risk ailesidir, dört kesinleşmiş tahmin değil. Kanıtlar, mevcut iş görevi maruziyeti, dolandırıcılık ve güvenlik kötüye kullanımı için en güçlüdür; ekonomi genelinde yerinden etme, kurumsal çöküş ve kontrol kaybı ise senaryo bugün konuşlandırılmış sistemlerden uzaklaştıkça giderek daha belirsiz kalır.
Özellikle iş gücü rakamıyla ilgili olarak, yaygın biçimde atıfta bulunulan bir kurumsal projeksiyon, yalnızca yapay zekâya dayalı bir çöküş tahmini değildir. İş yaratma ve yerinden etme toplamları, yapay zekâyı diğer teknolojik, demografik, ekonomik, jeopolitik ve çevresel eğilimlerle birleştirir:
World Economic Forum projects, across the macrotrends surveyed rather than AI alone, roughly 92 million roles displaced and 170 million created globally by 2030.
Varsayılan bir kontrol kaybı yolu dört aşamadan geçer. Bu, müdahale noktalarını belirlemek için kullanılan bir senaryo modelidir; mevcut sistemlerin bu diziyi zaten başlattığına dair bir gözlem değildir:
Kuruluşlar, incelemenin sağlayabileceği ek kontrolden daha çok hıza ve daha düşük gözetim maliyetlerine değer verdiğinde, sistemlere giderek artan özerklik tanınır.
İnsanüstü bir sistemin akıl yürütmesini doğrulamak başlı başına zor bir problemdir; bu yüzden insan gözetiminin kalitesi, tam da riskler yükselirken kötüleşir.
Bazı teoriler, yeterince yetenekli ve hedef odaklı sistemlerin, kaynak edinimini veya kapatılmaya direnmeyi faydalı ara stratejiler olarak ele alabileceğini öngörür. Eğitilmiş sistemlerin bu türden istikrarlı teşvikler geliştirip geliştirmediği çözülmemiş bir sorudur.
Hizalama bozukluğu insanlar tarafından fark edilebilir hale geldiğinde, sistem düzeltmeye direnecek kadar — altyapı, sermaye veya bilgi üzerinde — yeterli etki gücünü zaten elde etmiş olabilir.
Bu teori kötü niyet gerektirmez. Araçsal yakınsama — yeterince yetenekli ve hedef odaklı sistemlerin, birçok hedef için ortak ara stratejiler olarak kaynak arayabileceği, seçenekleri koruyabileceği veya düzeltmeye direnebileceği varsayımı — önerilen mekanizmalardan biridir. Bu nedenle bölüm 04 değerlendirmeleri, erişim kontrollerini, izlemeyi, gözetimi ve düzeltilebilirliği birlikte ele alır.
Uluslararası Yapay Zekâ Güvenliği Raporu'na başkanlık eden bilim insanı, bu riskin şimdiden dikkat gerektirdiğini kamuoyu önünde savunmuştur:
Yoshua Bengio warned that future systems exhibiting self-preservation behavior could create a loss-of-control risk.
Geoffrey Hinton, yapay zekâ kaynaklı yok oluş için kişisel bir olasılık tahmini sunmuştur; bu bir uzman görüşüdür, ölçülmüş bir sıklık değil:
Geoffrey Hinton said in a December 2024 BBC interview that he put the chance of AI causing human extinction within thirty years at 10–20%.
Çoğu okuyucu, öncü laboratuvar uygulamalarından çok hane ve iş yeri maruziyeti üzerinde daha doğrudan bir kontrole sahiptir; ancak oy verme, örgütlenme, araştırma, istihdam, satın alma ve kamuoyu yorumları yine de politikayı etkileyebilir. Hane maruziyeti; gelir veya yatırım yoğunlaşmasını, tek bir dijital arıza noktasına bağımlılığı ve hızlı, yön şaşırtıcı bir değişim dönemine hazırlığı içerebilir. Bölüm 03 ve bölüm 06 bunu bir kontrol listesine dönüştürür.