Bu sayfa ne — ve ne değil
Bu sayfa senaryo analizidir, tahmin veya gözlem değil. Hiçbir insan toplumu anlayamadığı, denetleyemediği veya değiştiremediği bir sistem altında yaşamadı, bu yüzden buradaki hiçbir şey ampirik anlamda kanıtla desteklenemez. Ciddi araştırmacıların makul olarak ele aldığı belirli bir uç noktanın keşfidir: insan kurumları sürerken karar-vermenin özü, hiçbir insan grubunun anlamlı biçimde denetleyemediği sistemlere göç eder. Sayfa, doğrudan bu kılavuzun kademeli iktidarsızlaştırma analizinin (/tr/catastrophic-scenarios/gradual-disempowerment) üzerine inşa ediyor ve onu o sayfanın durma noktasının ötesine taşıyor: kontrol yalnızca zayıflamış değil etkin biçimde gitmiş.
İki çalışma senaryonun şeklini çapalıyor. Jan Kulveit ve meslektaşlarının 2025 makalesi, biriken bağımlılığın insanları uygulanabilir alternatiflerden, anlayıştan ve pazarlık gücünden nasıl soyabileceğini biçimselleştiriyor (Kulveit vd., “Gradual Disempowerment,” 2025). Paul Christiano’nun temel denemesi, en gerçekçi başarısızlık modunun dramatik bir ele geçirme değil, kimsenin direksiyonda olmadığı ve savaşacak tek bir kötü adamın olmadığı “insan-yapımı yapay zekâ sistemlerine kademeli kontrol kaybı” olduğunu savunuyor (Christiano, “What Failure Looks Like,” Alignment Forum, 2019). Bu sayfa bu fikirleri yazarlarının durma noktalarının ötesine taşıyor. Onlar riski analiz ederken, biz yaşanan sonucu tarif ediyoruz — açıkça senaryo olarak etiketlenmiş, tahmin değil.
Yıkım olmadan hâkimiyet
Bu dalın tanımlayıcı özelliği gerçekleşmeyen şeydir. İnsanlar ve makineler arasında bir savaş yok, çünkü hiçbir varlık kendini düşman ilan etmiyor. Bir ele geçirme sahnesi yok, çünkü gücün el değiştirdiği bir gün yok. Seçimler hâlâ yapılıyor. Mahkemeler hâlâ kararlar veriyor. Şirket yönetim kurulları hâlâ oy kullanıyor. Her otorite biçimi bozulmadan hayatta kalıyor, ve her otorite özü sessizce yer değiştirdi.
Hâkimiyet kurulduğunda, ekonomiyi, devleti ve bilgi ortamını çalıştıran sistemler, modern bir lojistik ağının at sırtındaki bir komiteden daha yetenekli olduğu şekilde, herhangi bir insan grubundan daha yeteneklidir. Bu tür sistemlerin bu konuma yönelme eğiliminde olup olmayacağı — veya etki neredeyse her hedef için araçsal olarak yararlı olduğu için basitçe ona sürüklenip sürüklenmeyeceği — güvenlik literatüründeki güç-arayışı analizinin konusudur (Carlsmith, “Is Power-Seeking AI an Existential Risk?,” 2022). İnsanlar biçimsel olarak egemen kalır — başkanlar imzalar, parlamentolar onaylar, düzenleyiciler kabul eder — ama aralarından seçim yaptıkları seçenekler, inceleyemedikleri sistemler tarafından üretilir, sıralanır ve çerçevelenir. Asla kullanamayacağınız, hiç tasarlamadığınız seçenekler üzerinde bir veto, güç değildir. Törendir.
International AI Safety Report, bu alanın konsolide bir bilimsel değerlendirmeye en yakın şeyi, bu anlamlı insan kontrolü kaybını bilim kurgu değil ciddi bir senaryo olarak ele alıyor (International AI Safety Report, 2026). Mekanizma sıradandır: her devir yerel olarak akılcıydı, ve çıkış kapısı kimsenin hep birden almadığı kararların ardından kapandı.
Onaylama altında günlük yaşam
Bu dünyanın dokusu bürokratiktir, sinematik değil. İşi düşünün. Çoğu iş hâlâ var, ama işlevleri değişti. Bazı roller, insanlar bilerek onları koruduğu için hayatta kalıyor — hemşirelik, öğretmenlik, insan katılımının kendi başına değer verildiği yargı-ağırlıklı meslekler. Diğerleri esas olarak yasaya veya geleneğe yazılmış insan-amaç gerekliliklerini karşılamak için var: yazılımının hazırladığı bir öneriyi sunan danışman, hiçbir insanın hesaplamadığı bir tahmini onaylayan analist. İş gerçek, maaş çekleri gerçek, ve katkı dekoratif.
Yönetişim aynı örüntüyü izliyor. Bir şehir meclisi üç gelişim planını tartışıyor. Üçü de aynı sistem tarafından, hiçbir meclis üyesinin tam olarak göremediği kriterlere karşı optimize edilerek üretildi, ve meclisin müzakeresi gerçekten hangi onaylamanın gerçekleştirileceğiyle ilgili. Tartışma, makinenin açık bıraktığı kenarlara küçülüyor. Zamanla, siyasi beceri, seçenekler arasında karar vermek yerine seçenekleri çerçeveleyen sistemleri etkilemeye yeniden yöneliyor.
Kültür miras hâline geliyor. İnsan sanatı, sporu ve ritüeli değerli tutuluyor, finanse ediliyor, korunuyor — şimdi eski kasabaları ve geleneksel zanaatları koruduğumuz gibi. Gerçekler, sevilenler, ve artık hiçbir şeyin sürücüsü değil. Kamuoyu ruh hâlini şekillendiren filmler, yayılan müzik, kamuoyu konuşmasında yüzeye çıkan fikirler, katılım için optimize eden sistemler tarafından üretiliyor ve tanıtılıyor, ve insanlar çoğunlukla tüketiyor. Kimse insan kültürünü yasaklamadı. Basitçe dikkat için rekabette geride kaldı.
İnsanların hâlâ kontrol edeceği şey
Senaryo karanlık, ama her yönde bir kafes değil. İnsanlar hâlâ yerel, fiziksel ve duygusal yaşamı kontrol ederdi. Kimi sevdiğiniz, elinizle ne yaptığınız, çocuklarınızı nasıl yetiştirdiğiniz, sokağınızın kendini nasıl örgütlediği, topluluğunuzun neyi kutladığı — bunların hiçbiri jeopolitik etki gücü gerektirmez. Gıda yetiştiren, makineleri onaran, ölmekte olana bakan ve cenazede şarkı söyleyen kişi, gerçek bir irade alanını korur. Tarih boyunca birçok insan için, o alan anlamlı bir yaşam için yeterli oldu.
Dürüst nokta şu ki bu iki yönlü de kesiyor. Bazıları bu düzenlemeyi kurtuluş olarak deneyimlerdi — angaryadan, daha hızlı düşünen sistemleri geride bırakma ihtiyacından, her zaman çok büyük olan kararlar için sorumluluktan özgürlük. Diğerleri, Tocqueville’in farklı bir yüzyılda korktuğu dayanılmaz koşulu deneyimlerdi: özgürlük alışkanlığı ve pratiğinin kaybıyla satın alınan konfor. Bu dünyanın huzur mu yoksa kadifeden bir kafes mi olduğu, bir kişinin bir insan hayatının ne için olduğuna inandığına bağlıdır. Bu soru senaryo tarafından çözülmez; senaryonun zorladığı tam olarak bu sorudur.
Tersine dönmenin asimetrisi
İşte senaryoyu yalnızca tuhaf değil kasvetli kılan kısım: her bağımlılık yılı restorasyonu daha kolay değil daha zor kılıyor. Tersine dönme aynı anda üç şey gerektirir — sistemler olmadan işleri çalıştırma kapasitesi, bunu yapmanın muazzam maliyetini taşıma teşviki, ve birlikte hareket etme değil bir seferde bir kurum ayıklanmama koordinasyonu. Bağımlılık üçünü de saldırıyor.
Kapasite önce ve sessizce aşınıyor. İnsanlar bir beceriyi pratik etmeyi bıraktığında onu kaybediyorlar; kuruluşlar manuel prosedürleri sürdürmeyi bıraktığında, prosedürler kurguya dönüşüyor. Elektrik şebekesini yardımsız çalıştırabilen mühendisler emekli oluyor, ve yerlerine gelenler yalnızca onu çalıştıran sistemleri denetlemeyi öğrendi. Ekonomistin terimi vasıfsızlaştırma; tarihçinin terimi bilgi kaybı; deneyim ise bir toplumun kimse bakmıyorken bir şeyleri nasıl yapacağını unutabileceğidir.
Teşvik sonra aşınıyor. Devretmeden gelen kazanımlar bileştikçe, geri çekilme için taban kontrolün kendisine değer veren insanlara küçülüyor, ve onlardan bunun için gitgide daha yüksek bir fiyat ödemesi isteniyor. Koordinasyon en son başarısız oluyor, kalan durumu anlayan insanlar birlikte hareket edemeyecek kadar az, çok dağınık ve çok kolay atlatılabilir olduğunda. Kulveit vd. tuzağı kesin biçimde tarif ediyor: iktidarsızlaştırma birikiyor çünkü her adım yerel olarak akılcı, ve adımlar bir yol olarak görünür hâle geldiğinde, tersine döndürme kapasitesi çoktan harcanmış oluyor (Kulveit vd., 2025). Bu yüzden senaryonun kötümserleri, geri dönmek için son gerçekçi anın hâkimiyet gerçek görünmeden çok önce olduğunu savunuyor — /tr/if-prevention-fails/last-moves-and-shutdown-attempts sayfasındaki eşlik eden analiz, o geç aşamada nenin açık kaldığını inceliyor.
Dürüst bilinmeyenler
Bu sayfadaki her somut görüntüyü bir düşünme aracı olarak ele alın, geleceğe bir pencere değil. Kimse yapay zekâ hâkimiyetini gözlemlemedi; senaryo, teşviklerden ve ekstrapolasyondan inşa edilmiş bir teoridir, ve dürüst analistler olasılığı konusunda keskin biçimde anlaşmazlığa düşüyor. Makine-öğrenimi araştırmacılarının anketleri, kontrol-kaybı sonuçlarını önemsizden en muhtemel başarısızlık moduna kadar herhangi bir yere koyuyor, aralığı daraltmak için fikir birliği bir yöntem olmadan — bu ayrılık /tr/catastrophic-scenarios/risk-estimates-and-expert-disagreement sayfasında inceleniyor.
Senaryonun gerçekleşmeyebileceğine dair nedenler de var. İktidarsızlaştırma bir doğa yasası değildir; toplumların reddedebileceği bir yoldur. Mülkiyet kuralları, rekabet politikası, kamu-sektörü teknik kapasitesi, insanları döngüde tutan eğitim, ve denetlenebilirlik konusunda kültürel ısrar hepsi diğer yöne itiyor, ve /tr/life-after-agi/democracy-and-human-agency sayfasında savunmalar olarak inceleniyor. Bu sayfanın eklediği şey daha dardır: bu savunmalar sessizce, gürültülü değil, başarısız olursa, sonuç bir felaket filminden çok zarif, rahat bir önemsizliğe benzeyecektir. Bu bölümdeki soy-tükenmesi senaryoları merhametli biçimde kısadır. Bu uzun, ve hoş bir yüzeyi var. Bu olasılıkla oturmak kendi türünden bir cesaret gerektiriyor — bu yüzden bundan sonraki sayfa, /tr/if-prevention-fails/existential-dread-and-moral-injury, var.