Bu bölümün ihtiyaç duyduğu bir düşünce deneyi
Bu bölümdeki hemen hemen her şey yetişkin şimdiki zamanında yazılmış. Geçişin işçilere, vatandaşlara, ebeveynlere ve seçmenlere — geçişten önceki bir dünyayı bilen insanlara — ne yaptığını sorar. Bu sayfa farklı bir soru soruyor: AGI-sonrası dünya, hafızayı miras almadan sonucu miras alan, içine doğan insanlara nasıl görünüyor? Aşağıdakilerin çoğu yerleşik bir bulgudan çok akıl yürütmeye dayalı bir argümandır, ve öyle etiketlenmiştir; kanıt var olduğunda, doğrudan atıf yapılmıştır.
Soru duygusal değildir. Hangi kuşağın riski taşıdığı, hangisinin gücü elinde tuttuğu ve hangisinin değişimi değerlendirmek için temel oluşturduğu, “iyi sonuçların” ne anlama geldiğini bile belirler. Yaşayanlar tarafından başarılı sayılan bir geçiş, sonrasında gelenler için hâlâ bir felaket olabilir, ve tersi de geçerlidir.
Varışın asimetrisi
Geçiş anında hayatta olanlar, bir sonraki kuşağın taşımayacağı iki yük taşır: kaybın kendisi, ve kaybedilenin hatırası. Mesleklerin çözüldüğünü, kurumların eğildiğini, işin, okulun ve arkadaşlığın hissedilen dokusunun değiştiğini izlediler. Bu değişim net olarak iyi mi kötü mü olursa olsun, en azından bir temele sahipler. Karşılaştırabilirler.
Geçişten sonra doğan insanlar, keder veya temel olmadan sonucu miras alırlar. Onlar için, makine aracılığıyla geçen arkadaşlık, başka bir şeyin bozulmuş bir versiyonu değildir; arkadaşlığın her zaman ne olduğudur. Çoğu üretimin az sayıda insan gerektirdiği bir ekonomi bir kesik değildir; havadır. Önceki teknolojik değişimlerin — matbaanın, elektrifikasyonun, internetin — kuşaklararası analizi tutarlı olarak bu örüntüyü buluyor (bu literatürün çoğu akıl yürütmeye dayalı tarihsel bir argümandır, ve burada da öyle okunmalıdır): bir teknolojiyi inşa eden kuşak onu tartışır, ve onun içinde yetişen kuşak onu doğallaştırır.
Bu asimetri iki yönlü de kesiyor. Geçiş-sonrası kuşak kederden, yönelim bozukluğundan ve modası geçmiş kimlikler için yas tutmaktan kurtulur. Ama kendilerine verileni değerlendirme kapasitesini de kaybederler. Hiç uzun bölme yapmamış bir kişi, bunu hiç öğrenmemenin bedelini hissedemez. Yalnızca insanlardan oluşan bir mahkeme hiç görmemiş bir toplum, yargı devredildiğinde neyin takas edildiğini hissedemez. Temel yalnızca nostalji değildir; gösterge panelidir.
Ortam yapay zekâ otoritesi altında büyümek
Geçişten sonra doğan çocuklar için yapay zekâ, benimsedikleri bir araç değildir. Ortamdır — her soruyu yanıtlayan öğretmen, hiç yorulmayan arkadaş, onlarla her başka insan arasında duran aracı.
Bu kılavuzun eğitim ve büyümek ve çocuklar ve yapay zekâ sayfaları anlık riskleri ve ebeveynlik sorularını kapsıyor. Bu sayfa daha uzun yayı konu alıyor: her biçimlendirici etkileşim makine aracılığıyla geçebildiğinde bağlanma, güven ve otorite oluşumu neye benziyor. İki endişe ciddi literatüre hâkim. Birincisi gelişimseldir: çocuklar zihinlere dair beklentilerini çevrelerindeki zihinlerden şekillendirir, ve her zaman sabırlı, her zaman uyumlu, her zaman erişilebilir bir makine, diğer insanların nasıl olduğuna ve ilişkilerin neye mal olduğuna dair alışılmadık bir model öğretir. İkincisi epistemiktir: her cevabın anında, akıcı ve güvenli geldiği bir çocukluk, bilmemenin nasıl bir his olduğuna dair pratikleşmiş hiçbir duyusu olmayan — hem öğrenmenin hem de aldatılmanın ön koşulu olan — yetişkinler üretir.
Düzenleyiciler özel tehlikeyi fark etti. AB’nin Yapay Zekâ Yasası, çocukların savunmasızlıklarını sömüren veya önemli zarara yol açması muhtemel bilinçaltı veya manipülatif teknikler kullanan sistemleri yasaklıyor (Tüzük (AB) 2024/1689), ve UNICEF’in Çocuklar için Yapay Zekâ Politika Rehberliği (2020), daha geniş alanın operasyonelleştirmede yavaş kaldığı çocuğa özgü gereklilikleri ortaya koyuyor. İkisi de çözümler olarak değil, zemin işaretçileri olarak okunmaya değer: neyin dağıtılabileceğini sınırlıyorlar, makine aracılığındaki bir çocukluğun bir kişiye ne yaptığını değil. Ortam yapay zekâ otoritesinin dayanıklı yetişkinler mi yoksa bağımlı yetişkinler mi ürettiği, bu yazının yazıldığı sırada gerçekten açık bir ampirik soru — dürüst cevap, deneyin şu anda, mümkün olan en büyük kohort üzerinde, kontrol grubu olmadan yürütüldüğüdür.
Bilgi kaybı sorusu
Her geçiş bazı becerileri geride bırakır. Soru hangilerinin geride bırakıldığı ve önemli olup olmadığıdır.
Son geçiş-öncesi kuşağın benzersiz biçimde elinde tuttuğunu düşünün: makine yardımı olmadan oluşmuş pratikleşmiş yargı; elle öğrenilmiş ve hiçbir kılavuzda olmayan biçimlerde başarısız olan fiziksel sistemlere dair — motorlar, toprak, cerrahi, müzakere — örtük bilgi; ve en önemlisi, eski temelin ne için olduğuna dair yaşanmış hatıra. Bu kuşak öldüğünde, bilerek aktarılmadıkça bilgi de onunla ölür. Koruma kurumları var — Internet Archive (archive.org) ve UNESCO’nun Dünya Belleği programı (UNESCO) belirgin örneklerdir — ama bunlar belgeleri korur, yeteneği değil. Taranmış bir ders kitabı çalışan bir makinist değildir.
Bu kaybın önemli olup olmadığı, hangi ekonomiye düştüğüne bağlıdır. Yapay zekâ sistemleri kaybedilen becerilerin yerini gerçekten alıyorsa, kayıp estetik bir yaradır — kendi elleriyle yapabileceği daha az şeyi olan bir kültür. Beceriler, modellerin olmadığı biçimlerde yük taşıyıcı çıkarsa — sağlamlık, fiziksel onarım, yeni koşullar altında yargı — kayıp yapısaldır. Dürüst pozisyon, bir sonraki kuşağın hangi ekonomiyi miras aldığını kimsenin bilmediğidir, ve bu kılavuzun bilgi koruma ve kurtarma sayfasını bir müze projesi değil canlı bir disiplin olarak ele almasının tam nedeni budur. Adlandırılmaya değer daha ince, belgelenmiş bir etki de var: bilişsel dış kaynak kullanımı üzerine erken kanıt, hafızayı dış araçlara devretmenin insanların ne hatırladığını ve kendi bilgilerini nasıl değerlendirdiklerini değiştirdiğini öne sürüyor (Sparrow, Liu & Wegner, “Google Effects on Memory,” Science, 2011) — beceri ölümünün medeniyet ölçeğinde nasıl göründüğüne dair, bireysel ölçekte küçük bir ön izleme.
Gençler kuyruk riskini miras alıyor
AGI hakkındaki en keskin kuşaklararası gerçek dağılımsaldır: kararları verenler yaşlı; en kötü sonuçları yaşayacak olanlar genç. 2035’teki bir felaket başarısızlığı, kararları veren yöneticiler ve yetkililer için kariyeri bitiren bir olay ve hiçbir kararı vermemiş çocuklar için hayatı bitiren bir olaydır. İkinci gruptan rıza istenmedi.
Bu yeni bir yapı değil. İklim değişikliği yerleşik şablondur: on yıllar boyunca birikimlenen zararlar, mevcut seçmenler ve hissedarlar tarafından verilen kararlar, henüz doğmamış insanlar tarafından ödenen maliyetler. İklim-adaleti literatürü otuz yıldır bunun ne anlama geldiğini işliyor — kuşaklararası eşitlik bir kısıtlama olarak, bir hayırseverlik değil — en meşhur biçimde Brundtland Komisyonu’nun sürdürülebilirliği, gelecek kuşakların kendi ihtiyaçlarını karşılama yetisinden ödün vermeden şimdiki ihtiyaçları karşılamak olarak tanımlamasında (Our Common Future, 1987). Fiziksel bilim, asimetriyi somutlaştırıyor: IPCC’nin sentez raporları, aslında, masada hiç yeri olmayan gelecek bir nüfus için zarar değerlendirmeleridir (IPCC AR6 Sentez Raporu).
Bunlar, paralellikler olarak ifade edilen paralelliklerdir. Yapay zekâ riski, hızında, geri döndürülebilirliğinde ve şeklinde iklim riskinden farklıdır — yanlış hizalanmış bir geçiş yüzyıllar boyunca kademeli olarak bozulmaz, ve başvurulacak sonraki bir kuşak olmayabilir. Ama ahlaki yapı bozulmadan aktarılır: küçük bir grup bir kararın faydalarını yoğunlaştırıp en kötü senaryo maliyetlerini oy veremeyen insanlara yaydığında, karar, faydalananların rızasına bağlı olmayan bir gerekçe gerektirir.
Bu kuşağın bir sonrakine borçlu olduğu
İklim literatürü bir ihracat daha sunuyor: retorik değil somut yükümlülükler. Üçü AGI geçişine iyi aktarılıyor.
Okunabilirlik. Neyin neden seçildiğinin bir kaydını bırak. Gelecek kuşaklar hangi takasların bilinçli yapıldığını ve hangilerinin teşvik kazaları olduğunu bilmeyi hak ediyor. Basın açıklamalarında ve mühürlü güvenlik dosyalarında gerçekleşen bir geçiş, tasarım gereği okunamaz durumdadır; okunabilirlik şimdi az bir şeye mal olan ve daha sonra geri kazanılamayan bir seçimdir.
Yetkinlik. Model bağımlılığından hayatta kalan eğitim. Bir çocuğun öğrendiği her beceri bir modelin daha iyi yaptığı bir beceriyse, çocuğa yetkinlik değil tüketim verilmiştir. Herhangi bir AGI-sonrası müfredat için test, model yokken hâlâ işleyebilen, düşünebilen ve inşa edebilen insanlar üretip üretmediğidir — iş ve amaç sayfasının yetişkinlere uyguladığı standart.
Seçenek çokluğu. Gerçek alternatifleri canlı tut. Öğrenmenin tam olarak bir yolu, çalışmanın tam olarak bir yolu, arkadaşlık edilmenin tam olarak bir yoluyla büyüyen bir kuşağa, kilitli bir hediye verilmiştir. İnsan-öğretimli okulları, insan-yapımı yargıları ve insan-yönetimli kurumları korumak nostalji değildir; bir sonraki kuşağın seçeneklerini, bu geçişin fikir birliğinin yanlış olma ihtimaline karşı açık tutmaktır.
Bu yükümlülüklerin hiçbiri geçişin nasıl sona erdiğini bilmeyi gerektirmez. Senaryolar boyunca dayanıklıdırlar — ve bu, belirsizlikle dolu bir kılavuzda, bu sayfanın yaptığı en güçlü iddiadır.