Bu kılavuzun ciddiye alması gereken senaryo
Bu sütundaki her sayfa hızla ilerleyen bir alan hakkında akıl yürütür ve tahmin ile gösterge paneli sayfaları, hızlı ilerlemenin devam etmesini çalışma varsayımı olarak ele alır. Bu sayfa karşı ağırlıktır: ya AGI zamanında gelmezse? Ciddi bir kılavuz, en olası başlığa değil, sonuçların dağılımına göre plan yapar ve bu dağılım bir duraklamayı da içerir. Bu, ilerlemenin durduğuna dair bir iddia değil, tarihsel olarak belgelenmiş bir olgu hakkındaki senaryo analizidir.
Son iki kışın gerçekte neye benzediği
Bu alan daha önce iki kez buradan geçti.
Birinci kış (kabaca 1974-1980) doğrudan kurumsal bir vuruşu takip etti. Birleşik Krallık Bilim Araştırma Konseyi’nin sipariş ettiği Sir James Lighthill’in 1973 tarihli Artificial Intelligence: A General Survey raporu, yapay zekâ araştırmasının büyük vaatlerinin — makine çevirisi, robotik, genel problem çözme — öngörülen ölçekte hiçbir şekilde gerçekleşmediği sonucuna vardı ve fonlamanın daha dar çalışmalara yönlendirilmesini önerdi. Birkaç yıl içinde, Atlantik’in her iki yakasındaki büyük devlet fon sağlayıcıları geri çekildi ve lisansüstü programlar keskin bir şekilde daraldı.
İkinci kış (kabaca 1987-1993) farklı bir kurbanı öldürdü: uzman sistemleri. Bu kural tabanlı ticari ürünler 1980’ler boyunca devasa kurumsal ve devlet yatırımı emmişti, ardından kendi kırılganlıklarının altında çöktü — öğrenemeyen, istisnaları ele alamayan ve bakımı pahalı olan sistemler. Piyasa çöküşü, tüm sembolik yapay zekâ paradigmasına yönelik fonlamayı da beraberinde götürdü. Ulusal Akademiler’in federal bilgisayar araştırmalarına ilişkin tarihi olan Funding a Revolution (1999), DARPA’nın geri çekilmesinin ve Lisp makinesi satıcılarının ortadan kaybolmasının bir alt alanın başarısızlığını disiplin çapında bir kuraklığa nasıl dönüştürdüğünü belgeler (National Academies Press). Daha kapsamlı anlatısal tarihler, Crevier’in AI: The Tumultuous History of the Search for Artificial Intelligence (1993) ve Nilsson’ın The Quest for Artificial Intelligence (2009) eserleridir — her ikisi de sadece gerçekler için değil, örüntü için okunmaya değer.
Örüntü şu: her kış teknik bir çıkmaz değil, bir güvenilirlik-ve-fonlama çöküşüydü. Bilim gölgede ilerlemeye devam etti; para, yetenek ve kamu sabrı ise etmedi. Kış, düşük maliyetli bir gösteri — önce satranç, sonra ImageNet — alanı neredeyse bir gecede tekrar yatırıma değer hale getirdiğinde sona erdi.
Sahte şafak lehine argüman
Duraklama tezinin en güçlü versiyonunun üç ayağı vardır.
Veri ve algoritmik sınırlar. Epoch’un insan tarafından üretilen metin analizi, o zamanki eğilimler devam ederse yüksek kaliteli kamuya açık eğitim verisi stokunun yaklaşık on yıl içinde tükeneceğini tahmin etti (Villalobos ve diğerleri, 2022), bu da uzun vadeli değeri gerçekten belirsiz olan sentetik veriye ve diğer geçici çözümlere bağımlılığı zorunlu kılıyor. Ayrıca, bu alan sık sık gösterge testi doygunluğunu genel yetkinlikle karıştırdı — bu kılavuzun ortaya çıkan yetenekler ve Turing testi sayfalarının ayrıntılı olarak geliştirdiği bir uyarı. Gösterge testleri doyabilirken, ekonomilerin gerçekten para ödediği şey olan gerçek dünya güvenilirliği ciddi şekilde geride kalabilir.
Düzensizlik taban değil tavan olabilir. Modellerin bazı boyutlarda insanüstü, bitişik boyutlarda ise açıklanamayacak kadar zayıf olduğu şeklindeki kalıcı bulgunun kötümser bir okuması vardır: bir sonraki jetonu tahmin edicinin ölçeklendirilmesi, ölçeklendirme yasası iyimserlerinin öngördüğü türden sağlam, birleşimsel akıl yürütmeyi değil, sadece genişliği satın alır. Chollet’in, çağdaş gösterge testlerinin, yenilik altında beceri kazanımı gerektirmek yerine ezberlemeye izin verdikleri için zekâyı abarttığı yönündeki savı, bu şüpheciliğin klasik ifadesidir (Chollet, 2019).
Fazlalık iki yönde de kesiyor. Kazanımlar gerçek olsa bile, çoktan çıkarılmış olabilirler: “yetenek fazlalığı” argümanı, bugünün modellerinin, ürünler, değerlendirmeler ve kurumlar henüz yetişemediği için eğitimlerinin altında performans gösterdiğini ima eder. Eğer öyleyse, daha fazla ölçeklendirme azalan görünür getiriler sağlar — bu da, altta yatan neden ne olursa olsun, piyasalar tarafından bir platoya oturma olarak okunur. Ölçeğe karşı işleyen belgelenmiş bir olgu bile vardır: bazı görevlerde, örneğin belirli türde dürüst veya hassas akıl yürütmede, daha büyük modellerin daha kötü puan aldığı ters ölçeklendirme (McKenzie ve diğerleri, 2023).
Kışa karşı argüman
Kış savunucularının, bu döngünün neden son ikisiyle kafiyeli olduğunu açıklaması gerekir ve farklar büyüktür.
Bu sefer para gerçek. Önceki kışlar gelir olmadan abartıyı takip etti. Mevcut döngü, yıllık on milyarlarca dolar ölçeğinde dağıtım geliri ve rekor kırmaya devam eden özel üretken yapay zekâ yatırımı içeriyor — Stanford AI Endeksi 2025 yalnızca 2024’te 33,9 milyar dolarlık özel üretken yapay zekâ yatırımı bildiriyor, bu da yıldan yıla keskin bir artış. Bu ölçekteki fonlama, gösterge testleri hayal kırıklığı yarattığı için buharlaşmaz; bilançolar bozulduğunda buharlaşır.
Donanım tabanı devasa. Önceki kışlar birkaç hibeyi keserek alanı aç bırakabilirdi. Bugün alan, yatırımcıları onlarca yıllık getiri bekleyen sermaye yoğun bir yarı iletken, bulut ve enerji altyapısı üzerinde ilerliyor. Bu, devam eden ilerlemenin altında bir taban — ve daha karanlık bir şekilde, ihtiyat “dur” dese bile itmeye devam edecek bir kesim anlamına geliyor.
Yaygın entegrasyon kendi talebini yaratıyor. Yüzlerce milyon insan ve firmaların büyük bir kısmı artık sıradan iş için yapay zekâ sistemlerine bağımlı. Fayda, yenilikten farklı olarak modası geçmez. İspat yükü kış tezinin üzerindedir: sadece ilerlemenin yavaşladığını değil, bu büyüklükteki mevcut bir tabana karşı bir fonlama çöküşünü tekrarlayacak kadar uzun süre ve yeterince yavaşladığını göstermesi gerekir.
Bir kışın anlamı ne olurdu
Duraklamanın gerçekleştiğini varsayalım. Sonrasında olacaklar gerçekten çift taraflıdır.
Yetenek dağılımı. Bir kış, öncü araştırmacıları hedge fonlarına, biyoteknolojiye ve bir sonraki sıcak alan her neyse ona iter. Bu, bir açıdan güvenlik için kötüdür — az sayıda laboratuvarda yoğunlaşmış ve zaten ince olan hizalama uzmanlığı dağılır — ve belki başka bir açıdan iyidir: tehlikeli yetenek çalışması yavaşlarken aynı beyinlerin bir kısmı daha dar, daha denetlenebilir sorunlar üzerinde çalışır. Net etki önceden bilinemez, ancak hizalama yeteneğinin dağılması, kış iyimserlerinin genellikle atladığı gerçek bir maliyettir.
Donanım fazlalığı. Duraklamış yazılım ilerlemesi çipleri eritmez. Yarın frontier model eğitimini durduran bir dünya, yine de büyük ölçüde devasa bir dağıtılmış yetenek stoğuna sahip olur ve bunun çoğunun güvenlik personeli teşviki yetersizdir. Kış, mevcut sistemlerin etrafındaki savunmaları inceltir; sistemlerin kendisini inceltmez.
Yanlış okuma riski. En kötü kısım budur. Gerçek, çok yıllı bir plato, politik olarak “risk geçti” şeklinde çözümlenirdi — bu, açıkça yanlış olacak bir sonuçtur. Duraklayan ilerleme, çürütülmüş ilerleme değildir. Altta yatan itici güçler (hesaplama, algoritmik verimlilik, ticari teşvik) arka planda birikmeye devam ederdi ve geldiğinde yeniden başlama, muhtemelen ilk yükselişten daha hızlı ve daha az denetimli olurdu. Kılavuzun faydalar ve fırsat maliyetleri ele alışı da aynı yönde kesiyor: duraklamış bir geçiş bile gerçek kazanımlara sahiptir ve erken zafer ilan eden bir dünya hem kazanımları hem de tetikte olma halini kaybeder.
Yanlış okuma riski vurgulanmayı hak ediyor: en tehlikeli kış, kamuoyunu tehlikenin geçtiğine ikna eden kıştır. Tarihsel kışlar yeniden başlamalarla sona erdi. Bir duraklamada, güvenlik çalışmasının bir sonraki eriyişe kadar hayatta kalacağını garanti eden hiçbir şey yoktur.
Başlığa değil, dağılıma göre plan yapın
Bir kılavuz için dürüst duruş, bu sayfanın açılışında belirtilenle aynıdır: analizi devam eden üstel ilerlemeye bahse girdirmeyin ve bir duraklamaya da bahse girdirmeyin. Yeteneğin zamanında, geç, düzensiz bir şekilde ve bu sitenin başka yerlerinde ele alınan kurumsal başarısızlıklar arasında gelmesine hazırlanın — çünkü aynı hazırlıklar (sağlam kurumlar, korunmuş bilgi, dağıtılmış tepki kapasitesi) dağılımın tamamında karşılığını verecek olanlardır. Bir kış zamanlamayı değiştirirdi. İyi hazırlanmış bir toplumun neye benzediğini değiştirmezdi.