Skenario yang harus dianggap serius oleh manual ini
Setiap halaman dalam pilar ini bernalar tentang bidang yang bergerak cepat, dan halaman prakiraan serta dasbor memperlakukan kemajuan pesat yang berkelanjutan sebagai asumsi kerja. Halaman ini adalah pemberat penyeimbangnya: bagaimana jika AGI tidak tiba tepat waktu? Manual yang serius merencanakan untuk distribusi hasil, bukan hanya judul berita yang paling mungkin, dan distribusi itu mencakup kemungkinan kemandekan. Ini adalah analisis skenario tentang fenomena yang telah terdokumentasi secara historis, bukan klaim bahwa kemajuan telah berhenti.
Seperti apa dua musim dingin terakhir sesungguhnya
Bidang ini pernah mengalami hal ini sebelumnya, dua kali.
Musim dingin pertama (sekitar 1974–1980) mengikuti pukulan institusional langsung. Laporan Sir James Lighthill tahun 1973, Artificial Intelligence: A General Survey, yang ditugaskan oleh Dewan Riset Sains Inggris, menyimpulkan bahwa janji-janji besar riset AI—penerjemahan mesin, robotika, pemecahan masalah umum—gagal terwujud sama sekali mendekati skala yang diproyeksikan, dan merekomendasikan pengalihan pendanaan ke pekerjaan yang lebih sempit. Dalam beberapa tahun, para pemberi dana pemerintah utama mundur di kedua sisi Atlantik, dan program pascasarjana menyusut tajam.
Musim dingin kedua (sekitar 1987–1993) menewaskan korban yang berbeda: sistem pakar. Produk komersial berbasis aturan ini telah menyerap investasi korporat dan pemerintah yang sangat besar sepanjang dekade 1980-an, lalu runtuh akibat kerapuhannya sendiri—sistem yang tidak dapat belajar, tidak dapat menangani pengecualian, dan mahal untuk dipelihara. Kejatuhan pasar itu menyeret pendanaan untuk seluruh paradigma AI simbolik bersamanya. Sejarah riset komputasi federal dari National Academies, Funding a Revolution (1999), mendokumentasikan bagaimana pemangkasan anggaran DARPA dan lenyapnya vendor mesin Lisp mengubah kegagalan satu subbidang menjadi kekeringan di seluruh disiplin ilmu (National Academies Press). Sejarah naratif yang lebih lengkap adalah AI: The Tumultuous History of the Search for Artificial Intelligence karya Crevier (1993) dan The Quest for Artificial Intelligence karya Nilsson (2009)—keduanya layak dibaca demi polanya, bukan sekadar faktanya.
Polanya: setiap musim dingin bukanlah jalan buntu teknis, melainkan keruntuhan kredibilitas dan pendanaan. Sains terus bergerak dalam bayang-bayang; uang, talenta, dan kesabaran publik tidak. Musim dingin berakhir ketika demonstrasi berbiaya rendah—catur, kemudian ImageNet—membuat bidang ini kembali layak diinvestasikan, hampir dalam semalam.
Argumen untuk fajar palsu
Versi terkuat dari argumen kemandekan memiliki tiga kaki.
Batas data dan algoritmik. Analisis Epoch terhadap teks yang dihasilkan manusia memperkirakan bahwa stok data pelatihan publik berkualitas tinggi akan habis dalam kira-kira satu dekade jika tren yang berlaku saat itu terus berlanjut (Villalobos dkk., 2022), memaksa ketergantungan pada data sintetis dan solusi alternatif lain yang nilai jangka panjangnya benar-benar tidak pasti. Secara terpisah, bidang ini telah berulang kali keliru menganggap jenuhnya tolok ukur sebagai kompetensi umum—sebuah peringatan yang dikembangkan secara mendalam oleh halaman kemampuan emergen dan uji Turing dalam manual ini. Tolok ukur dapat jenuh sementara keandalan dunia nyata—hal yang sesungguhnya dibayar oleh perekonomian—tertinggal jauh di belakang.
Ketimpangan kemampuan mungkin adalah batas atas, bukan batas bawah. Temuan yang persisten bahwa model bersifat superhuman pada beberapa dimensi namun anehnya lemah pada dimensi lain yang berdekatan memiliki pembacaan pesimistis: bahwa menskalakan prediktor token berikutnya membeli keluasan tanpa membeli jenis penalaran yang kokoh dan kompleks yang diproyeksikan oleh para optimis hukum penskalaan. Argumen Chollet bahwa tolok ukur kontemporer melebih-lebihkan kecerdasan karena mengizinkan hafalan alih-alih menuntut perolehan keterampilan menghadapi hal baru adalah pernyataan kanonik dari skeptisisme ini (Chollet, 2019).
Kelebihan kapasitas (overhang) memotong ke dua arah. Bahkan jika keuntungannya nyata, keuntungan itu mungkin sudah terekstraksi sepenuhnya: argumen “kelebihan kapasitas” menyiratkan bahwa model saat ini berkinerja di bawah potensi pelatihannya karena produk, evaluasi, dan organisasi belum mengejar ketertinggalan. Jika demikian, penskalaan lebih lanjut menghasilkan imbal hasil yang tampak semakin menurun—yang dibaca pasar sebagai dataran tinggi, apa pun penyebab yang mendasarinya. Bahkan ada fenomena terdokumentasi yang berjalan berlawanan dengan penskalaan: penskalaan terbalik (inverse scaling), di mana model yang lebih besar justru mendapat skor lebih buruk pada beberapa tugas, seperti jenis penalaran jujur atau sensitif tertentu (McKenzie dkk., 2023).
Argumen menentang musim dingin
Para pendukung musim dingin harus menjelaskan mengapa siklus ini berirama dengan dua siklus sebelumnya, dan perbedaannya besar.
Uangnya nyata kali ini. Musim dingin sebelumnya mengikuti hype tanpa pendapatan. Siklus saat ini memiliki pendapatan penerapan yang terukur puluhan miliar dolar setiap tahun dan investasi AI generatif swasta yang terus memecahkan rekor—Stanford AI Index 2025 melaporkan 33,9 miliar dolar investasi AI generatif swasta hanya pada tahun 2024 saja, meningkat tajam dari tahun ke tahun. Pendanaan pada skala itu tidak menguap karena tolok ukur mengecewakan; ia menguap ketika neraca keuangan hancur.
Basis perangkat kerasnya sangat besar. Musim dingin sebelumnya dapat melumpuhkan bidang ini dengan memotong beberapa hibah. Saat ini bidang ini bertumpu pada pembangunan semikonduktor, cloud, dan energi yang padat modal, yang para investornya mengharapkan imbal hasil selama beberapa dekade. Itu adalah lantai penyangga di bawah kemajuan yang berkelanjutan—dan, lebih suram lagi, sebuah konstituensi yang akan terus mendorong bahkan ketika kehati-hatian mengatakan untuk berhenti.
Integrasi yang meluas menciptakan permintaannya sendiri. Ratusan juta orang dan sebagian besar perusahaan kini bergantung pada sistem AI untuk pekerjaan sehari-hari. Kegunaan, tidak seperti kebaruan, tidak akan ketinggalan zaman. Beban pembuktian ada pada argumen musim dingin: argumen itu harus menunjukkan bukan sekadar bahwa kemajuan melambat, tetapi bahwa kemajuan melambat cukup jauh, cukup lama, untuk mengulangi keruntuhan pendanaan melawan basis terpasang sebesar ini.
Apa arti musim dingin
Andaikan kemandekan itu terjadi. Yang mengikutinya benar-benar bermata dua.
Penyebaran talenta. Musim dingin mendorong peneliti terdepan menuju dana lindung nilai, bioteknologi, dan apa pun bidang panas berikutnya. Itu buruk bagi keamanan dalam satu hal—keahlian penyelarasan (alignment), yang tipis dan terkonsentrasi di segelintir laboratorium, tersebar—dan mungkin baik dalam hal lain: pekerjaan kemampuan berbahaya melambat sementara sebagian otak yang sama bekerja pada masalah yang lebih sempit dan lebih mudah diaudit. Efek bersihnya tidak dapat diketahui sebelumnya, tetapi penyebaran talenta penyelarasan adalah biaya nyata yang cenderung dilewatkan oleh para optimis musim dingin.
Kelebihan perangkat keras (hardware overhang). Kemajuan perangkat lunak yang terhenti tidak melelehkan chip. Dunia yang berhenti melatih model terdepan besok akan tetap memiliki stok kemampuan yang telah diterapkan dalam jumlah sangat besar, sebagian besar dengan insentif rendah untuk mempertahankan staf keamanan. Musim dingin menipiskan pertahanan di sekitar sistem yang sudah ada; ia tidak menipiskan sistem itu sendiri.
Risiko kesalahpahaman. Ini adalah bagian terburuknya. Dataran tinggi genuin selama bertahun-tahun akan diterjemahkan secara politis sebagai “risikonya sudah berlalu”—kesimpulan yang akan secara aktif keliru. Kemajuan yang terhenti bukanlah kemajuan yang terbantahkan. Pendorong yang mendasarinya (komputasi, efisiensi algoritmik, insentif komersial) akan tetap terakumulasi di latar belakang, dan ketika restart terjadi, kemungkinan besar akan lebih cepat dan kurang diawasi dibandingkan lonjakan sebelumnya. Pembahasan manual ini tentang manfaat dan biaya peluang memotong dengan cara yang sama: bahkan transisi yang terhenti pun memiliki keuntungan nyata, dan dunia yang mendeklarasikan kemenangan terlalu dini kehilangan baik keuntungan maupun kewaspadaan.
Risiko kesalahpahaman ini layak ditekankan: musim dingin paling berbahaya adalah yang meyakinkan publik bahwa bahayanya sudah berakhir. Musim dingin historis berakhir dengan restart. Tidak ada yang menjamin dalam sebuah kemandekan bahwa pekerjaan keamanan akan bertahan hingga pencairan berikutnya.
Rencanakan untuk distribusi, bukan judul berita
Sikap yang jujur bagi sebuah manual sama dengan yang dibuka oleh halaman ini: jangan mempertaruhkan analisis pada kemajuan eksponensial yang berkelanjutan, dan jangan pula mempertaruhkannya pada kemandekan. Bersiaplah untuk kemampuan yang tiba tepat waktu, tiba terlambat, tiba secara tidak merata, dan tiba di tengah kegagalan institusional yang dibahas di tempat lain di situs ini—karena persiapan yang sama (institusi yang kokoh, pengetahuan yang terjaga, kapasitas respons yang terdistribusi) adalah yang membuahkan hasil di sepanjang keseluruhan distribusi. Musim dingin akan mengubah waktunya. Ia tidak akan mengubah seperti apa rupa masyarakat yang siap sedia dengan baik.