Sebuah eksperimen pikiran yang dibutuhkan bab ini
Hampir semua hal dalam bab ini ditulis dalam kala-kini orang dewasa. Ia bertanya apa yang dilakukan transisi ini terhadap pekerja, warga negara, orang tua, dan pemilih — orang-orang yang mengenal sebuah dunia sebelumnya. Halaman ini mengajukan pertanyaan yang berbeda: seperti apa dunia pasca-AGI bagi orang-orang yang lahir ke dalamnya, yang mewarisi hasilnya tanpa mewarisi kenangannya? Sebagian besar dari apa yang mengikuti adalah argumen yang dinalar alih-alih temuan yang mapan, dan itu dilabeli demikian; di mana bukti ada, itu dikutip secara langsung.
Pertanyaan ini tidak sentimental. Generasi mana yang menanggung risiko, mana yang memegang kekuasaan, dan mana yang menjadi garis dasar untuk menilai perubahan menentukan apa artinya “hasil yang baik” itu sendiri. Sebuah transisi yang dinilai sukses oleh mereka yang mengalaminya masih bisa menjadi bencana bagi mereka yang tiba sesudahnya, dan sebaliknya.
Asimetri kedatangan
Mereka yang hidup pada saat transisi membawa dua beban yang tidak akan dibawa generasi berikutnya: kehilangan itu sendiri, dan kenangan tentang apa yang hilang. Mereka menyaksikan profesi larut, institusi berubah, tekstur pekerjaan, sekolah, dan pertemanan yang dirasakan berubah. Apakah perubahan itu bersih baik atau bersih buruk, mereka setidaknya memiliki garis dasar. Mereka dapat membandingkan.
Orang-orang yang lahir setelah transisi mewarisi hasilnya tanpa duka atau garis dasar. Bagi mereka, kebersamaan yang dimediasi mesin bukanlah versi terdegradasi dari sesuatu yang lain; itu adalah apa yang selalu menjadi kebersamaan. Sebuah ekonomi tempat sebagian besar produksi membutuhkan sedikit manusia bukanlah sebuah amputasi; itu adalah cuaca. Analisis antargenerasi tentang pergeseran teknologi sebelumnya — mesin cetak, elektrifikasi, internet — secara konsisten menemukan pola ini (sebagian besar literatur ini adalah argumen historis yang dinalar, dan begitulah cara membacanya di sini): generasi yang membangun sebuah teknologi memperdebatkannya, dan generasi yang dibesarkan di dalamnya mengalamiahkannya.
Asimetri ini memotong ke dua arah. Generasi pasca-transisi lolos dari duka, disorientasi, dan perkabungan atas identitas yang usang. Tetapi mereka juga kehilangan kapasitas untuk mengevaluasi apa yang diberikan kepada mereka. Seseorang yang tidak pernah melakukan pembagian panjang tidak dapat merasakan biaya karena tidak pernah mempelajarinya. Sebuah masyarakat yang tidak pernah melihat pengadilan hanya-manusia tidak dapat merasakan apa yang dipertukarkan ketika penilaian didelegasikan. Garis dasar itu bukan hanya nostalgia; itu adalah panel instrumen.
Tumbuh dewasa di bawah otoritas mesin yang ambien
Bagi anak-anak yang lahir setelah transisi, AI bukanlah sebuah alat yang mereka adopsi. Itu adalah lingkungan — tutor yang menjawab setiap pertanyaan, pendamping yang tidak pernah lelah, mediator yang berdiri di antara mereka dan setiap orang lain.
Halaman manual ini pendidikan dan tumbuh dewasa dan anak-anak dan AI membahas risiko langsung dan pertanyaan pengasuhan. Halaman ini tentang busur yang lebih panjang: seperti apa pembentukan kelekatan, kepercayaan, dan otoritas ketika setiap interaksi formatif dapat dimediasi mesin. Dua kekhawatiran mendominasi literatur serius. Yang pertama bersifat perkembangan: anak-anak membentuk ekspektasi tentang pikiran dari pikiran-pikiran di sekitar mereka, dan sebuah mesin yang selalu sabar, selalu setuju, selalu tersedia mengajarkan model yang tidak biasa tentang seperti apa orang lain dan berapa biaya hubungan. Yang kedua bersifat epistemik: sebuah masa kanak-kanak tempat setiap jawaban tiba secara instan, fasih, dan percaya diri menghasilkan orang dewasa tanpa rasa terlatih tentang bagaimana rasanya tidak tahu — prasyarat baik untuk belajar maupun untuk ditipu.
Para regulator telah memperhatikan bahaya spesifik ini. AI Act milik UE melarang sistem yang mengeksploitasi kerentanan anak-anak atau menggunakan teknik subliminal atau manipulatif yang mungkin menyebabkan bahaya signifikan (Regulation (EU) 2024/1689), dan Panduan Kebijakan UNICEF tentang AI untuk Anak-Anak (2020) menetapkan persyaratan khusus-anak yang lambat dioperasionalkan bidang yang lebih luas. Keduanya layak dibaca sebagai penanda-lantai, bukan solusi: keduanya membatasi apa yang boleh diterapkan, bukan apa yang dilakukan sebuah masa kanak-kanak di dalam mediasi mesin terhadap seseorang. Apakah otoritas AI ambien menghasilkan orang dewasa yang tangguh atau yang bergantung, sejauh tulisan ini dibuat, adalah pertanyaan empiris yang sungguh terbuka — jawaban jujurnya adalah bahwa eksperimen ini sedang berjalan sekarang, pada kohort terbesar yang mungkin, tanpa kelompok kontrol.
Pertanyaan hilangnya pengetahuan
Setiap transisi mengkandaskan keterampilan. Pertanyaannya adalah keterampilan mana, dan apakah itu penting.
Pertimbangkan apa yang secara unik dipegang generasi pra-transisi terakhir: penilaian terlatih yang terbentuk tanpa bantuan mesin; pengetahuan tersirat tentang sistem fisik — mesin, tanah, bedah, negosiasi — yang dipelajari dengan tangan dan gagal dengan cara yang tidak ada dalam manual mana pun; dan, yang paling penting, kenangan hidup tentang untuk apa garis dasar lama itu. Ketika generasi itu meninggal, pengetahuan itu mati bersamanya kecuali jika telah ditransfer secara sengaja. Institusi pelestarian ada — Internet Archive (archive.org) dan program Memory of the World milik UNESCO (UNESCO) adalah contoh yang menonjol — tetapi mereka melestarikan dokumen, bukan kapabilitas. Sebuah buku teks yang dipindai bukanlah seorang masinis yang bekerja.
Apakah kehilangan ini penting bergantung pada ekonomi tempat ia mendarat. Jika sistem AI sungguh menggantikan keterampilan yang hilang, kehilangan itu adalah luka estetis — sebuah budaya dengan lebih sedikit hal yang dapat dilakukan dengan tangannya sendiri. Jika keterampilan itu ternyata menahan-beban dengan cara yang tidak dimiliki model — ketangguhan, perbaikan fisik, penilaian di bawah kondisi baru — kehilangan itu bersifat struktural. Posisi yang jujur adalah bahwa tidak ada yang tahu ekonomi mana yang diwarisi generasi berikutnya, yang persis mengapa manual ini memperlakukan pelestarian dan pemulihan pengetahuan sebagai disiplin hidup alih-alih proyek museum. Ada juga efek yang lebih halus dan terdokumentasi yang layak disebut: bukti awal tentang pengalihan-kognitif menunjukkan bahwa mendelegasikan memori ke alat eksternal mengubah apa yang diingat orang dan bagaimana mereka mengevaluasi pengetahuan mereka sendiri (Sparrow, Liu & Wegner, “Google Effects on Memory,” Science, 2011) — sebuah pratinjau kecil, pada skala individu, tentang seperti apa kematian-keterampilan pada skala peradaban.
Kaum muda mewarisi risiko-ekor
Fakta antargenerasi paling tajam tentang AGI bersifat distribusional: orang-orang yang membuat keputusan itu tua; orang-orang yang akan mengalami hasil terburuk itu muda. Sebuah kegagalan katastrofis pada 2035 adalah peristiwa pengakhir-karier bagi para eksekutif dan pejabat yang membuat keputusan itu dan peristiwa pengakhir-hidup bagi anak-anak yang tidak membuat keputusan apa pun. Tidak ada persetujuan yang diminta dari kelompok kedua.
Ini bukan struktur baru. Perubahan iklim adalah templat yang sudah mapan: bahaya yang majemuk selama beberapa dekade, keputusan dibuat oleh pemilih dan pemegang saham saat ini, biaya ditanggung oleh orang-orang yang belum lahir. Literatur keadilan-iklim telah menghabiskan tiga puluh tahun menguraikan implikasi ini — kesetaraan antargenerasi sebagai batasan, bukan amal — paling terkenal dalam definisi Komisi Brundtland tentang keberlanjutan sebagai memenuhi kebutuhan saat ini tanpa mengorbankan kemampuan generasi masa depan untuk memenuhi kebutuhan mereka (Our Common Future, 1987). Ilmu fisika membuat asimetri itu konkret: laporan sintesis IPCC secara efektif merupakan penilaian kerusakan bagi populasi masa depan yang tidak memiliki kursi di meja (Laporan Sintesis IPCC AR6).
Ini adalah paralel, dinyatakan sebagai paralel. Risiko AI berbeda dari risiko iklim dalam kecepatan, keterbalikan, dan bentuk — sebuah transisi yang tidak selaras tidak menurun secara bertahap selama berabad-abad, dan mungkin tidak ada generasi selanjutnya untuk dibanding. Tetapi struktur moralnya berpindah utuh: ketika sebuah kelompok kecil memusatkan manfaat sebuah keputusan dan menyebarkan biaya kasus-terburuknya kepada orang-orang yang tidak dapat memilih, keputusan itu membutuhkan pembenaran yang tidak bergantung pada persetujuan para penerima manfaat.
Apa yang dihutangi generasi ini kepada generasi berikutnya
Literatur iklim menawarkan satu ekspor lagi: kewajiban yang konkret alih-alih retoris. Tiga hal berpindah dengan baik ke transisi AGI.
Keterbacaan. Tinggalkan sebuah catatan tentang apa yang dipilih dan mengapa. Generasi masa depan layak mengetahui trade-off mana yang dibuat dengan sengaja dan mana yang merupakan kecelakaan insentif. Sebuah transisi yang terjadi dalam siaran pers dan kasus keselamatan yang tersegel tidak terbaca menurut rancangannya; keterbacaan adalah pilihan yang berbiaya sedikit sekarang dan tidak dapat dipulihkan nanti.
Kapabilitas. Pendidikan yang bertahan dari ketergantungan model. Jika setiap keterampilan yang dipelajari seorang anak adalah keterampilan yang dilakukan lebih baik sebuah model, anak itu telah diberi konsumsi, bukan kapabilitas. Ujian untuk kurikulum pasca-AGI mana pun adalah apakah ia menghasilkan orang-orang yang masih dapat berfungsi, berpikir, dan membangun ketika model itu tidak ada — standar yang diterapkan halaman kerja dan tujuan pada orang dewasa.
Opsionalitas. Jaga alternatif nyata tetap hidup. Sebuah generasi yang tumbuh dengan tepat satu cara untuk belajar, satu cara untuk bekerja, satu cara untuk didampingi telah diberi hadiah dengan gembok padanya. Melestarikan sekolah yang diajar manusia, penilaian yang dibuat manusia, dan institusi yang dijalankan manusia bukanlah nostalgia; itu adalah menjaga pilihan generasi berikutnya tetap terbuka terhadap kemungkinan bahwa konsensus transisi ini salah.
Tidak satu pun kewajiban ini membutuhkan pengetahuan tentang bagaimana transisi ini berakhir. Semuanya tahan lintas skenario — dan itu, dalam sebuah manual penuh ketidakpastian, adalah klaim terkuat yang dibuat halaman ini.