08 Masa depan
Masa depan adalah masalah distribusi, bukan hanya masalah kemampuan
AGI tidak akan datang dengan kontrak sosial yang lengkap. Apa yang akan terjadi kemudian bergantung pada siapa yang memiliki sistem produktif, institusi mana yang mempertahankan otoritas, bagaimana keuntungan didistribusikan, dan apakah manusia mempertahankan pilihan yang bermakna.
Skenario, bukan ramalan
Tidak ada dataset yang menggambarkan kehidupan setelah AGI, dan tidak ada evaluasi yang disepakati yang menetapkan bahwa transisi semacam itu telah terjadi. Karena itu, bab ini bekerja secara berbeda dari laporan tentang pasar tenaga kerja saat ini atau penipuan yang sedang berlangsung. Bab ini dimulai dengan bukti tentang institusi, difusi teknologi, dan transisi ekonomi sebelumnya, kemudian membuat asumsinya terlihat jelas dan mengikuti lebih dari satu jalur yang masuk akal. Transisi kemampuan yang cepat dengan kepemilikan yang terkonsentrasi menghasilkan pilihan yang berbeda dari transisi yang lebih lambat dengan akses luas, bahkan jika keduanya pada akhirnya menggunakan sistem yang oleh sebagian orang disebut AGI.
Setiap artikel yang berorientasi masa depan memisahkan fakta saat ini dari skenario yang dimodelkan dan dari rekomendasi editorial. Keyakinan seharusnya menurun seiring bertambahnya rantai asumsi. Tujuannya adalah membuat keputusan yang tangguh di berbagai kemungkinan masa depan, bukan membuat masa depan yang tidak dapat diketahui terdengar sudah pasti.
Pertanyaan yang tidak dapat dijawab oleh kemampuan semata
- Kepemilikan: siapa yang menerima pendapatan dari sistem yang dapat melakukan porsi pekerjaan bernilai yang semakin besar?
- Kekuasaan: dapatkah institusi demokratis mengawasi organisasi yang kapasitas teknis dan ekonominya melampaui banyak negara?
- Agensi: keputusan mana yang harus tetap secara bermakna berada di tangan manusia bahkan ketika pendelegasian lebih murah atau lebih akurat?
- Akses: apakah kemajuan dalam kesehatan, pendidikan, dan sains menjangkau semua orang atau terutama mereka yang sudah berada dalam posisi untuk membelinya?
- Makna: bagaimana manusia membangun status, tujuan, dan komunitas jika pekerjaan berbayar menjadi kurang sentral?
Apa arti kelangsungan hidup di sini
Kelangsungan hidup lebih dari sekadar menghindari kepunahan. Suatu masyarakat dapat tetap hidup sambil kehilangan pemerintahan mandiri, kemandirian ekonomi, privasi, kompetensi, atau alasan bagi manusia untuk percaya bahwa mereka memiliki andil dalam masa depan. Standar editorial yang digunakan dalam bab ini karena itu bersifat normatif dan menuntut: manusia mempertahankan kemampuan praktis untuk membuat pilihan yang konsekuensial, menggugat institusi, berbagi keuntungan material, saling merawat, dan merevisi sistem yang mereka gantungi.