Masa depan adalah masalah distribusi, bukan hanya masalah kemampuan

Skenario, bukan ramalan

Tidak ada dataset yang menggambarkan kehidupan setelah AGI, dan tidak ada evaluasi yang disepakati yang menetapkan bahwa transisi semacam itu telah terjadi. Karena itu, bab ini bekerja secara berbeda dari laporan tentang pasar tenaga kerja saat ini atau penipuan yang sedang berlangsung. Bab ini dimulai dengan bukti tentang institusi, difusi teknologi, dan transisi ekonomi sebelumnya, kemudian membuat asumsinya terlihat jelas dan mengikuti lebih dari satu jalur yang masuk akal. Transisi kemampuan yang cepat dengan kepemilikan yang terkonsentrasi menghasilkan pilihan yang berbeda dari transisi yang lebih lambat dengan akses luas, bahkan jika keduanya pada akhirnya menggunakan sistem yang oleh sebagian orang disebut AGI.

Pertanyaan yang tidak dapat dijawab oleh kemampuan semata

• Kepemilikan: siapa yang menerima pendapatan dari sistem yang dapat melakukan porsi pekerjaan bernilai yang semakin besar?
• Kekuasaan: dapatkah institusi demokratis mengawasi organisasi yang kapasitas teknis dan ekonominya melampaui banyak negara?
• Agensi: keputusan mana yang harus tetap secara bermakna berada di tangan manusia bahkan ketika pendelegasian lebih murah atau lebih akurat?
• Akses: apakah kemajuan dalam kesehatan, pendidikan, dan sains menjangkau semua orang atau terutama mereka yang sudah berada dalam posisi untuk membelinya?
• Makna: bagaimana manusia membangun status, tujuan, dan komunitas jika pekerjaan berbayar menjadi kurang sentral?

Apa arti kelangsungan hidup di sini

Kelangsungan hidup lebih dari sekadar menghindari kepunahan. Suatu masyarakat dapat tetap hidup sambil kehilangan pemerintahan mandiri, kemandirian ekonomi, privasi, kompetensi, atau alasan bagi manusia untuk percaya bahwa mereka memiliki andil dalam masa depan. Standar editorial yang digunakan dalam bab ini karena itu bersifat normatif dan menuntut: manusia mempertahankan kemampuan praktis untuk membuat pilihan yang konsekuensial, menggugat institusi, berbagi keuntungan material, saling merawat, dan merevisi sistem yang mereka gantungi.