08 Tương lai
Tương lai là một vấn đề phân phối, không chỉ là vấn đề năng lực
AGI sẽ không xuất hiện cùng với một khế ước xã hội hoàn chỉnh. Những gì tiếp theo sẽ phụ thuộc vào ai sở hữu các hệ thống sản xuất, thể chế nào giữ quyền lực, lợi ích được phân phối ra sao, và liệu con người có duy trì được các lựa chọn có ý nghĩa hay không.
Các kịch bản, không phải lời tiên tri
Không có bộ dữ liệu nào mô tả cuộc sống sau AGI, và không có đánh giá được đồng thuận nào xác lập rằng một sự chuyển đổi như vậy đã xảy ra. Do đó, chương này hoạt động khác với một báo cáo về thị trường lao động hiện tại hay gian lận hiện nay. Nó bắt đầu từ bằng chứng về các thể chế, sự phổ biến công nghệ và các chuyển đổi kinh tế trước đây, sau đó làm cho các giả định của nó trở nên rõ ràng và theo đuổi nhiều hơn một con đường khả dĩ. Một sự chuyển đổi năng lực nhanh chóng với quyền sở hữu tập trung tạo ra các lựa chọn khác với một sự chuyển đổi chậm hơn với khả năng tiếp cận rộng rãi, ngay cả khi cả hai cuối cùng đều sử dụng các hệ thống mà ai đó gọi là AGI.
Mỗi bài viết hướng đến tương lai đều tách biệt một sự kiện hiện tại khỏi một kịch bản được mô hình hóa và khỏi một khuyến nghị biên tập. Độ tin cậy nên giảm khi chuỗi giả định càng dài. Mục đích là làm cho các quyết định vững chắc trước nhiều tương lai khác nhau, không phải làm cho một tương lai không thể biết trước nghe có vẻ đã được xác định.
Những câu hỏi mà năng lực đơn thuần không thể trả lời
- Quyền sở hữu: ai nhận được thu nhập từ các hệ thống có thể thực hiện một tỷ lệ ngày càng tăng của công việc có giá trị?
- Quyền lực: liệu các thể chế dân chủ có thể giám sát các tổ chức có năng lực kỹ thuật và kinh tế vượt quá năng lực của nhiều nhà nước hay không?
- Quyền tự quyết: những quyết định nào phải vẫn thuộc về con người một cách thực chất ngay cả khi việc ủy quyền rẻ hơn hoặc chính xác hơn?
- Khả năng tiếp cận: liệu những tiến bộ trong y tế, giáo dục và khoa học có đến được với tất cả mọi người hay chủ yếu với những người đã có vị thế để mua chúng?
- Ý nghĩa: con người xây dựng địa vị, mục đích sống và cộng đồng ra sao nếu việc làm được trả lương trở nên ít trung tâm hơn?
Sự sống còn có nghĩa là gì ở đây
Sự sống còn không chỉ là tránh được sự tuyệt chủng. Một xã hội có thể vẫn tồn tại trong khi đánh mất quyền tự quản, sự độc lập kinh tế, quyền riêng tư, năng lực, hoặc những lý do để con người tin rằng họ có phần trong tương lai. Vì vậy, tiêu chuẩn biên tập được sử dụng trong chương này mang tính chuẩn tắc và đòi hỏi cao: con người giữ được khả năng thực tế để đưa ra các quyết định có hệ quả, tranh biện với các thể chế, chia sẻ các lợi ích vật chất, chăm sóc lẫn nhau và sửa đổi các hệ thống mà họ phụ thuộc vào.