Bắt đầu với các biến số, không phải cốt truyện phim
Không có sự quan sát nào về một xã hội hậu-AGI. “Sau AGI” do đó không phải là một giai đoạn thực tế mà chúng ta có thể mô tả theo cách chúng ta mô tả một cuộc bầu cử, suy thoái, hay ra mắt sản phẩm. Đó là một họ các kịch bản được xây dựng từ các giả định về năng lực, chi phí, khả năng tiếp cận, quyền sở hữu, an toàn, và phản ứng chính trị. Một kịch bản hữu ích làm cho những giả định đó hiển thị. Một kịch bản tồi che giấu chúng đằng sau một câu chuyện sống động.
Ngay cả điểm khởi đầu kỹ thuật cũng bất định. Báo cáo An toàn AI Quốc tế 2026 mô tả sự cải thiện nhanh chóng cùng với các năng lực gồ ghề, một khoảng cách đánh giá giữa các bài kiểm tra và hiệu suất trong thế giới thực, và một số con đường phát triển khả dĩ đến năm 2030. Nó không ủng hộ một ngày xuất hiện duy nhất hay một quỹ đạo tất yếu duy nhất. Sự bất định đó nên xuyên suốt vào phân tích xã hội.
Bốn biến số thực hiện phần lớn công việc:
- Tốc độ: liệu năng lực mang tính chuyển đổi rộng rãi lan tỏa qua nhiều năm, hay xuất hiện nhanh hơn khả năng điều chỉnh của nhà tuyển dụng, cơ quan quản lý, trường học, và hộ gia đình?
- Khả năng tiếp cận: liệu năng lực có sẵn cho hàng triệu tổ chức và cá nhân, hay được kiểm soát thông qua một số ít nhà cung cấp và chính phủ?
- Quyền sở hữu: ai sở hữu các mô hình, chip, hạ tầng năng lượng, trung tâm dữ liệu, các doanh nghiệp bổ trợ, và thu nhập kết quả?
- Kiểm soát: liệu các thể chế có giữ được khả năng kiểm tra, hạn chế, thay thế, và khiếu nại các quyết định được trung gian bởi AI hay không?
Các kịch bản dưới đây không phải là dự đoán có xác suất được gán sẵn. Chúng là các bài kiểm tra căng thẳng. Thực tế có thể kết hợp các đặc điểm từ cả bốn, khác nhau theo quốc gia, hoặc di chuyển từ kịch bản này sang kịch bản khác.
Kịch bản một: sự phổ biến có quản lý
Trong sự phổ biến có quản lý, năng lực cải thiện nhanh chóng nhưng không tức thời. Các hệ thống tự động hóa các gói công việc lớn hơn, nhưng việc triển khai vẫn bị giới hạn bởi chi phí tích hợp, độ tin cậy, luật pháp, hạ tầng vật lý, và sự trì trệ tổ chức. Các chính phủ mở rộng hỗ trợ chuyển đổi, các công ty thiết kế lại công việc, và các yêu cầu an toàn trưởng thành trước khi bất kỳ hệ thống nào trở nên không thể thiếu.
Đây là kịch bản liên tục nhất với bằng chứng hiện tại. Chỉ số tiếp xúc năm 2025 của Tổ chức Lao động Quốc tế phát hiện cứ bốn người lao động thì có một người làm trong một ngành nghề có một mức độ tiếp xúc AI tạo sinh nào đó, nhưng lập luận rằng việc chuyển đổi công việc có khả năng xảy ra hơn là sự thay thế toàn diện vì các ngành nghề chứa các nhiệm vụ vẫn đòi hỏi đầu vào của con người. Tiếp xúc không giống với áp dụng, và áp dụng không giống với việc loại bỏ một công việc.
Sự phổ biến có quản lý không đảm bảo sự công bằng. Các lộ trình đầu vào có thể thu hẹp trước khi toàn bộ ngành nghề biến mất. Lợi ích năng suất có thể chảy vào chủ sở hữu trong khi tiền lương trì trệ. Các khu vực có hạ tầng kỹ thuật số yếu có thể tụt lại phía sau. Sự khác biệt là các thể chế có thời gian để quan sát những tác động này và phản ứng thông qua đào tạo, thương lượng, thuế, chính sách cạnh tranh, đầu tư công, và thay đổi thời gian làm việc.
Chiến lược hộ gia đình trong thế giới này là thích nghi chứ không phải rút lui: xây dựng các kỹ năng bổ trợ cho công cụ mới, giảm sự phụ thuộc vào một nhà tuyển dụng, bảo tồn mạng lưới con người, và tham gia vào các thể chế đang quyết định cách các hệ thống được triển khai.
Kịch bản hai: sự tăng tốc tập trung
Trong sự tăng tốc tập trung, một số ít công ty đạt được một lợi thế năng lực lớn và giữ khả năng tiếp cận được kiểm soát. Các hệ thống của họ trở thành đầu vào thiết yếu cho nghiên cứu, phần mềm, tài chính, hậu cần, truyền thông, và hành chính công. Sản lượng kinh tế tăng lên, nhưng quyền lực thương lượng chuyển sang phía chủ sở hữu các mô hình và sức tính toán.
Sự tập trung không phải là giả thuyết ngay cả khi AGI là như vậy. Một nghiên cứu của nhân viên Ủy ban Thương mại Liên bang Hoa Kỳ đã ghi chép các quyền chia sẻ vốn chủ sở hữu và doanh thu, quyền tư vấn hoặc kiểm soát, tính độc quyền, các cam kết chi tiêu đám mây, và chia sẻ thông tin trong ba quan hệ đối tác liên kết Alphabet, Amazon, và Microsoft với Anthropic hoặc OpenAI. Mẫu nghiên cứu bị giới hạn trong những quan hệ đối tác đó và phản ánh thông tin có sẵn cho nhân viên đến tháng 9 năm 2024 cộng với tài liệu công khai đến tháng 1 năm 2025; nó không nên được khái quát hóa cho mọi mối quan hệ đám mây-nhà phát triển. Báo cáo xác định các chi phí chuyển đổi và sự phụ thuộc tiềm tàng chứ không phán quyết một vi phạm chống độc quyền.
Trong kịch bản này, sự sung túc vật chất có thể cùng tồn tại với sự mong manh chính trị. Các chính phủ có thể phụ thuộc vào các nhà cung cấp mà họ không thể dễ dàng thay thế. Người lao động có thể nhận được các dịch vụ rẻ hơn trong khi mất thu nhập và quyền lực thương lượng. Công dân có thể chính thức giữ được các quyền nhưng gặp khó khăn trong việc phản đối các quyết định được đưa ra thông qua các hệ thống độc quyền. Một công ty không cần có ý định cai trị xã hội để sự phụ thuộc trao cho nó quyền lực giống như quản trị.
Các chính sách quyết định không phải là kho dự trữ khẩn cấp. Đó là quyền sở hữu, khả năng liên thông, thuế, chống độc quyền, mua sắm, quyền truy cập kiểm toán, các lựa chọn công, và giới hạn về việc ủy thác các chức năng có chủ quyền. Câu hỏi trung tâm là liệu công chúng có thể thay đổi nhà cung cấp hoặc chính sách mà không làm tê liệt các hệ thống mà cuộc sống thông thường phụ thuộc vào hay không.
Kịch bản ba: sự tăng sinh mở
Trong sự tăng sinh mở, năng lực cao trở nên dễ tiếp cận rộng rãi thông qua trọng số mở, suy luận rẻ, các hệ thống được sao chép, hoặc sự cạnh tranh khốc liệt. Đổi mới lan truyền nhanh chóng. Các công ty nhỏ, nhà nghiên cứu, cộng đồng, và các nước thu nhập thấp hơn có được các công cụ mà nếu không sẽ vẫn nằm sau các API đắt đỏ. Không nhà cung cấp đơn lẻ nào trở thành người gác cổng không thể tránh khỏi.
Lợi ích là quyền tự quyết được phân phối. Rủi ro là năng lực nguy hiểm được phân phối. Một khi trọng số được sao chép rộng rãi, nhà xuất bản gốc không thể tin cậy thu hồi mọi bản sao, và các biện pháp bảo vệ có thể bị sửa đổi. Báo cáo về mô hình mở tháng 7 năm 2024 của Cơ quan Thông tin và Viễn thông Quốc gia Hoa Kỳ kết luận rằng bằng chứng có sẵn tại thời điểm đó không biện minh cho các hạn chế toàn diện, trong khi khuyến nghị giám sát và năng lực phản ứng nếu các mô hình tương lai thay đổi cán cân. Lập trường có điều kiện, có ngày tháng đó hữu ích hơn là coi “mở” tự động an toàn hoặc tự động liều lĩnh.
Một xã hội tăng sinh mở sẽ cần các biện pháp phòng thủ bên ngoài mô hình: chuỗi cung ứng sinh học an toàn, hạ tầng trọng yếu được gia cố, các hệ thống nhận dạng chống gian lận, chia sẻ sự cố nhanh chóng, và năng lực thực thi pháp luật không phụ thuộc vào việc đàn áp kiến thức chung. Nó cũng sẽ cần quản trị phân biệt một mô hình nghiên cứu nhỏ với một hệ thống có khả năng hỗ trợ đáng kể cho hoạt động mạng, phát triển vũ khí, hoặc sự tự sao chép.
Kịch bản này mang lại cho nhiều người hơn khả năng tiếp cận năng lực sản xuất, nhưng khả năng tiếp cận đơn thuần không giải quyết được vấn đề phân phối. Con người vẫn cần sức tính toán, năng lượng, chuyên môn, khách hàng, và sự cho phép pháp lý để biến một mô hình thành thu nhập bền vững.
Kịch bản bốn: cú sốc năng lực và độ trễ thể chế
Trong một cú sốc năng lực, các hệ thống đáng tin cậy bắt đầu hoàn thành công việc có tầm quan trọng kinh tế nhanh hơn khả năng thiết kế lại vai trò của các tổ chức hoặc khả năng thay thế thu nhập và doanh thu thuế bị mất của các chính phủ. Đặc điểm định nghĩa không phải là trí tuệ ở dạng trừu tượng. Đó là khoảng cách giữa thay đổi kỹ thuật và phản ứng thể chế.
Khoảng cách đó có thể tạo ra các điều kiện mâu thuẫn: năng lực sản xuất cao cùng với thất nghiệp, dịch vụ tự động có giá trị cùng với các mô hình kinh doanh sụp đổ, và các chính phủ được yêu cầu cung cấp nhiều hỗ trợ hơn trong khi cơ sở thuế lương thông thường suy yếu. Nó cũng có thể làm tăng áp lực ủy thác các quyết định vì việc xem xét của con người trông chậm chạp chính xác khi sự giám sát quan trọng nhất.
Những kết quả tồi tệ nhất không phải là tự động. Các hệ thống hiện có như bảo hiểm thất nghiệp, bảo hiểm tiền gửi, các cơ chế ổn định tài khóa tự động, thương lượng tập thể, phân bổ khẩn cấp, và mua sắm công cung cấp hạ tầng khởi đầu. Nhưng các chương trình được thiết kế cho các cuộc suy thoái tạm thời có thể không phù hợp với một sự thay đổi bền vững về giá trị của lao động. Các quyết định về thu nhập, quyền sở hữu, và doanh thu công sẽ cần chuyển từ tranh luận học thuật sang chính sách vận hành một cách nhanh chóng.
Các hộ gia đình không thể tự bảo hiểm riêng lẻ chống lại một cú sốc năng lực trên toàn xã hội. Tiền tiết kiệm cá nhân mua thời gian, nhưng phản ứng bền vững mang tính tập thể: các thể chế có thể phân phối sức mua, giữ cho các dịch vụ thiết yếu vận hành, ngăn chặn sự tập trung mang tính bóc lột, và sửa đổi chính sách khi bằng chứng xuất hiện.
Các tín hiệu phân biệt các kịch bản
Hãy theo dõi các điều kiện có thể đo lường thay vì thương hiệu AGI:
- độ tin cậy và chi phí hoàn thành toàn bộ quy trình làm việc, không phải các câu hỏi chuẩn đo bị cô lập;
- liệu việc áp dụng có tạo ra giảm tuyển dụng, giảm giờ làm, giảm lương, hay sa thải thực sự;
- sự tập trung thị trường trong đám mây, chip, mô hình, năng lượng, và phân phối;
- tỷ lệ năng lực hàng đầu khả dụng dưới dạng trọng số mở, API được kiểm soát, hoặc hệ thống nội bộ;
- liệu các cơ quan công có duy trì các chế độ vận hành phi-AI đã được kiểm nghiệm và khả năng chuyển đổi nhà cung cấp hay không;
- lợi ích năng suất được chia như thế nào giữa giá cả, tiền lương, lợi nhuận, thuế, và thời gian làm việc ngắn hơn;
- thời gian giữa một năng lực nguy hiểm đã được chứng minh và một biện pháp giảm thiểu có thể thực thi.
Những tín hiệu này có thể di chuyển theo các hướng khác nhau. Các mô hình mở rẻ có thể giảm sự tập trung doanh nghiệp trong khi làm tăng rủi ro lạm dụng. Cấp phép chặt chẽ có thể cải thiện sự giám sát trong khi củng cố các bên đương nhiệm. Tăng trưởng năng suất nhanh có thể tài trợ cho chính sách chuyển đổi hào phóng hoặc làm tăng bất bình đẳng, tùy thuộc vào quyền sở hữu và các lựa chọn chính trị.
Mục tiêu quy phạm: sự vững chắc hơn là sự chắc chắn
Một chính sách vững chắc hoạt động chấp nhận được trên nhiều kịch bản. Danh tính chống lừa đảo hữu ích dù các hệ thống được tập trung hóa hay mở. Các phúc lợi có thể mang theo hữu ích dù công việc biến mất hay đơn giản chỉ luân chuyển nhanh hơn. Khả năng liên thông giảm sự phụ thuộc mà không đòi hỏi một dự báo về nhà cung cấp nào chiến thắng. Báo cáo sự cố cải thiện việc học hỏi dưới cả các khung tự nguyện lẫn quy định ràng buộc. Đầu tư công vào giáo dục, năng lượng, sức khỏe, và năng lực hành chính tạo ra giá trị ngay cả khi tăng trưởng năng lực chậm lại.
Điểm mấu chốt của phân tích kịch bản không phải là chọn tương lai kịch tính nhất. Đó là xác định những quyết định trở nên tốn kém để đảo ngược. Các cấu trúc sở hữu, sự phụ thuộc vào hạ tầng trọng yếu, các hệ thống giám sát, và sự mất mát chuyên môn con người có thể bị khóa chặt trước khi bất kỳ ai đồng ý rằng AGI đã đến. Đó là những quyết định đáng để đưa ra một cách có chủ đích ngay bây giờ.