Một nhánh thứ năm mà khung tư duy còn thiếu
Khung bốn kịch bản trên trang này thay đổi tốc độ, khả năng tiếp cận, quyền sở hữu, và kiểm soát thể chế: sự phổ biến có quản lý, sự tăng tốc tập trung, sự tăng sinh mở, và cú sốc năng lực với độ trễ thể chế. Bốn biến số đó thực hiện công việc thực sự. Nhưng hãy chú ý những gì mỗi ô lặng lẽ giả định: rằng các thể chế đang quản lý, tăng tốc, tăng sinh, và trễ nải sống sót qua quá trình chuyển đổi nguyên vẹn. Có một biến số thứ năm mà khung tư duy này bỏ sót — liệu bản thân tính liên tục của thể chế có đứng vững qua sự xuất hiện của AGI hay không?
Trang này là phân tích kịch bản, không phải dự đoán. Không có gì ở đây đòi hỏi một ngày xuất hiện cụ thể, một cơ chế thất bại cụ thể, hoặc niềm tin rằng sụp đổ có khả năng xảy ra. Nó đơn giản chỉ xem xét nghiêm túc khả năng rằng năng lực AI mang tính chuyển đổi xuất hiện trong khi — hoặc kích hoạt — một sự tan rã một phần của các nhà nước, chuỗi cung ứng, và các hệ thống thông tin chung, và hỏi thế giới đó trông như thế nào từ bên trong. Các cực điểm được đề cập ở nơi khác: sự sụp đổ toàn diện của nền văn minh ở một phía, khủng hoảng kéo dài và phục hồi ở phía kia. Trang này nói về phần giữa lộn xộn, thứ mà lịch sử cho thấy là nơi thảm họa thường rơi vào.
Sụp đổ một phần thực sự trông như thế nào
Các thảm họa thực tế hiếm khi tạo ra ngày tận thế hoặc sự trở lại bình thường nhanh chóng. Chúng tạo ra những tấm chắp vá. Một nạn đói, một cuộc chiến, một đại dịch, một sự cố lưới điện — kết quả tiêu chuẩn là một địa lý nơi một số chức năng đứng vững và những chức năng khác thất bại: các hệ thống lương thực địa phương hoạt động trong khi chuỗi nhập khẩu tê liệt, một phân đoạn lưới điện ổn định trong khi khu vực lân cận chìm trong bóng tối, một mảnh nhà nước giữ cho tòa án và bảng lương vận hành trong khi một mảnh khác tan rã thành sự cai trị của bất kỳ ai kiểm soát kho nhiên liệu.
Bằng chứng xã hội học thảm họa nhất quán một cách khác thường về phản ứng của con người. Nhiều thập kỷ nghiên cứu thực địa phát hiện rằng hầu hết các cộng đồng tự tổ chức hiệu quả trong giai đoạn đầu của một thảm họa — sự hoảng loạn, cướp bóc, và sự tan rã xã hội được dự đoán phần lớn không xảy ra. Trong nghiên cứu so sánh của họ về những người sống sót trong tình huống khẩn cấp, Drury, Cocking, và Reicher phát hiện tinh thần đoàn kết và sự giúp đỡ có phối hợp, chứ không phải hành vi mạnh ai nấy lo (Drury, Cocking & Reicher, “Mỗi người vì chính mình? Một nghiên cứu so sánh về tinh thần đoàn kết đám đông giữa những người sống sót trong tình huống khẩn cấp,” British Journal of Social Psychology, 2009); cùng chương trình nghiên cứu đã chắt lọc các hàm ý thực tiễn thành mười hai khuyến nghị để xây dựng khả năng phục hồi tâm lý xã hội tập thể trong các tình huống khẩn cấp (Drury và cộng sự, 2019, Frontiers in Public Health), và bản tóm lược nghiên cứu của Hiệp hội Tâm lý học Anh tóm tắt phát hiện rộng hơn một cách thẳng thắn: các tình huống khẩn cấp khơi dậy sự hợp tác đám đông, không phải hoảng loạn (BPS Research Digest). Báo cáo thực địa của Rebecca Solnit trong A Paradise Built in Hell (2009) đạt đến cùng kết luận từ một hướng khác: những người bình thường thường ở trạng thái tốt nhất của họ trong thảm họa, và các tai họa đến từ các thể chế đến muộn, hiểu sai tình huống, hoặc coi những người sống sót là mối đe dọa.
Giai đoạn thứ hai khó khăn hơn. Sự tương trợ lấp đầy những ngày và những tuần; nó không tái xây dựng đường dây truyền tải, giải quyết tranh chấp tài sản, hoặc khôi phục một loại tiền tệ. Đó là nơi các mảnh chắp vá hoặc tái hợp nhất hoặc suy tàn, và đó là nơi tấm chắp vá của một quá trình chuyển đổi hậu-AGI sẽ được quyết định.
Cuộc sống bên trong tấm chắp vá
Bên trong một tấm chắp vá, đặc điểm định nghĩa là sự không đồng đều. Một số hậu quả quen thuộc từ bất kỳ xã hội bị chia cắt nào; những hậu quả khác là đặc thù của việc đến đó trong một quá trình chuyển đổi AI.
Khả năng tiếp cận lợi ích AI trở thành vấn đề địa lý. Các khu vực có trung tâm dữ liệu, điện, và kết nối còn nguyên vẹn giữ được hậu cần tự động, hỗ trợ phân loại y tế, và tối ưu hóa nông nghiệp; các khu vực không có chúng thì không. Khoảng cách không chỉ là kinh tế — nó tự tích lũy, vì các khu vực có AI hoạt động phục hồi hạ tầng của họ nhanh hơn các khu vực không có nó.
Khả năng di chuyển trở thành đặc quyền then chốt. Người có thể vượt qua một biên giới, về mặt vật lý hoặc kỹ thuật số, có thể mua sắm giữa các mảnh chắp vá để tìm sự an toàn, việc làm, và luật pháp. Người không thể phải chịu sự chi phối của bất kỳ mảnh nào kiểm soát con phố của họ. Đây là lý do vì sao cẩm nang coi cộng đồng và mạng lưới địa phương là hạ tầng chứ không phải tình cảm: trong một tấm chắp vá, mạng lưới địa phương thường là mạng lưới duy nhất.
Thông tin trở thành một đặc điểm địa hình thay vì một tiện ích. Các sa mạc thông tin nằm cạnh sự dồi dào thông tin: một thung lũng có kết nối hoạt động và dịch máy, thung lũng tiếp theo có tin đồn và một chiếc radio duy nhất. Tính chính danh chảy về phía bất kỳ ai giữ đèn sáng, bất kể chính trị của họ là gì — một động lực nguy hiểm nhưng có thể dự đoán được, thưởng cho bất kỳ ai kiểm soát năng lượng và phần cứng truyền thông, chứ không phải bất kỳ ai quản trị tốt nhất.
AI như một tài sản phục hồi hoặc một công cụ chiếm đoạt
Chính năng lực đã làm trầm trọng thêm cuộc khủng hoảng trở thành nguồn lực phục hồi khan hiếm nhất. Một mô hình tiên phong còn nguyên vẹn với suy luận hoạt động, trong một nền kinh tế sụp đổ, gần giống với những gì một hạm đội vận tải biển từng là vào năm 1945: nút thắt cổ chai mà mọi thứ khác đi qua. Điều đó khiến câu hỏi kiểm soát trở nên quyết định, và đó là câu hỏi mà phân tích quyền sở hữu của trang các kịch bản chuyển đổi cắn chặt nhất trong một cuộc khủng hoảng.
Trong phiên bản lành tính, AI là một chất xúc tác tái thiết: nó thiết kế các thay thế cho thiết bị bị hỏng, tối ưu hóa nhiên liệu và phân bón khan hiếm, dịch thuật qua các mảnh chắp vá, mô hình hóa sự lây lan dịch bệnh, và cho phép một khu vực gần như không còn chuyên gia sống sót hoạt động như thể họ vẫn có. Thời gian phục hồi rút ngắn từ nhiều thập kỷ xuống còn vài năm.
Trong phiên bản độc hại, AI là một hệ số nhân chiếm đoạt. Bất kỳ ai kiểm soát năng lực còn sống sót sử dụng nó để định giá, dự đoán, và cảnh sát hóa một dân số không có đòn bẩy đối trọng — khuôn mẫu mà Acemoglu và Johnson ghi chép trong suốt lịch sử công nghệ trong Power and Progress (2023), nơi các công cụ mới mặc định làm giàu cho bất kỳ ai đã nắm quyền lực cho đến khi các thể chế buộc một sự phân phối khác (Penguin Random House). Một cuộc khủng hoảng không đình chỉ lịch sử đó. Nó tăng tốc lịch sử đó, vì các cơ chế kiểm soát thường làm chậm sự chiếm đoạt — tòa án, báo chí, bầu cử, lối thoát — chính xác là những thể chế mà một tấm chắp vá thiếu. Kịch bản cần lập kế hoạch chống lại không phải là khu vực tối tăm. Đó là khu vực sáng đèn, trật tự, nơi cư dân của nó khám phá ra, quá muộn, rằng sự ổn định của họ đã được thuê từ bất kỳ ai vận hành các mô hình.
Khoảng cửa sổ ngắn, cục bộ khi tương lai của tấm chắp vá được quyết định
Các tấm chắp vá không phải là trạng thái cân bằng ổn định. Chúng hợp nhất, liên bang hóa, suy tàn, hoặc bị chinh phục — thường trong vòng vài năm, đôi khi vài tháng, và gần như không bao giờ thông qua sở thích của những người sống trong đó. Những lựa chọn quan trọng được đưa ra sớm, bởi bất kỳ ai được tổ chức tại thời điểm dao động tối đa: cái gì được tái xây dựng trước, ai sở hữu hạ tầng phục hồi, liệu các mảnh có hợp nhất theo điều khoản của ai, và liệu khu vực đã giữ được năng lực AI của mình có chia sẻ, cho thuê, hay vũ khí hóa nó.
Đây là lý do vì sao tài liệu về ứng phó và đòn bẩy trong cẩm nang này — tổ chức cơ sở, dự trữ địa phương, truyền thông dự phòng, các thể chế cộng đồng — không phải là một phụ lục dành cho người có sở thích đối với lập luận chính. Trong một kịch bản sụp đổ một phần, đó là cơ chế mà qua đó những người sẽ sống trong tấm chắp vá có được bất kỳ tiếng nói nào về việc nó sẽ trở thành gì. Sự khác biệt giữa một mảnh hợp nhất thành thứ gì đó đáng sống và một mảnh trở thành một khu vực chiếm đoạt thường được quyết định bởi việc liệu những người bình thường có được tổ chức trước khi sự dao động khép lại hay không.
Các trang lân cận vẽ ra ranh giới của trang này: các kịch bản sụp đổ văn minh mô tả những gì nằm ngoài rìa xa, và khủng hoảng kéo dài so với phục hồi xem xét hai hướng mà một tấm chắp vá có thể đi khi nó ổn định. Sụp đổ một phần không phải là tương lai có khả năng xảy ra nhất và không phải là tồi tệ nhất. Đó là kịch bản nơi sự chuẩn bị quan trọng nhất so với xác suất của nó — vì trong những kịch bản khác, hoặc là không có gì bạn làm thay đổi được kết quả hoặc mọi thứ tiếp tục gần như đúng lịch trình.