Quyền lực chính thức có thể tồn tại sau khi quyền kiểm soát thực tế đã mất
Một nghị viện có thể vẫn được bầu ra trong khi phụ thuộc vào những hệ thống mà các nhà lập pháp không thể đánh giá. Một bộ trưởng có thể vẫn chịu trách nhiệm pháp lý trong khi nhận các khuyến nghị mà không công chức nào có thể tái tạo. Một công dân có thể vẫn giữ quyền khiếu nại chính thức trong khi đối mặt với một quyết định tự động mà dữ liệu, mô hình, hợp đồng nhà cung cấp, và lý lẽ đằng sau nó đều không thể tiếp cận được. Không có gì trong bức tranh đó đòi hỏi một cuộc đảo chính hay một cỗ máy cai trị có ý thức. Quyền lực trở thành hình thức bởi vì năng lực thực tế để lựa chọn khác đi đã bị xói mòn.
Đây là một rủi ro về quản trị trước khi nó là một rủi ro về AGI. Các chính phủ đã sử dụng thuật toán trong phúc lợi, thuế, cảnh sát, di trú, giáo dục, chăm sóc sức khỏe, và hành chính công. Các hệ thống có năng lực cao hơn có thể cải thiện tính nhất quán, dịch thuật dịch vụ, phát hiện gian lận, tóm tắt bằng chứng, và làm cho chuyên môn trở nên khả dụng với các cơ quan nhỏ. Chúng cũng có thể làm sâu sắc thêm sự phụ thuộc và khiến các quyết định công khó bị phản đối hơn.
Các công cụ quốc tế hiện có cung cấp một vốn từ vựng khởi đầu, nhưng hiệu lực pháp lý của chúng khác nhau. Công ước khung của Hội đồng châu Âu về Trí tuệ Nhân tạo được thiết kế như một hiệp ước ràng buộc đối với các bên tham gia và đặt trọng tâm vào nhân quyền, dân chủ, và pháp quyền. Trang trạng thái chính thức của công ước này không liệt kê ngày có hiệu lực tính đến ngày 11 tháng 9 năm 2026, vì vậy việc ký kết không được mô tả như thể một quốc gia đã bị ràng buộc pháp lý (tình trạng CETS số 225). Khuyến nghị của UNESCO về Đạo đức Trí tuệ Nhân tạo là một khuyến nghị không ràng buộc, đề cập đến giám sát, minh bạch, trách nhiệm giải trình, và các tác động môi trường cùng xã hội. Không văn kiện nào giải quyết được vấn đề quản trị hậu-AGI. Cả hai đều cho thấy rằng năng lực và hiệu quả không phải là những giá trị công duy nhất đang bị đe dọa.
Quyền tự quyết nghĩa là có khả năng thay đổi kết quả
“Giám sát của con người” thường được coi như một sơ đồ nhân sự: đặt một người vào đâu đó sau mô hình và quyết định trở thành của con người. Sự giám sát thực sự là một tập hợp năng lực.
Người xem xét cần đủ thời gian và thông tin để hiểu vụ việc. Họ cần được đào tạo để nhận ra giới hạn của mô hình. Họ cần thẩm quyền pháp lý và tổ chức để bác bỏ khuyến nghị. Một lựa chọn khác không được gây ra hình phạt chỉ vì nó khác với điểm số tự động. Tổ chức phải lưu giữ hồ sơ hỗ trợ việc kiểm toán và khiếu nại.
Khi những điều kiện đó vắng mặt, một cú nhấp chuột của con người chỉ là một nghi thức. Mức độ tự động hóa cao thậm chí có thể khiến việc xem xét trở nên tồi tệ hơn: khi con người thấy ít trường hợp bất thường hơn và ít thực hành phán đoán độc lập hơn, chuyên môn của họ suy giảm. Khi hệ thống cuối cùng thất bại ngoài phân phối bình thường của nó, người giám sát trên danh nghĩa có thể là người ít chuẩn bị nhất để can thiệp.
Bài kiểm tra thực tế là phản sự thật: liệu một người có đủ năng lực có thể đưa ra một quyết định khác, giải thích lý do, và khiến quyết định đó được giữ nguyên hay không?
Bốn sự phụ thuộc có thể làm rỗng ruột chính phủ
Phụ thuộc vào nhà cung cấp
Một cơ quan công quyền có thể thiếu nhân sự, sức tính toán, quyền dữ liệu, hoặc các điều khoản hợp đồng để vận hành mà không cần một nhà cung cấp. Việc chuyển đổi trông có vẻ khả thi trong tài liệu mua sắm nhưng sẽ đòi hỏi huấn luyện lại hệ thống, di chuyển dữ liệu, viết lại quy trình làm việc, và chấp nhận một sự gián đoạn dịch vụ kéo dài. Điều đó trao cho một nhà cung cấp tư nhân ảnh hưởng ngay cả khi không có quyền lực chính trị minh thị.
Do đó, hợp đồng nên đề cập đến khả năng di chuyển, quyền truy cập kiểm toán, việc công bố sự cố, các nhà thầu phụ, thời gian lưu giữ dữ liệu, an ninh, tính liên tục của dịch vụ, và hỗ trợ khi rút lui trước khi một hệ thống trở nên thiết yếu. Giá thầu ban đầu rẻ nhất có thể trở nên đắt đỏ nếu nó mua lấy sự phụ thuộc vĩnh viễn.
Phụ thuộc nhận thức luận
Một tổ chức có thể mất khả năng biết liệu một đầu ra có tốt hay không. Nếu AI thực hiện phần lớn việc phân tích, soạn thảo, mô phỏng, và xác minh, tổ chức con người có thể giữ lại thẩm quyền ký duyệt cuối cùng trong khi mất đi các mô hình độc lập về thế giới.
Sự dự phòng là cần thiết. Các cơ quan cần chuyên môn nội bộ, các phân tích cạnh tranh cho những câu hỏi có hậu quả lớn, hồ sơ về sự bất định, và các kênh được bảo vệ cho sự bất đồng. Một số chức năng nên được thực hiện định kỳ mà không có hệ thống chính, không phải vì lao động thủ công luôn ưu việt hơn mà vì một phương án dự phòng chưa được kiểm nghiệm không phải là một phương án dự phòng.
Phụ thuộc vào hạ tầng
Các dịch vụ tiên tiến phụ thuộc vào điện, mạng lưới, hệ thống nhận dạng, hạ tầng đám mây, và các mô hình thượng nguồn. Một sự cố mất điện hoặc tranh chấp thương mại có thể lan truyền qua nhiều chức năng công cộng cùng một lúc. Việc tập trung nhiều cơ quan vào một mô hình hoặc một đám mây duy nhất có thể tạo ra sự cố tương quan bị che giấu đằng sau các hợp đồng riêng biệt.
Các bản đồ phụ thuộc nên xác định các nhà cung cấp chung và các điểm lỗi đơn lẻ trên toàn chính phủ, chứ không chỉ trong một bộ. Các cuộc diễn tập phục hồi nên kiểm tra hoạt động trong điều kiện suy giảm, khôi phục dữ liệu, ưu tiên hóa thủ công, và truyền thông công chúng.
Phụ thuộc vào tính chính danh
Người dân chấp nhận những quyết định khó khăn một phần vì họ hiểu ai có thẩm quyền, quy tắc nào được áp dụng, và cách thức để thách thức những sai lầm. Một hệ thống chính xác về mặt thống kê nhưng khó hiểu vẫn có thể làm suy yếu tính chính danh nếu công dân trải nghiệm nó như là tùy tiện.
Giải thích đơn thuần là không đủ. Một lời giải thích được tạo ra có thể nghe có vẻ hợp lý mà không tiết lộ cơ sở thực sự của một kết quả. Khả năng phản biện có ý nghĩa đòi hỏi bằng chứng liên quan, quy tắc áp dụng, tổ chức chịu trách nhiệm, và biện pháp khắc phục khả dụng. Nó cũng đòi hỏi một cơ quan con người có khả năng thay đổi quyết định thay vì chỉ giải thích tại sao hệ thống lại đưa ra kết quả đó.
Dân chủ cần năng lực kỹ thuật công
Các cơ quan lập pháp, tòa án, cơ quan quản lý, kiểm toán viên, công đoàn, và xã hội dân sự cần chuyên môn về đánh giá, an ninh, mua sắm, quản trị dữ liệu, và bằng chứng về mô hình. Đội ngũ nhân viên chuyên nghiệp, các phòng thí nghiệm độc lập, tổng thanh tra, các cơ quan tiêu chuẩn, và các quy trình tố tụng đối kháng có thể cung cấp chiều sâu đó.
Khung Quản lý Rủi ro AI của NIST cung cấp một cấu trúc tự nguyện để quản trị, ánh xạ, đo lường, và quản lý các rủi ro AI. Giá trị của nó mang tính quy trình: các tổ chức phải xác định bối cảnh và những người bị ảnh hưởng thay vì coi độ chính xác của chuẩn đo là toàn bộ đánh giá rủi ro. Một thể chế hậu-AGI sẽ cần các phiên bản mạnh hơn, có thể thực thi hơn của những thói quen đó, đi kèm với sự cho phép dân chủ.
Bầu cử là cần thiết nhưng chưa đủ
AI mang tính chuyển đổi có thể ảnh hưởng đến dân chủ thông qua thuyết phục, phương tiện truyền thông tổng hợp, giám sát, phân tích chính sách, hoạt động vận động tranh cử, và kiểm soát hạ tầng thông tin. Chỉ tập trung vào hình ảnh giả mạo sẽ bỏ lỡ vấn đề rộng lớn hơn: ai chọn mục tiêu của những hệ thống trung gian cho sự chú ý chính trị, và dữ liệu nào được sử dụng để tối ưu hóa ảnh hưởng?
Việc công bố có thể giúp ích, nhưng việc gắn nhãn nội dung là “do AI tạo ra” không xác lập được liệu nó có đúng hay có tính thao túng hay không. Nguồn gốc xuất xứ có thể cho thấy các phần trong lịch sử của một tệp mà không chứng minh được các tuyên bố của nó. Khả năng phục hồi chính trị cũng cần bảo vệ quyền riêng tư, báo chí độc lập, minh bạch trong vận động tranh cử, trách nhiệm giải trình của nền tảng, quản lý bầu cử an toàn, và công dân có khả năng xác minh thông tin quan trọng qua các kênh đáng tin cậy.
Việc chính phủ sử dụng công nghệ này xứng đáng nhận được sự kiềm chế đặc biệt. Một nhà nước sở hữu các hệ thống dự đoán và thuyết phục mạnh mẽ có thể cá nhân hóa truyền thông công một cách hữu ích — hoặc khiến việc bất đồng chính kiến dễ bị nhận diện hơn và hành vi dễ bị định hình hơn. Các cấm đoán pháp lý, lệnh khám xét, việc giảm thiểu, nhật ký kiểm toán, và giám sát độc lập càng quan trọng hơn khi năng lực phân tích tăng lên, chứ không phải ít hơn.
Bảo tồn các nguồn quyền lực đa nguyên
Không một công ty đơn lẻ nào nên là nguồn duy nhất của phân tích công, danh tính, truyền thông, và hạ tầng hành chính. Không một chính phủ trung ương nào nên là tổ chức duy nhất có khả năng sử dụng năng lực tiên tiến. Không hệ thống chấm điểm phổ quát nào nên quyết định quyền tiếp cận việc làm, tín dụng, phúc lợi, ngôn luận, và di chuyển.
Chủ nghĩa đa nguyên tạo ra ma sát, và ma sát đôi khi mang tính bảo vệ. Các hệ thống liên bang, chính quyền địa phương, tòa án, cơ quan quản lý độc lập, trường đại học, công đoàn, hiệp hội nghề nghiệp, cộng đồng kỹ thuật mở, và xã hội dân sự có thể phơi bày những thất bại mà một hệ thống trung tâm duy nhất sẽ đàn áp hoặc bỏ lỡ. Các tổ chức cạnh tranh cũng cho người dân một nơi để khiếu nại và tổ chức.
Chủ nghĩa đa nguyên không giống với sự tăng sinh không kiểm soát. Các năng lực nguy hiểm cao có thể cần hạn chế truy cập trong khi việc ra quyết định vẫn đa dạng về thể chế. Vấn đề thiết kế là tránh cả sự độc quyền tư nhân lẫn sự tập trung hóa toàn diện của nhà nước.
Những quyết định cần giữ được tính tranh luận chính trị
AI có thể cung cấp thông tin cho các quyết định công mà không định nghĩa mục tiêu công. Những câu hỏi như làm thế nào để phân phối thu nhập, những rủi ro nào có thể chấp nhận được, quyền của ai được ưu tiên, có nên sử dụng vũ lực hay không, trẻ em nên học gì, và mức độ giám sát nào là được phép không phải là những bài toán tối ưu hóa với các hàm mục tiêu trung lập. Chúng là những lựa chọn chính trị giữa các giá trị và con người.
Việc ủy thác triển khai cũng có thể định hình lại mục tiêu. Một hệ thống phúc lợi được tối ưu hóa để giảm thời gian xử lý có thể làm nản lòng những người nộp đơn phức tạp. Một hệ thống cảnh sát được tối ưu hóa cho các sự cố được dự đoán có thể khuếch đại các khuôn mẫu trong hoạt động thực thi pháp luật lịch sử. Một hệ thống y tế được tối ưu hóa cho chi phí đo lường được có thể đánh giá thấp những kết quả khó ghi nhận. Kiểm soát dân chủ đòi hỏi việc xem xét những gì một hệ thống thực sự thưởng cho, chứ không chỉ phê duyệt mục đích đã tuyên bố của nó.
Đề xuất quy phạm: một sự bảo đảm tối thiểu về quyền tự quyết
Đối với những ứng dụng công có hậu quả lớn, người dân nên có thể xác định:
- rằng một hệ thống AI đã ảnh hưởng đáng kể đến quyết định;
- tổ chức và quan chức chịu trách nhiệm pháp lý;
- quy tắc quản trị và bằng chứng được sử dụng;
- những hạn chế quan trọng, sự bất định, và nguồn gốc dữ liệu;
- một cuộc khiếu nại kịp thời với con người có quyền thay đổi kết quả;
- một con đường tiếp cận đến tòa án, cơ quan quản lý, thanh tra viên, hoặc cơ quan dân cử;
- một lộ trình phi kỹ thuật số cho những người không thể sử dụng hệ thống một cách an toàn.
Những bảo đảm này sẽ không loại bỏ sai sót hay bất đồng chính trị. Chúng bảo tồn sự khác biệt giữa hành chính và sự thống trị: người bị ảnh hưởng vẫn là một người tham gia trong một hệ thống lý lẽ và biện pháp khắc phục, chứ không đơn thuần là một đối tượng đang bị phân loại.
Câu hỏi hiến định hậu-AGI
Vấn đề sâu sắc nhất không phải là liệu một AI có nhận được một danh hiệu chính phủ chính thức hay không. Đó là liệu con người và các thể chế của họ có giữ lại năng lực, sự độc lập, và đòn bẩy để sửa đổi các hệ thống có hậu quả lớn hay không. Nếu việc loại bỏ một mô hình sẽ khiến chăm sóc sức khỏe, tài chính, truyền thông, và chính phủ ngừng hoạt động cùng một lúc, chủ quyền pháp lý mang lại rất ít sự an ủi thực tế.
Sự tồn vong của nền dân chủ sau AI mang tính chuyển đổi do đó phụ thuộc vào năng lực được xây dựng trước khi sự phụ thuộc trở nên hoàn toàn: chuyên môn công, hạ tầng liên thông, các quyền có thể thực thi, các thể chế đa nguyên, bằng chứng độc lập, các cuộc khiếu nại có ý nghĩa, và những cách thức đã được kiểm nghiệm để vận hành khi các khuyến nghị tự động không khả dụng hoặc bị từ chối. Đó không phải là những biện pháp chống công nghệ. Đó là bộ máy cho phép một xã hội sử dụng công nghệ mạnh mẽ mà không từ bỏ khả năng lựa chọn mục đích của chính mình.