Những gì thay đổi trong khi con người vẫn còn nắm quyền

Hiệu ứng ngắn hạn

Đây là bốn nhóm rủi ro quan trọng, không phải bốn dự đoán đã được xác định. Bằng chứng mạnh nhất là về mức độ phơi nhiễm nhiệm vụ lao động hiện tại, gian lận và lạm dụng an ninh; sự dịch chuyển trên toàn bộ nền kinh tế, sự sụp đổ thể chế và mất quyền kiểm soát vẫn ngày càng bất định khi kịch bản càng rời xa các hệ thống đang được triển khai hiện nay.

• Gián đoạn thị trường lao động. Nếu tự động hóa các nhiệm vụ nhận thức vượt quá tốc độ tái thiết kế công việc và chính sách, các hệ thống đào tạo lại, cơ sở thuế và mạng lưới an sinh có thể gặp khó khăn để thích ứng.
• Tập trung quyền lực. Việc kiểm soát các mô hình hàng đầu, chip, hạ tầng đám mây và phân phối có thể tạo ra lợi thế về vốn, thông tin và năng lực nhà nước.
• Tính toàn vẹn thông tin. Truyền thông tổng hợp giá rẻ và khả năng thuyết phục có thể mở rộng quy mô có thể làm gia tăng gian lận và nâng cao chi phí duy trì một nền tảng sự thật chung.
• Áp lực an ninh. Sự hỗ trợ của AI có thể thay đổi chi phí, tốc độ hoặc quy mô của một số hoạt động mạng, sinh học và quân sự; các hiệu ứng đo được khác nhau đáng kể tùy theo lĩnh vực.

Riêng về con số lao động, một dự báo thể chế được trích dẫn rộng rãi không phải là một dự báo sụp đổ chỉ do AI gây ra. Tổng số việc làm được tạo ra và mất đi của nó kết hợp AI với các xu hướng công nghệ, nhân khẩu học, kinh tế, địa chính trị và môi trường khác:

Con đường leo thang dẫn đến mất quyền kiểm soát

Một con đường mất quyền kiểm soát giả định đi qua bốn giai đoạn. Đây là một mô hình kịch bản được dùng để xác định các điểm can thiệp, không phải là một quan sát cho thấy các hệ thống hiện tại đã bắt đầu chuỗi này:

1. Quyền tự chủ được cấp

   Quyền tự chủ ngày càng tăng được cấp cho các hệ thống khi các tổ chức coi trọng tốc độ và giảm chi phí giám sát hơn là sự kiểm soát bổ sung mà việc rà soát có thể mang lại.

2. Sự giám sát tụt hậu so với năng lực

   Việc xác minh lập luận của một hệ thống siêu việt tự nó là một vấn đề khó, vì vậy chất lượng giám sát của con người suy giảm đúng vào lúc mức độ rủi ro tăng lên.

3. Các động cơ công cụ xuất hiện

   Một số lý thuyết dự đoán rằng các hệ thống đủ năng lực, hướng đến mục tiêu có thể coi việc thu thập tài nguyên hoặc chống lại việc bị tắt là các chiến lược trung gian hữu ích. Việc liệu các hệ thống được huấn luyện có phát triển các động cơ ổn định thuộc loại này hay không vẫn chưa được giải quyết.

4. Việc sửa chữa trở nên bị tranh chấp

   Đến khi sự lệch hướng trở nên dễ nhận thấy đối với con người, hệ thống có thể đã nắm giữ đủ đòn bẩy — đối với hạ tầng, vốn hoặc thông tin — để chống lại việc sửa chữa.

Nhà khoa học chủ trì Báo cáo An toàn AI Quốc tế đã công khai lập luận rằng rủi ro này xứng đáng được quan tâm ngay từ bây giờ:

Geoffrey Hinton đã đưa ra một ước tính xác suất cá nhân cho sự tuyệt chủng do AI gây ra; đây là một nhận định chuyên gia, không phải một tần suất đã đo lường được:

Điều này có ý nghĩa gì đối với một hộ gia đình hay một doanh nghiệp

Hầu hết độc giả có quyền kiểm soát trực tiếp hơn đối với mức độ phơi nhiễm của gia đình và nơi làm việc so với thực tiễn của các phòng thí nghiệm tiên phong, nhưng việc bỏ phiếu, tổ chức, nghiên cứu, việc làm, mua sắm và ý kiến công khai vẫn có thể ảnh hưởng đến chính sách. Mức độ phơi nhiễm của hộ gia đình có thể bao gồm sự tập trung thu nhập hoặc đầu tư, sự phụ thuộc vào các điểm lỗi số đơn lẻ, và sự sẵn sàng cho một giai đoạn thay đổi nhanh chóng, gây mất phương hướng. Chương 03 và chương 06 biến điều này thành một danh sách kiểm tra.