Phân tích rủi ro cũng phải tính đến lợi ích
Một trang web về việc sống sót qua AI mạnh mẽ có thể trở nên méo mó nếu chỉ đếm những tổn hại. Các quyết định an toàn liên quan đến hai loại sai lầm: triển khai một hệ thống gây thiệt hại và giữ lại một hệ thống có thể đã ngăn ngừa thiệt hại. Câu trả lời không phải là tự động tăng tốc. Đó là so sánh lợi ích, tổn hại, các phương án thay thế, sự bất định, và ai gánh chịu mỗi hậu quả.
Bằng chứng hiện tại liên quan đến học máy và AI tạo sinh, không phải AGI. Một lợi ích đã đo lường là một kết quả được quan sát trong một bối cảnh xác định. Một lợi ích được dự phóng phụ thuộc vào các giả định về việc áp dụng và năng lực. Những tuyên bố rằng AGI sẽ chữa khỏi bệnh tật, chấm dứt khan hiếm, hoặc giải quyết biến đổi khí hậu là những kịch bản có điều kiện, không phải kết quả đã xác lập.
Năng suất là thật nhưng phụ thuộc vào bối cảnh
Các nghiên cứu có kiểm soát và thử nghiệm thực địa tại nơi làm việc đã phát hiện rằng các công cụ tạo sinh có thể tăng tốc một số nhiệm vụ viết, lập trình, và hỗ trợ khách hàng. Hiệu ứng thay đổi theo kinh nghiệm của người lao động, nhiệm vụ, mô hình, và liệu sai sót có tốn kém hay không. Hoàn thành nhanh hơn không tự động có nghĩa là phúc lợi xã hội cao hơn: thời gian tiết kiệm được có thể tăng lương, giảm giá, tăng sản lượng, giảm việc làm, hoặc tăng cường độ mục tiêu hiệu suất.
Phân tích mức độ phơi nhiễm toàn cầu năm 2025 của ILO kết luận rằng chuyển đổi có khả năng xảy ra hơn là thay thế toàn bộ đối với hầu hết các nghề nghiệp bị phơi nhiễm vì công việc chứa các gói nhiệm vụ hỗn hợp (ILO–NASK, tháng 5 năm 2025). Đó là một đánh giá phơi nhiễm được mô hình hóa, không phải bằng chứng rằng mọi người lao động đều được hưởng lợi. Phân phối, thương lượng, và thiết kế công việc quyết định lợi ích năng suất chảy về đâu.
Các tổ chức nhỏ có thể đạt được những năng lực trước đây chỉ dành cho các công ty lớn: dịch thuật, phân tích bản thảo, hỗ trợ phần mềm, thiết kế, và dịch vụ khách hàng. Tuy nhiên, chi phí đăng ký, quy định dữ liệu, độ tin cậy, và sự phụ thuộc vào một nhà cung cấp có thể hạn chế lợi thế đó. Một đánh giá hữu ích đo lường tổng chi phí quy trình làm việc, thời gian sửa lỗi, thất bại, và kỹ năng được giữ lại chứ không phải các bản trình diễn ấn tượng.
Sức khỏe và khả năng tiếp cận
AI đã hỗ trợ hình ảnh y khoa, tài liệu lâm sàng, khám phá thuốc, giám sát dân số, và giao diện hỗ trợ. Tổ chức Y tế Thế giới xác định các ứng dụng tiềm năng trong chẩn đoán và chăm sóc, hỗ trợ bệnh nhân, quản lý hành chính, đào tạo, và nghiên cứu, đồng thời cảnh báo về đầu ra không chính xác, thiên kiến, quyền riêng tư, thiên kiến tự động hóa, và tiếp cận không bình đẳng (hướng dẫn của WHO, tháng 1 năm 2024).
Những cảnh báo đó không phải là lý do để từ bỏ lĩnh vực này. Trì hoãn một công cụ sàng lọc hoặc hành chính đã được xác nhận có thể duy trì các tồn đọng và gánh nặng cho bác sĩ lâm sàng vốn có thể tránh được. Triển khai một chatbot chưa được xác nhận với vai trò bác sĩ lâm sàng có thể tạo ra tổn hại có thể tránh được. Bằng chứng nên phù hợp với cách sử dụng: hiệu suất thiết bị y tế, kết quả lâm sàng, kết quả theo phân nhóm, giám sát tương lai, và một chuyên gia chịu trách nhiệm được nêu tên.
Các hệ thống tạo sinh có thể cung cấp phụ đề, mô tả hình ảnh, đơn giản hóa văn bản, giao diện giọng nói, và giao tiếp cá nhân hóa. Đối với một số người dùng khuyết tật, đây là công cụ độc lập, không phải sự tiện lợi. Các tuyên bố về khả năng tiếp cận vẫn phải được kiểm tra với những người bị ảnh hưởng. Một hệ thống thất bại với giọng nói không điển hình, không thể hoạt động ngoại tuyến, hoặc khiến một trang web không tương thích với công nghệ hỗ trợ có thể tạo ra những rào cản mới.
Khoa học và dịch vụ công
Học máy có thể tìm kiếm trong không gian hóa học và sinh học, phân tích các tập dữ liệu lớn, hỗ trợ công việc toán học, và giúp các nhà khoa học viết mã hoặc tìm tài liệu. Một giả thuyết được tạo ra không phải là một khám phá; thí nghiệm, tái lập, và bình duyệt vẫn là cần thiết. Các hệ thống độc quyền có thể tăng tốc nghiên cứu trong khi làm cho các phương pháp kém tái lập được hơn.
Các ứng dụng của chính phủ có thể bao gồm dịch thuật, hỗ trợ biểu mẫu, sàng lọc gian lận, bảo trì hạ tầng, và lập kế hoạch khẩn cấp. Lợi ích lớn nhất khi AI mở rộng khả năng tiếp cận mà không khiến việc đủ điều kiện hoặc thực thi trở nên vô trách nhiệm. Việc từ chối phúc lợi tự động, giám sát dự đoán, hoặc chấm điểm rủi ro không minh bạch có thể biến hiệu quả hành chính thành vi phạm quyền lợi.
Các cơ quan công quyền nên đo lường tỷ lệ hoàn thành, thời gian chờ đợi, độ chính xác, khiếu nại, kết quả theo phân nhóm, và khối lượng công việc của nhân viên. Độ chính xác do nhà cung cấp báo cáo là chưa đủ. Các hợp đồng cần quyền kiểm toán, bảo vệ dữ liệu, báo cáo sự cố, và một kế hoạch rút lui.
Giáo dục và xây dựng năng lực
Gia sư AI có thể cung cấp luyện tập và phản hồi với chi phí biên thấp. Báo cáo Triển vọng Giáo dục Số 2026 của OECD tìm thấy triển vọng khi các công cụ được lồng ghép trong sư phạm vững chắc và nhấn mạnh sự phân biệt giữa hiệu suất được AI hỗ trợ và kỹ năng bền vững của con người (OECD, 2026).
Chi phí cơ hội của một lệnh cấm toàn diện có thể lớn nhất đối với những học sinh không có gia sư riêng, dịch thuật, hoặc hỗ trợ chuyên môn. Chi phí của việc tạo câu trả lời không hạn chế có thể là mất đi sự luyện tập và mở rộng bất bình đẳng giữa người dùng được hướng dẫn và không được hướng dẫn. Tiếp cận có cấu trúc, kiểm tra nguồn, đánh giá dựa trên quy trình, và tiếp tục làm việc không có hỗ trợ giữ được cả lợi ích lẫn việc học.
Năng lượng và khí hậu vận hành theo cả hai hướng
Các trung tâm dữ liệu tiêu thụ điện, nước, vật liệu, và đất đai. AI cũng có thể tối ưu hóa lưới điện, tòa nhà, giao thông, quy trình công nghiệp, và mô hình hóa khoa học. Cơ quan Năng lượng Quốc tế coi cả hai hiệu ứng đều quan trọng và bất định. Cơ quan này dự báo nhu cầu điện của trung tâm dữ liệu sẽ tăng mạnh trong khi phân tích lợi ích về hiệu quả và hệ thống năng lượng (IEA, tháng 4 năm 2025).
Các tuyên bố về lượng khí thải được tránh cần một kịch bản đối chứng. Một sự tối ưu hóa tiết kiệm năng lượng trên mỗi hoạt động có thể làm tăng tổng mức tiêu thụ nếu nó khiến hoạt động đó trở nên rẻ hơn. Các công ty nên báo cáo dấu chân trực tiếp và xác nhận độc lập các khoản tiết kiệm được tuyên bố ở khâu sau thay vì trừ đi những lợi ích mang tính suy đoán khỏi lượng khí thải đã đo lường.
Chi phí cơ hội của sự trì hoãn không phân biệt
Sự trì hoãn có thể có nghĩa là chẩn đoán bị hoãn lại, dịch vụ không thể tiếp cận, nghiên cứu chậm hơn, chi phí hành chính cao hơn, hoặc năng lực phòng vệ bị mất đi. Nó cũng có thể duy trì thời gian để thử nghiệm, xây dựng thể chế, đào tạo người lao động, và ngăn chặn việc triển khai không thể đảo ngược. Sự phân biệt then chốt là học tập có thể đảo ngược so với phơi nhiễm không thể đảo ngược.
Một thử nghiệm lâm sàng có giới hạn, một trợ lý khoa học trong hộp cát, hoặc một công cụ tiếp cận rủi ro thấp có thể tạo ra bằng chứng với mức thiệt hại giới hạn. Việc phát hành các trọng số mạnh mẽ, tích hợp một tác nhân vào hạ tầng trọng yếu, hoặc tự động hóa một quyết định ảnh hưởng đến quyền lợi có thể khó đảo ngược. Sự thận trọng nên tỷ lệ thuận với hậu quả và khả năng đảo ngược.
Cũng có một chi phí cơ hội khi tập trung phát triển. Nếu chỉ một vài công ty có thể tuân thủ các quy tắc tốn kém, xã hội có thể mất cạnh tranh, sự giám sát độc lập, và đổi mới địa phương. Ngược lại, các quy tắc yếu có thể đẩy tổn hại ra ngoài lên những người không nhận được bất kỳ lợi ích nào. Chính sách tốt tài trợ cho năng lực vì lợi ích công và mở rộng nghĩa vụ theo mức độ rủi ro.
Các tuyên bố về lợi ích của AGI cần cùng kỷ luật như các tuyên bố về rủi ro
Nếu các hệ thống có năng lực rộng có thể tự động hóa nghiên cứu, chúng có thể tăng tốc y học, vật liệu, năng lượng sạch, và giáo dục. Chúng cũng có thể tạo ra các thiết kế không an toàn, tập trung quyền sở hữu, hoặc tối ưu hóa các mục tiêu tách rời khỏi phúc lợi con người. Cả hai đều là dự báo. Năng lực không giống với việc lựa chọn khôn ngoan, triển khai vật lý, tiếp cận công bằng, hoặc tính hợp pháp chính trị.
Sự khan hiếm sẽ không biến mất chỉ vì công việc nhận thức trở nên rẻ hơn. Năng lượng, đất đai, khoáng sản, thời gian, niềm tin, và quản trị vẫn là những ràng buộc. Đầu ra khoa học có thể trở nên dồi dào trong khi năng lực thực nghiệm, quy định, và sự chú ý trở thành các điểm nghẽn.
Một khung quyết định
Đối với một ứng dụng được đề xuất, hãy hỏi:
- Kết quả nào quan trọng, và phương án thay thế không dùng AI là gì?
- Lợi ích được tuyên bố đã được đo lường, được mô hình hóa, hay chỉ là suy đoán?
- Ai nhận được lợi ích và ai gánh chịu sai sót?
- Hiệu suất thay đổi như thế nào giữa các nhóm và điều kiện?
- Con người có thể kháng nghị, từ chối, và nhận được xem xét của con người không?
- Việc triển khai có thể đảo ngược không, và nhật ký cùng phương án dự phòng có được duy trì không?
- Bằng chứng nào sẽ kích hoạt việc mở rộng, thiết kế lại, hoặc đóng cửa?
Các xung đột nên được công khai. Nhà cung cấp được hưởng lợi từ các tuyên bố lạc quan về việc áp dụng; những người ủng hộ an toàn có thể nhấn mạnh mặt tiêu cực; các cơ quan có thể ưu tiên hiệu quả; các chuyên gia có thể bảo vệ hoặc công bằng bảo vệ các tiêu chuẩn. Sự tái lập độc lập và sự tham gia của cộng đồng bị ảnh hưởng cải thiện quyết định.
Lập trường cân bằng không phải là “tăng tốc mọi thứ” cũng không phải là “dừng mọi thứ.” Hãy nắm bắt những lợi ích đã được chứng minh trong các bối cảnh có giới hạn, có trách nhiệm giải trình; duy trì các tiêu chuẩn cao ở nơi thất bại gây tổn hại đến quyền lợi hoặc tính mạng; và coi những lời hứa hẹn phi thường về AGI là những kịch bản. An toàn thành công khi nó bảo vệ khả năng của con người trong việc hưởng lợi, chứ không phải khi nó giảm việc sử dụng công nghệ như một mục đích tự thân.