Quản trị biến giá trị thành quyền quyết định
Các nguyên tắc AI của một tổ chức ít quan trọng hơn việc ai có thể hành động khi bằng chứng mâu thuẫn với một lịch trình ra mắt. Quản trị hiệu quả phân bổ thẩm quyền, thông tin, nguồn lực, và trách nhiệm giải trình. Nó xác định quyết định nào thuộc về kỹ sư, cán bộ rủi ro, giám đốc điều hành, và hội đồng quản trị; các mối lo ngại được nâng cấp như thế nào; và ai có thể hạn chế một hệ thống mà không bị trả đũa.
Khung Quản lý Rủi ro AI của NIST nói rằng lãnh đạo điều hành nên chịu trách nhiệm về các rủi ro phát triển và triển khai AI, các cấu trúc trách nhiệm giải trình nên rõ ràng, và các quy trình dự phòng nên giải quyết các thất bại của bên thứ ba (Lõi Khung NIST AI RMF). Khung này là tự nguyện. Tuyên bố của một công ty rằng họ “sử dụng NIST” không phải là bằng chứng rằng một kiểm soát cụ thể hoạt động.
Quản trị doanh nghiệp là một đòn bẩy trong số luật pháp, mua sắm, quyền lao động, tiêu chuẩn nghề nghiệp, và thực hành kỹ thuật. Nó có thể cải thiện các quyết định nội bộ, nhưng nó không thể đại diện cho mọi người bị ảnh hưởng bởi một hệ thống hoặc thay thế thực thi công cộng.
Bắt đầu với một bản kiểm kê hệ thống AI
Một hội đồng quản trị không thể quản trị những gì ban quản lý chưa xác định. Tổ chức nên kiểm kê các mô hình được phát triển nội bộ và mua ngoài, phiên bản, chủ sở hữu, mục đích, dữ liệu, công cụ, quyền hạn, người dùng, nhà cung cấp, và các quần thể bị ảnh hưởng. Các ứng dụng có tác động cao cần chủ sở hữu rủi ro được ghi chép và lịch sử phê duyệt.
Bản kiểm kê nên phân biệt huấn luyện với triển khai và mô hình với hệ thống xung quanh. Một mô hình tổng quát chỉ được sử dụng để soạn thảo văn bản nội bộ có sự phơi nhiễm khác với cùng mô hình đó được kết nối với chuyển khoản tài chính hoặc hồ sơ y tế. Những thay đổi đối với công cụ, câu lệnh, tinh chỉnh, dữ liệu truy xuất, hoặc phiên bản nhà cung cấp có thể thay đổi rủi ro mà không có tên mô hình mới.
Hội đồng quản trị nên nhận được cái nhìn danh mục: các sự cố nghiêm trọng, các phát hiện mức độ nghiêm trọng cao chưa được giải quyết, các triển khai sắp tới, sự phụ thuộc vào các nhà cung cấp đơn lẻ, phạm vi kiểm toán, và sự sẵn sàng để quay lại. Họ không cần quản lý vi mô các câu lệnh, nhưng họ cần đủ chuyên môn kỹ thuật để thách thức các bản tóm tắt và hiểu sự bất định.
Một ủy ban cần thẩm quyền, không chỉ một chức danh
Một ủy ban rủi ro hoặc công nghệ của hội đồng quản trị có thể tập trung sự chú ý, nhưng việc tạo ra một ủy ban không chứng minh kết quả tốt hơn. Điều lệ của nó nên xác định quyền tiếp cận chuyên môn độc lập, giao tiếp trực tiếp với nhân viên rủi ro kỹ thuật, thẩm quyền ủy thác các bài kiểm tra, và sự leo thang lên toàn bộ hội đồng quản trị. Các thành viên cần thời gian và đào tạo, và các xung đột nên được công khai.
Nhân viên an toàn cấp quản lý cần sự độc lập khỏi việc phê duyệt sản phẩm. Các biện pháp thực tiễn bao gồm các đường báo cáo được bảo vệ, bất đồng được ghi chép, yêu cầu chữ ký thứ hai cho các quyết định ngưỡng, và thẩm quyền áp đặt biện pháp kiềm chế tạm thời. Tổ chức nên công bố đủ về cấu trúc quyết định để nhân viên, khách hàng, và nhà đầu tư biết trách nhiệm nằm ở đâu.
Chế độ lương thưởng xứng đáng được xem xét. Việc chỉ thưởng cho tốc độ ra mắt, mức sử dụng, hoặc doanh thu có thể làm suy yếu khả năng chịu rủi ro đã nêu. Các động lực cân bằng có thể bao gồm độ tin cậy, bảo mật, khắc phục sự cố, hoàn tất kiểm toán, và kết quả khách hàng. Các chỉ số an toàn tự nó có thể bị lách, vì vậy hội đồng quản trị nên xem xét bằng chứng thay vì biến quản trị thành một điểm số duy nhất.
Các câu hỏi vận hành mà hội đồng quản trị nên hỏi
Sự giám sát tốt tiếp cận đến sự sẵn sàng ứng phó sự cố:
- Công ty có thể xác định mọi khách hàng và hệ thống bị ảnh hưởng bởi một cập nhật mô hình không?
- Ai có thể thu hồi đặc quyền mô hình, công cụ, hoặc tài khoản ngay lập tức?
- Các quy trình quay lại có được kiểm tra kỹ thuật và tương thích với dữ liệu hiện tại không?
- Các chức năng thiết yếu có thể tiếp tục thông qua một phương án dự phòng của con người đã được đào tạo không?
- Nhật ký có bảo tồn đủ bằng chứng để điều tra mà không tạo ra giám sát không cần thiết không?
- Các nhà đánh giá bên thứ ba có đang kiểm tra cấu hình đã triển khai không?
- Các thất bại nghiêm trọng được báo cáo cho cơ quan quản lý, khách hàng, người lao động, và người bị ảnh hưởng như thế nào?
- Nhân viên có thể nêu lên một mối lo ngại bên ngoài chuỗi quản lý của họ không?
NIST rõ ràng bao gồm việc ngừng hoạt động an toàn, giám sát, chia sẻ thông tin sự cố, và các dự phòng bên thứ ba trong các kết quả quản trị của mình. Do đó, những câu hỏi vận hành này không tách biệt khỏi quản trị hội đồng quản trị; chúng tiết lộ liệu chính sách có tồn tại trong thực tế hay không.
Cổ đông có thể làm gì
Các cổ đông đủ điều kiện tại các công ty đại chúng Hoa Kỳ có thể nộp một số đề xuất nhất định để đưa vào tài liệu ủy quyền theo Quy tắc 14a-8 của Đạo luật Giao dịch Chứng khoán. SEC duy trì quy trình và hướng dẫn hiện tại, đã thay đổi một lần nữa vào tháng 8 năm 2026 (trang đề xuất cổ đông của SEC). Tính đủ điều kiện, thời hạn, các trường hợp loại trừ, và điều lệ công ty đều quan trọng; việc có được tư vấn pháp lý hoặc tư vấn ủy quyền đủ trình độ là điều thận trọng.
Một đề xuất hữu ích yêu cầu công bố có ý nghĩa quyết định, mang tính chất tài liệu thay vì tuyên bố một kết luận kỹ thuật mà cổ đông không thể xác minh. Các chủ đề có thể bao gồm giám sát của hội đồng quản trị, quy trình kiểm kê và rủi ro, báo cáo sự cố, sử dụng trong các lĩnh vực có tác động cao, tính nhất quán trong vận động hành lang, hoặc đánh giá độc lập. Người đề xuất nên xác định những gì báo cáo hiện có bỏ sót và vì sao yêu cầu đó tương xứng.
Hầu hết các đề xuất của cổ đông mang tính tư vấn, và một cuộc bỏ phiếu không trực tiếp viết lại hoạt động. Một cuộc bỏ phiếu thấp vẫn có thể mở ra đối thoại; một cuộc bỏ phiếu cao vẫn có thể bị bỏ qua hoặc thực hiện một cách hời hợt. Do đó, bằng chứng về hiệu quả nên theo dõi các thay đổi chính sách, ngân sách, thẩm quyền, và hiệu suất sự cố—không chỉ số lượng đề xuất.
Các nhà đầu tư tổ chức có nhiều quyền truy cập và quyền biểu quyết hơn, nhưng động lực của họ khác nhau. Các quỹ hưu trí, nhà quản lý tài sản, quỹ chủ động, và nhà cung cấp chỉ số trả lời cho các bên hưởng lợi và nghĩa vụ pháp lý khác nhau. Sự phối hợp có thể cải thiện phân tích trong khi đặt ra các câu hỏi quản trị và chống độc quyền riêng của nó. Các nhà đầu tư cá nhân không nên giả định rằng sở hữu một cổ phiếu tạo ra quyền kiểm soát có ý nghĩa.
Các công ty tư nhân và nhà phát triển tiên phong
Các cơ chế ủy quyền thị trường đại chúng không tiếp cận trực tiếp hầu hết các nhà phát triển tiên phong sở hữu tư nhân. Các nhà đầu tư có thể có ghế trong hội đồng quản trị, quyền thông tin, các điều khoản bảo vệ, hoặc đòn bẩy hợp đồng, nhưng những điều khoản đó thường mang tính bảo mật. Nhân viên, khách hàng, đối tác đám mây, công ty bảo hiểm, và cơ quan quản lý có thể có ảnh hưởng thực tế hơn.
Các cấu trúc đặc biệt—công ty vì lợi ích công, kiểm soát phi lợi nhuận, ủy thác mục đích, hoặc hội đồng an toàn—có thể thay đổi các nghĩa vụ chính thức. Hiệu quả của chúng phụ thuộc vào các tài liệu có thể thực thi, quyền bổ nhiệm và bãi nhiệm, tài trợ, quyền tiếp cận thông tin, và những gì đã xảy ra trong một xung đột thực sự. Cấu trúc nên được đánh giá, không được coi là một nhãn an toàn.
Khách hàng có thể yêu cầu các bảo vệ hợp đồng: thông báo phiên bản mô hình, kết quả đánh giá liên quan, quyền kiểm toán, thông báo sự cố, tính di động dữ liệu, và hỗ trợ chấm dứt. Các người mua doanh nghiệp lớn và chính phủ có thể có được các kiểm soát mà các cổ đông phân tán không thể.
Người lao động và trách nhiệm nghề nghiệp
Nhân viên thường thấy các thất bại trước hội đồng quản trị. Các công ty cần các kênh bảo mật, quy tắc chống trả đũa, điều tra độc lập, và một lộ trình khẩn cấp được xác định. SB 53 của California bảo vệ những người lao động AI tiên phong cụ thể báo cáo các nguy hiểm an toàn công cộng hoặc vi phạm pháp luật được bảo hộ cho các thực thể được chỉ định (hướng dẫn của Tổng Chưởng lý California). Phạm vi bảo hộ là cụ thể; nó không phải là một luật tố giác phổ quát.
Hội đồng người lao động, công đoàn, hiệp hội nghề nghiệp, và cán bộ đạo đức có thể thương lượng về đào tạo, giới hạn giám sát, nhân sự, xem xét an toàn, và trách nhiệm đối với các quyết định tự động. Kỹ sư, bác sĩ lâm sàng, luật sư, nhà giáo dục, và kiểm toán viên cũng hoạt động dưới các nghĩa vụ nghề nghiệp khác nhau. Một cách tiếp cận đa nguyên về mặt tư tưởng tôn trọng các mối lo ngại về an toàn, quyền dân sự, việc làm, đổi mới, an ninh quốc gia, nghiên cứu mở, và tập trung thị trường thay vì đòi hỏi một lý thuyết duy nhất về rủi ro AI.
Công bố nên hữu ích và an toàn
Các nhà đầu tư cần thông tin có thể so sánh về rủi ro trọng yếu, nhưng công bố bừa bãi có thể tiết lộ các điểm yếu bảo mật hoặc dữ liệu cá nhân nhạy cảm. Báo cáo công khai có thể mô tả quản trị, các danh mục đánh giá, sự cố tổng hợp, và khắc phục. Các cơ quan quản lý hoặc kiểm toán viên đủ trình độ có thể nhận được bằng chứng bảo mật chi tiết hơn.
Tránh các chỉ số phù phiếm. Số giờ đội đỏ, nhân viên an toàn, hoặc câu lệnh bị chặn có ít ý nghĩa nếu không có phạm vi và kết quả. Báo cáo tốt hơn giải thích rủi ro còn lại, các phát hiện chưa được giải quyết, các thay đổi đối với khung, các suýt xảy ra, và liệu các biện pháp bảo vệ có thay đổi một lần ra mắt hay không.
Giới hạn và xung đột
Hội đồng quản trị nợ nghĩa vụ đối với công ty theo luật áp dụng, không phải đối với nhân loại một cách trừu tượng. Cổ đông có thể ưu tiên lợi nhuận ngắn hạn hoặc các mục tiêu chính trị. Giám đốc có thể thiếu chuyên môn kỹ thuật. Các hợp đồng tư nhân không thể bảo vệ những người không phải khách hàng. Công bố doanh nghiệp có thể trở thành quản lý danh tiếng.
Đó là lý do vì sao cải cách quản trị nên bổ sung cho luật có thể thực thi, cạnh tranh, nghiên cứu độc lập, và biện pháp khắc phục cho những người bị ảnh hưởng. Nó mạnh nhất ở nơi một công ty đã có năng lực để ngăn ngừa tổn hại và cải cách trao cho những người được xác định thẩm quyền thực sự để sử dụng nó.
Kết luận thực tiễn
Vận động doanh nghiệp không phải là “áp lực từ bên trong” theo một hình thức đơn giản. Cổ đông có thể yêu cầu công bố và bỏ phiếu; hội đồng quản trị có thể phân bổ thẩm quyền; người lao động có thể phơi bày bằng chứng; khách hàng có thể đặt điều khoản hợp đồng; và các nhà đầu tư tổ chức có thể soi xét các động lực. Mỗi đòn bẩy có phạm vi và giới hạn pháp lý khác nhau.
Thành công nên được đo lường về mặt vận hành: các rủi ro được phát hiện trước khi gây hại, các đặc quyền bị thu hồi khi cần thiết, các sự cố được báo cáo, các hệ thống được quay lại an toàn, mọi người được bảo vệ khỏi trả đũa, và các bài học được kết hợp. Một ủy ban mới hoặc một cam kết công khai chỉ là khởi đầu của bằng chứng đó.