Tự động hóa không đình chỉ luật quyền dân sự
Một chủ lao động, chủ nhà, người cho vay, trường học, công ty bảo hiểm, sở cảnh sát, hoặc cơ quan phúc lợi có thể sử dụng một thuật toán mà không thoát khỏi các nghĩa vụ chi phối quyết định đó. Tại Hoa Kỳ, các luật như Title VII, Đạo luật Người Mỹ Khuyết tật, Đạo luật Nhà ở Công bằng, Đạo luật Cơ hội Tín dụng Bình đẳng, và các bảo vệ về thủ tục tố tụng hợp hiến có thể áp dụng tùy theo chủ thể và bối cảnh. Phạm vi áp dụng, tiêu chuẩn pháp lý, và biện pháp khắc phục khác nhau; trang này không phải là tư vấn pháp lý.
Những lo ngại ngày nay phát sinh từ các mô hình thống kê, hệ thống xếp hạng, sinh trắc học, và AI tạo sinh. Những tuyên bố rằng AGI sẽ tạo ra giám sát toàn diện hoặc dự đoán hành vi một cách hoàn hảo là dự báo có điều kiện, không phải năng lực đã được quan sát.
Phân biệt đối xử có thể xâm nhập ở mọi giai đoạn
Dữ liệu lịch sử có thể mã hóa sự loại trừ trước đây. Nhãn dữ liệu có thể phản ánh các vụ bắt giữ chứ không phải hành vi phạm tội, chi tiêu y tế chứ không phải nhu cầu, hoặc đánh giá của quản lý chứ không phải hiệu suất. Các đặc trưng bỏ qua chủng tộc vẫn có thể đóng vai trò thay thế cho tình trạng được bảo vệ thông qua vị trí địa lý, trường học, ngôn ngữ, khuyết tật, hoặc mạng lưới quan hệ.
Các lựa chọn thiết kế quyết định ai được đại diện, kết quả nào được tối ưu hóa, và sai sót nào quan trọng. Việc triển khai tạo ra thêm vấn đề: nhân viên có thể quá tin tưởng vào một điểm số, ứng viên có thể không thể sửa hồ sơ, và một công cụ được kiểm tra ở quy mô quốc gia có thể thất bại trong một quần thể địa phương. Độ chính xác tổng thể của một nhà cung cấp có thể che giấu tỷ lệ âm tính giả hoặc dương tính giả cao đối với một phân nhóm.
Các thước đo công bằng có thể xung đột với nhau. Việc cân bằng một tỷ lệ sai sót có thể làm xấu đi một tỷ lệ khác, đặc biệt khi các tỷ lệ đo lường cơ bản khác nhau. Toán học không thể quyết định sự đánh đổi nào là hợp pháp hoặc công bằng. Các tổ chức phải liên kết các thước đo với quyền lợi, mục đích, và hậu quả.
Việc làm minh họa trách nhiệm chung
Các chủ lao động sử dụng phần mềm để sàng lọc sơ yếu lý lịch, chấm điểm bài kiểm tra, phân tích video, lập lịch làm việc, giám sát năng suất, và đề xuất thăng chức hoặc sa thải. Ủy ban Cơ hội Việc làm Bình đẳng Hoa Kỳ và Bộ Tư pháp cảnh báo rằng các công cụ thuật toán có thể sàng lọc trái phép người khuyết tật và các chủ lao động có thể cần cung cấp các hỗ trợ hợp lý (EEOC và DOJ, tháng 5 năm 2022).
Mua một công cụ không chuyển toàn bộ trách nhiệm sang nhà cung cấp. Các chủ lao động nên xác nhận nó cho công việc và nhóm dân số cụ thể, thông báo cho ứng viên, cung cấp các phương án thay thế có thể tiếp cận, giám sát kết quả, và điều tra các phương pháp ít phân biệt đối xử hơn. Ứng viên cần một cách để phản đối dữ liệu sai và nhận được xem xét của con người trước khi một quyết định bất lợi trở thành cuối cùng.
Việc suy luận từ giọng nói, ánh mắt, biểu cảm khuôn mặt, hoặc tính cách xứng đáng nhận được sự hoài nghi đặc biệt. Một tín hiệu có thể tương quan trong một mẫu huấn luyện mà không đo lường đáng tin cậy năng lực công việc, và khuyết tật hoặc khác biệt văn hóa có thể làm thay đổi nó. Các tuyên bố rằng một AI đọc được cảm xúc nên được hỗ trợ bởi bằng chứng hiệu lực độc lập cho việc sử dụng thực tế.
Nhà ở, tín dụng, và các dịch vụ thiết yếu
Các hệ thống sàng lọc người thuê nhà kết hợp hồ sơ tín dụng, trục xuất, hình sự, và nhận dạng có thể không đầy đủ hoặc bị nhầm lẫn. Hướng dẫn năm 2024 của HUD nêu rõ rằng Đạo luật Nhà ở Công bằng áp dụng cho việc sàng lọc người thuê nhà bằng học máy và cả nhà cung cấp nhà ở lẫn các công ty sàng lọc đều có vai trò trong việc đảm bảo các quyết định công bằng, chính xác, minh bạch (hướng dẫn lưu trữ của HUD, tháng 4 năm 2024).
Quảng cáo tự động cũng có thể loại trừ người trước khi họ nộp đơn bằng cách phân phối các cơ hội nhà ở hoặc việc làm một cách chọn lọc. Trong cho vay, dữ liệu thay thế có thể mở rộng khả năng tiếp cận cho những người có hồ sơ tín dụng mỏng hoặc tái tạo sự chênh lệch về khu vực và thu nhập. Sự so sánh đúng đắn không phải là thuật toán so với con người hoàn hảo; mà là một quy trình đã được kiểm tra so với phương án thay thế thực tế, với quyền lợi được bảo toàn ở cả hai.
Phúc lợi, chăm sóc sức khỏe, và bảo hiểm liên quan đến những rủi ro đặc biệt cao. Việc phân loại ưu tiên có thể giúp nhân viên ưu tiên các trường hợp, nhưng một điểm số không minh bạch không nên trở thành một sự từ chối không thể kháng nghị. Các cơ quan cần thông báo, lý do, quyền tiếp cận bằng chứng, xem xét kịp thời của con người, và tính liên tục trong khi một sai sót được giải quyết.
AI tạo sinh bổ sung các tổn hại về đại diện và suy luận
Các hệ thống tạo sinh có thể tạo ra khuôn mẫu, bịa đặt cáo buộc, tiết lộ dữ liệu cá nhân đã ghi nhớ, hoặc suy luận các đặc điểm nhạy cảm từ thông tin thông thường. Hồ sơ AI Tạo sinh tự nguyện của NIST xác định thiên kiến có hại, đồng nhất hóa, quyền riêng tư, và bịa đặt trong số các rủi ro liên ngành (NIST AI 600-1, tháng 7 năm 2024).
Hướng dẫn của NIST không phải là luật ràng buộc. Nó cung cấp một từ vựng quản lý rủi ro. Các tuyên bố tuân thủ nên nêu rõ tổ chức thực sự đã kiểm tra và thay đổi những gì, chứ không chỉ nói rằng nó “sử dụng khung của NIST.”
Giám sát thay đổi quyền lực ngay cả khi chính xác
AI có thể làm cho việc tìm kiếm camera, giọng nói, vị trí, mua sắm, giao tiếp, và hoạt động tại nơi làm việc trở nên rẻ hơn. Tổn hại không giới hạn ở việc nhận diện sai. Giám sát chính xác có thể làm chùn bước biểu tình, hiệp hội, thực hành tôn giáo, chăm sóc y tế, hoặc tổ chức lao động. Một người có thể thay đổi hành vi hợp pháp vì sự quan sát là liên tục và các quyết định không minh bạch.
Nhận dạng sinh trắc học có thể giúp định vị một người mất tích hoặc mở khóa một thiết bị. Nó cũng có thể cho phép theo dõi ở quy mô dân số. Tính tương xứng phụ thuộc vào mục đích, lệnh hoặc thẩm quyền, thời gian lưu giữ, chất lượng danh sách theo dõi, xem xét của con người, sai sót, và liệu có tồn tại các phương tiện ít xâm phạm hơn hay không.
Sự lan rộng mục đích là điều có thể dự đoán được: dữ liệu thu thập cho an ninh sau này có thể phục vụ cho tiếp thị, nhập cư, chấm điểm năng suất, hoặc thực thi pháp luật. Giới hạn mục đích, thời gian lưu giữ ngắn, nhật ký truy cập, và xóa dữ liệu là những kiểm soát thực chất.
Kiểm toán cần có sức mạnh thực thi
Một cuộc kiểm toán có thể xem xét dữ liệu, hiệu suất theo phân nhóm, bảo mật, quản trị, và tuân thủ pháp lý. Một bài kiểm tra do nhà cung cấp lựa chọn trên một tập dữ liệu được chọn lọc yếu hơn một đánh giá độc lập với quyền truy cập sản xuất. Kiểm toán viên cần được bảo vệ khỏi trả đũa, tự do công bố những hạn chế đáng kể, và đủ thông tin để tái lập các phát hiện.
Các đánh giá tác động nên diễn ra trước khi mua sắm và một lần nữa sau khi triển khai. Chúng nên xác định các nhóm bị ảnh hưởng, các phương án thay thế, nguồn dữ liệu, hậu quả sai sót, kháng nghị, và tiêu chí đóng cửa. Giám sát kết quả tổng hợp là cần thiết vì các bài kiểm tra trước khi triển khai không thể dự đoán mọi điều kiện địa phương.
Tính minh bạch phải hữu dụng. Việc công bố một bài báo kỹ thuật không cho một ứng viên biết vì sao họ bị từ chối. Thông báo cá nhân cần các yếu tố quyết định và một lộ trình sửa chữa; tính minh bạch công khai cần hiệu suất, hợp đồng, sự cố, và thẩm quyền của cơ quan.
Sự tham gia và biện pháp khắc phục
Những người chịu tác động của một hệ thống nên giúp xác định thành công có nghĩa là gì và tổn hại không thể chấp nhận có nghĩa là gì. Các nhóm khuyết tật có thể xác định các bài kiểm tra không thể tiếp cận; người thuê nhà có thể giải thích các sai sót hồ sơ; người lao động có thể tiết lộ cách giám sát thay đổi hành vi. Việc tham vấn sau khi hợp đồng đã được ký có rất ít đòn bẩy.
Biện pháp khắc phục nên bao gồm sửa chữa, xem xét lại, khôi phục cơ hội đã mất khi có thể, bồi thường cho tổn hại, và thay đổi tổ chức. Xem xét của con người phải độc lập và được trao quyền, không phải một con dấu đóng khống cho điểm số.
Các kịch bản AGI
Các tác nhân có năng lực hơn có thể kết hợp cơ sở dữ liệu, suy luận các đặc điểm riêng tư, cá nhân hóa việc thao túng, và tự động hóa các quyết định giám sát. Chúng cũng có thể giúp phát hiện phân biệt đối xử, dịch các khiếu nại, và làm cho hỗ trợ pháp lý dễ tiếp cận hơn. Không kết quả nào theo sau chỉ từ trí thông minh. Luật pháp, kiểm soát truy cập, động lực thể chế, và quyền sở hữu quyết định cách sử dụng.
Tiêu chuẩn thực tiễn rất đơn giản: không triển khai một hệ thống ảnh hưởng đến quyền lợi mà không có mục đích hợp pháp, bằng chứng về hiệu lực, kiểm tra theo phân nhóm, tối thiểu hóa dữ liệu, thông báo có thể tiếp cận, kháng nghị của con người có ý nghĩa, giám sát độc lập, và biện pháp khắc phục. Độ chính xác là cần thiết trong nhiều bối cảnh, nhưng quyền dân sự đòi hỏi các giới hạn đối với những gì các tổ chức được phép làm ngay cả khi chính xác.