Hai hồ sơ, không phải một
Khuyết tật là trường hợp thử nghiệm sắc bén nhất cho một tuyên bố được đưa ra xuyên suốt cẩm nang này: rằng các tác động của AI không đồng đều tốt hay xấu, và tác động nào sẽ xuất hiện phụ thuộc vào ai đã xây dựng hệ thống, ai đã triển khai nó, và có biện pháp khắc phục nào khi nó thất bại. Đối với người khuyết tật, cả hai hồ sơ đều đã có thật và có ngày tháng cụ thể, không phải giả định. Các mô hình đa phương thức đã cho người mù và người khiếm thị một công cụ mô tả không tồn tại ba năm trước. Cùng một khuôn mẫu nhận dạng cơ bản — suy luận về một người từ giọng nói, chuyển động, hoặc hành vi gõ phím — cũng đang là chủ đề của một đơn khiếu nại phân biệt đối xử liên bang, một vụ kiện tập thể được chứng nhận, và một cuộc điều tra của Bộ Tư pháp về một thuật toán phúc lợi trẻ em.
Trang này chỉ đề cập đến các trường hợp đã được ghi chép, có ngày tháng cụ thể. Trang này cố ý loại trừ một câu chuyện năm 2026 được lan truyền rộng rãi về việc Meta khóa tài khoản liên quan đến các phát hiện sai của kiểm duyệt nội dung, vì các báo cáo cơ bản cho thấy đó là một thất bại kiểm duyệt tổng quát, chứ không phải riêng về khuyết tật. Xem quyền dân sự, phân biệt đối xử, và giám sát AI để biết khung pháp lý chi phối các trường hợp dưới đây, và dịch chuyển lao động và kinh tế để biết vị trí của tuyển dụng tự động trong bức tranh việc làm rộng hơn.
Điều gì thực sự đang hoạt động, và nó đã được kiểm chứng như thế nào
Thành công được trích dẫn nhiều nhất là Be My AI, được tích hợp vào ứng dụng Be My Eyes trên GPT-4V của OpenAI và ra mắt vào tháng 3 năm 2023 với tư cách là ứng dụng bên thứ ba đầu tiên được xây dựng trên mô hình đó (TechCrunch, 14 tháng 3 năm 2023). Nó cho phép người mù hoặc khiếm thị chụp ảnh một khung cảnh, một nhãn hàng, hoặc một mảnh thư và nhận được mô tả bằng giọng nói. Trong một lần triển khai, như một công cụ bổ sung cho đường dây hỗ trợ bên trong bộ phận vận hành của Microsoft, Be My Eyes và Microsoft báo cáo tỷ lệ giải quyết thành công 90% và thời gian giải quyết trung bình khoảng bốn phút, chưa bằng một nửa thời gian điển hình của nhân viên hỗ trợ con người (Be My Eyes). Con số đó do công ty tự báo cáo từ một lần triển khai đối tác, chưa được kiểm toán độc lập — tài khoản riêng của một nhà cung cấp về sản phẩm của chính họ. Cùng nguồn đó ghi nhận chế độ thất bại nghiêm trọng nhất của công cụ, ảo giác tự tin: những người thử nghiệm beta phát hiện Be My AI sẽ mô tả các vật thể không thực sự có mặt, với cùng mức độ tự tin như các mô tả chính xác. Đối với một người dùng mù hành động dựa trên một mô tả — đọc nhãn thuốc — một ảo giác không thể phát hiện là một vấn đề an toàn, không phải một lỗi giao diện.
Voiceitt, xây dựng công nghệ nhận dạng giọng nói được tinh chỉnh cho giọng nói không điển hình và khó phát âm, đã chạy một chương trình thí điểm với người dùng Điếc mà họ báo cáo đạt tỷ lệ lỗi từ khoảng 8% — tốt hơn 90% độ chính xác — sau khoảng 200 bản ghi âm huấn luyện cho mỗi người dùng, được cho là vượt trội hơn công nghệ nhận dạng giọng nói phổ thông đối với những người dùng này ngay cả trước khi cá nhân hóa (Hearing Review; PR Newswire). Đây là một chương trình thí điểm được xác nhận bởi một công ty duy nhất, không phải một thử nghiệm được lặp lại độc lập, mặc dù một bài báo phương pháp đã được bình duyệt riêng biệt mô tả quy trình huấn luyện của Voiceitt (Assistive Technology, 2024, DOI 10.1080/10400435.2024.2328082). Google Project Relate áp dụng phương pháp tương tự — nhận dạng và tổng hợp được cá nhân hóa cho giọng nói của những người mắc ALS, bại não, hội chứng Down, Parkinson, đột quỵ, và chấn thương sọ não, cần khoảng 500 cụm từ — và bước vào giai đoạn beta kín vào tháng 11 năm 2021 (TechCrunch). Không có con số hiệu quả độc lập nào cho Project Relate có thể được xác nhận; những gì công khai mô tả phương pháp huấn luyện, chứ không phải một kết quả đã được kiểm chứng.
Khuôn mẫu này nhất quán: sản phẩm thật, sử dụng thật, con số thật — nhưng là con số do chính các công ty xây dựng công cụ báo cáo, chưa được kiểm toán độc lập. Điều đó không xóa bỏ những lợi ích — đối với một người dùng mù, sự so sánh không phải là một tiêu chuẩn vàng đã được kiểm chứng mà là hoàn toàn không có mô tả nào — nhưng nó có nghĩa là phải xem bằng chứng như là do công ty báo cáo, và kỳ vọng độ tin cậy thấp hơn so với những gì tin tức ra mắt ngụ ý.
Nơi cùng công nghệ trở thành vấn đề về hỗ trợ tiếp cận
Khía cạnh việc làm cho thấy nhanh như thế nào một khoảng trống tiếp cận có thể trở thành một khiếu nại phân biệt đối xử một khi AI chuyển từ vai trò hỗ trợ sang vai trò kiểm soát cửa ngõ.
Một ứng viên xin việc là người Điếc, người bản địa, được ACLU đại diện, đã nộp đơn khiếu nại lên Ủy ban Quyền Dân sự Colorado và EEOC, cáo buộc rằng nền tảng phỏng vấn video AI của HireVue — được Intuit sử dụng — đã trừng phạt cô vì hệ thống nhận dạng giọng nói và chấm điểm tự động của nó không được trang bị để đánh giá đúng các mẫu giọng nói của cô. Cô đã yêu cầu phụ đề do con người thực hiện như một hình thức hỗ trợ trong buổi phỏng vấn được chấm điểm bởi AI, bị từ chối, và sau đó bị loại với phản hồi là hãy “luyện tập lắng nghe chủ động” (HR Dive). Đây là một đơn khiếu nại, không phải một phán quyết — một cáo buộc đang trải qua quy trình hành chính, chưa có kết quả xét xử nào được báo cáo. Nó minh họa cơ chế mà EEOC và Bộ Tư pháp đã cảnh báo trong hướng dẫn tháng 5 năm 2022 của họ về tuyển dụng bằng thuật toán, được thảo luận thêm tại quyền dân sự, phân biệt đối xử, và giám sát AI: một hệ thống được xác nhận dựa trên các mẫu giọng nói không đại diện cho ứng viên khuyết tật có thể loại họ ra bất kể ý định, và một yêu cầu hỗ trợ có thể bị từ chối bởi một quy trình không có con người nào được trao quyền để chấp thuận nó.
Mobley kiện Workday, nộp đơn tại Tòa án Liên bang Khu vực Bắc California vào ngày 20 tháng 2 năm 2024, là một phiên bản lớn hơn của cùng khiếu nại: một vụ kiện tập thể và tập hợp cáo buộc hệ thống sàng lọc ứng viên bằng AI của Workday tạo ra tác động phân biệt theo chủng tộc, tuổi tác, và khuyết tật. Vào ngày 16 tháng 5 năm 2025, Thẩm phán Rita Lin đã chấp thuận chứng nhận có điều kiện cho khiếu nại tập thể phân biệt tuổi tác theo ADEA, và một nguyên đơn được nêu tên — một ứng viên mắc bệnh hen suyễn và có tiền sử ung thư — được cho phép riêng biệt tiếp tục với một khiếu nại theo ADA liên kết việc bị từ chối của anh với tiền sử nghỉ phép y tế (Holland & Knight; Norton Rose Fulbright). Ý nghĩa thực sự của phán quyết đó rất quan trọng: nó cho phép nhiều nguyên đơn hơn tham gia và quá trình khai thác chứng cứ tiếp tục; đó không phải là một phán quyết rằng Workday thực sự đã phân biệt đối xử. Vụ kiện vẫn ở giai đoạn khai thác chứng cứ tính đến giữa năm 2026, nhưng phán quyết xác lập rằng một tòa án liên bang thấy lý thuyết về khuyết tật đủ cụ thể để vượt qua việc bác đơn — một ngưỡng cao hơn đáng kể so với việc chỉ nộp đơn khiếu nại. Xem chất lượng công việc, không chỉ số lượng việc làm để biết cách sàng lọc tự động cũng làm suy giảm kết quả cho những ứng viên vượt qua được vòng sàng lọc.
Khi cùng khuôn mẫu chạm đến phúc lợi trẻ em
Trường hợp được ghi chép rõ ràng nhất di chuyển hoàn toàn ra ngoài phạm vi tuyển dụng. Quận Allegheny của Pennsylvania sử dụng một thuật toán chấm điểm rủi ro dự đoán trong hệ thống phúc lợi trẻ em của mình, hiện đang bị Bộ Tư pháp Hoa Kỳ điều tra sau các khiếu nại rằng nó đã gắn cờ sai cho các bậc cha mẹ khuyết tật là bỏ bê, trong một số trường hợp góp phần vào việc đưa trẻ ra khỏi gia đình mà không có bằng chứng độc lập về sự bỏ bê. Thông tin đó đến từ báo cáo năm 2025 của Trung tâm Dân chủ và Công nghệ và Hiệp hội Người Khuyết tật Hoa Kỳ dưới đây, mô tả cuộc điều tra của Bộ Tư pháp là đang diễn ra; không có kết quả xác nhận nào có thể được kiểm chứng ngoài điều đó, và nó nên được coi là một vấn đề còn để ngỏ, chứ không phải một phát hiện đã khép lại. Cơ chế bị cáo buộc rất quen thuộc từ tài liệu về quyền dân sự rộng hơn: một mô hình được huấn luyện trên hồ sơ vụ việc lịch sử có thể mã hóa những giả định trước đây của nhân viên xã hội về năng lực làm cha mẹ của người khuyết tật, và một điểm số rủi ro được trình bày như khách quan có thể khiến một thiên kiến cũ trông giống như một con số trung lập.
Báo cáo toàn diện nhất về khuôn mẫu này trên nhiều lĩnh vực là báo cáo chung của CDT và AAPD, Building a Disability-Inclusive AI Ecosystem: A Cross-Disability, Cross-Systems Analysis of Best Practices, công bố ngày 11 tháng 3 năm 2025 (CDT; bản PDF đầy đủ). Báo cáo ghi lại các tổn hại đối với người khuyết tật trong việc làm, giáo dục, phúc lợi công cộng, và công nghệ thông tin và truyền thông, và là nguồn cho thông tin về Quận Allegheny ở trên. CDT đã đưa ra một cảnh báo liên quan, hẹp hơn nhiều năm trước đó, lập luận rằng các giao diện tuyển dụng được xây dựng dựa trên chuyển động chuột, thời gian gõ phím, video, hoặc phân tích mẫu giọng nói mang tính loại trừ về mặt cấu trúc đối với ứng viên khuyết tật bất kể ý định của nhà cung cấp — một báo cáo thường được ghi ngày khoảng tháng 12 năm 2020, mặc dù ngày chính xác của nó không thể được xác nhận độc lập (CDT, “Algorithm-driven Hiring Tools”).
Đọc hai hồ sơ cùng nhau
Không điều nào trong số này quy về một phán quyết duy nhất cho “AI và khuyết tật,” và nó không nên như vậy. Cùng một năng lực — một mô hình suy luận ý nghĩa từ giọng nói, chuyển động, hoặc các tín hiệu hành vi mà một người không thể kiểm soát hoàn toàn — tạo ra một lợi ích tiếp cận chân thực khi nó là tùy chọn, minh bạch về giới hạn của nó, và được kiểm soát bởi người dùng khuyết tật, và một rủi ro phân biệt đối xử chân thực khi nó bắt buộc, không minh bạch, và được kiểm soát bởi một người gác cổng đã ủy thác phán quyết cho một điểm số. Be My AI, Voiceitt, và Project Relate là những công cụ mà một người khuyết tật chọn dùng và có thể ngừng sử dụng. Việc chấm điểm của HireVue, sàng lọc của Workday, và mô hình rủi ro của Quận Allegheny là những hệ thống được áp dụng lên một người khuyết tật bởi một tổ chức, với hậu quả mà họ không thể từ chối.
Sự phân biệt đó — hỗ trợ so với phán xét — dự đoán tổn hại tốt hơn bất kỳ tuyên bố nào về mức độ tinh vi của một mô hình, và nó xuyên suốt quyền dân sự, phân biệt đối xử, và giám sát AI: tiêu chuẩn cho một hệ thống ảnh hưởng đến quyền lợi không phải là liệu nó có chính xác trung bình hay không, mà là liệu nó có được xác nhận cho nhóm dân số mà nó sàng lọc hay không, liệu một ứng viên có thể phản đối một sai sót hay không, và liệu có một con người với thẩm quyền thực sự ngồi tại điểm ra quyết định hay không. Mọi khiếu nại về từ chối hỗ trợ hoặc tác động không cân xứng ở trên đều bắt nguồn từ cùng một yếu tố thiếu vắng — một quy trình đã được xác nhận, áp dụng cho nhóm dân số bị ảnh hưởng, với một kháng nghị thực sự. Mọi lợi ích tiếp cận ở trên đều bắt nguồn từ điều ngược lại: một công cụ mà người bị ảnh hưởng kiểm soát, với một tỷ lệ thất bại được công bố. Các hệ thống đa phương thức có năng lực hơn có thể mở rộng khuôn mẫu Be My AI xa hơn nữa. Không có gì loại trừ điều đó. Nhưng cũng không có gì cho thấy nó sẽ đến một cách tự động: cùng năng lực đó cũng chính xác là điều mà một nhà cung cấp công cụ sàng lọc cũng sẽ muốn có được.