两份记录,而非一份
残障问题,是检验本手册通篇所做的一项论断的最尖锐案例:AI 的影响既非一律有益,也非一律有害,而究竟会出现哪一种,取决于系统由谁构建、由谁部署,以及在系统失灵时存在何种救济渠道。对残障人士而言,这两份记录都已经是真实存在、且有明确日期的,而非假设情形。多模态模型为盲人与低视力用户带来了一款三年前尚不存在的描述工具。而同样的底层模式匹配技术——从声音、动作或打字行为推断一个人的相关信息——同时也是一起联邦歧视指控、一起获得集体诉讼资格认定的官司,以及一项针对儿童福利算法的司法部调查所涉及的对象。
本页只涉及有据可查、有明确日期的案例。它有意排除了一则在 2026 年广泛流传的说法,即 Meta 账号因内容审核误判而被锁定与残障有关,因为相关调查报道发现,那其实是一次普遍性的审核失灵,而非专门针对残障群体的问题。关于以下案例所适用的法律框架,参见公民权利、歧视与 AI 监控;关于自动化招聘在更广泛就业图景中所处的位置,参见劳动力替代:数据究竟显示了什么。
真正行之有效的是什么,又是如何得到验证的
被引用最多的成功案例是 Be My AI,它内嵌于 Be My Eyes 应用之中,构建在 OpenAI 的 GPT-4V 之上,于 2023 年 3 月推出,是基于该模型构建的首款第三方应用(TechCrunch,2023 年 3 月 14 日)。它让盲人或低视力用户可以拍摄一个场景、一个标签或一件邮件,并获得语音描述。在一次部署中,作为微软内部运营支持热线的补充,Be My Eyes 与微软报告称成功解决率达到 90%,平均解决时间约为四分钟,不到人工客服典型耗时的一半(Be My Eyes)。这一数字来自某一个合作伙伴部署案例中企业自己的报告,并未经过独立审计——这是供应商对自家产品的自述之词。同一信源也记录了该工具最严重的失灵模式:自信的幻觉。测试人员发现,Be My AI 会以与准确描述同样自信的语气,描述实际并不存在的物体。对于依据描述采取行动的盲人用户而言——比如阅读一份药品标签——一次无法察觉的幻觉,不是用户体验层面的小毛病,而是一个安全问题。
Voiceitt 致力于开发针对非典型及构音障碍言语的语音识别技术,该公司曾与聋人用户开展一项试点,据其报告,在每位用户约 200 段训练录音之后,达到了约 8% 的单词错误率——即准确率超过 90%——据称即便在个性化调优之前,其表现也已优于主流语音识别系统在这些用户群体中的表现(Hearing Review;PR Newswire)。这只是一次由该公司自行验证的单一试点,并非独立复现的试验,不过另有一篇同行评审的方法论文单独描述了 Voiceitt 的训练流程(《Assistive Technology》,2024 年,DOI 10.1080/10400435.2024.2328082)。Google Project Relate 采取了类似路径——针对渐冻症、脑瘫、唐氏综合征、帕金森病、中风与创伤性脑损伤患者的言语进行个性化识别与合成,大约需要 500 个短语的样本——于 2021 年 11 月进入封闭测试阶段(TechCrunch)。目前无法确认 Project Relate 有任何独立的效果数据;公开信息描述的是其训练方法,而非一项经过验证的结果。
这一模式是一致的:真实的产品、真实的使用、真实的数字——但这些数字都是由打造这些工具的公司自己报告的,并未经过独立审计。这并不能抹去这些收益——对盲人用户而言,可供比较的对象不是某个经验证的黄金标准,而是完全没有描述——但这意味着,应当把这些证据当作企业自述来对待,并预期其可靠性会低于发布报道所暗示的程度。
同一项技术在何处变成了一个「合理便利」问题
就业领域展示了:一旦 AI 从辅助角色转变为把关角色,一个无障碍缺口便会以多快的速度演变成一项歧视指控。
一名由美国公民自由联盟(ACLU)代理的聋人原住民求职者,向科罗拉多州民权司与美国平等就业机会委员会(EEOC)提起指控,称 Intuit 公司所使用的 HireVue AI 视频面试平台对她造成了不利影响,因为其自动语音识别与评分系统未能妥善评估她的言语模式。她曾在这场由 AI 评分的面试中,要求提供人工字幕作为合理便利,但遭到拒绝,随后收到的拒绝反馈是「练习主动倾听」(HR Dive)。这是一项指控,而非一项裁定——是在行政程序中尚待处理的一项申诉,目前尚无已公开的裁决结果。它印证了 EEOC 与司法部在其 2022 年 5 月关于算法招聘的指引中所警示的机制,公民权利、歧视与 AI 监控一文对此有更详细的讨论:一套基于对残障求职者不具代表性的言语样本所验证的系统,无论其本意如何,都可能将他们筛除在外,而一项合理便利请求,也可能被一个没有任何人有权批准该请求的流程所拒绝。
Mobley 诉 Workday 案于 2024 年 2 月 20 日在加州北区联邦地区法院提起,是同一类指控的一个规模更大的版本:一项集体诉讼,指控 Workday 的 AI 求职者筛选系统在种族、年龄与残障方面造成了差别性影响。2025 年 5 月 16 日,法官 Rita Lin 依据《雇佣年龄歧视法》(ADEA),对年龄歧视集体诉讼请求给予了有条件的资格认定,而一名具名原告——一位患有哮喘且有癌症病史的求职者——则被单独获准就《美国残障人法》(ADA)项下的诉求继续推进,该诉求将她遭拒的经历与病假记录联系起来(Holland & Knight;Norton Rose Fulbright)。这项裁定是什么、又不是什么,同样重要:它让更多原告得以加入,并允许证据开示程序继续推进;但它并不是一项认定 Workday 系统确实存在歧视的裁决。截至 2026 年年中,该案仍处于证据开示阶段,但这项裁定确立了这样一个事实:一家联邦法院认定,该残障理论已具备足够的具体性,足以在动议驳回程序中存续下来——这是一道远高于仅仅提起诉讼这一门槛的标准。关于自动化筛选如何同样也在拉低那些通过筛选的求职者的结果质量,参见岗位质量,而非岗位数量。
当同样的模式蔓延至儿童福利领域
有据可查、最为触目惊心的案例,则彻底超出了招聘领域的范畴。宾夕法尼亚州阿勒格尼县在其儿童福利系统中使用一套预测性风险评分算法,该算法目前正接受美国司法部的调查,起因是有投诉称,该算法错误地将残障父母标记为疏于照顾,在一些案例中,这甚至在没有任何独立疏忽证据的情况下,促成了对儿童的带离安置。这一说法来自民主与技术中心(CDT)与美国残障人协会(AAPD)下文所引的 2025 年报告,该报告将这项司法部调查描述为仍在进行之中;除此之外,尚无法核实任何确切结论,因此应将其视为一件悬而未决的事项,而非一项已经了结的认定。其中所指控的机制,在更广泛的民权文献中并不陌生:一个基于历史案卷训练出来的模型,可能会将社工此前对残障父母胜任能力的固有假设编码进去,而一个被呈现为客观中立的风险评分,则可能让一种由来已久的偏见看起来像是一个中立的数字。
关于这一模式跨部门表现的最全面记述,是 CDT 与 AAPD 于 2025 年 3 月 11 日联合发布的报告《构建一个包容残障人士的 AI 生态系统:跨残障、跨系统的最佳实践分析》(CDT;完整 PDF)。该报告记录了残障人士在就业、教育、公共福利以及信息通信技术领域所遭受的伤害,也是上文阿勒格尼县案例的信息来源。CDT 早在数年前,就曾提出过一项与此相关、但范围更窄的警告,认为基于鼠标移动、按键节奏、视频或语音模式分析所构建的招聘界面,无论供应商本意如何,在结构上都会将残障求职者排除在外——该报告的发布日期一般被认为是 2020 年 12 月前后,但其确切日期无法独立核实(CDT,《算法驱动的招聘工具》)。
把这两份记录放在一起看
以上这些,不会归结为对「AI 与残障」这一问题的单一定论,也不应当归结为这样一个定论。同样一种能力——一个能够从一个人无法完全掌控的言语、动作或行为信号中推断含义的模型——在它是可选的、对自身局限保持透明、且由残障用户本人所掌控时,便会带来真正的无障碍收益;而当它是强制性的、不透明的、且由一个已将判断权外包给某个分数的把关者所掌控时,便会带来真正的歧视风险。Be My AI、Voiceitt 与 Project Relate,是残障人士可以自主选择使用、也可以随时停止使用的工具。而 HireVue 的评分系统、Workday 的筛选系统,以及阿勒格尼县的风险模型,则是由某个机构施加于残障人士身上的系统,其后果是他们无法拒绝的。
这一区别——辅助性与裁决性之别——比任何关于模型复杂程度的说法,都更能预测伤害的发生,而它贯穿于公民权利、歧视与 AI 监控一文之中:对于一套影响权利的系统而言,标准并不在于它平均而言是否准确,而在于它是否针对其所筛查的人群进行过验证、求职者是否能够对错误提出异议,以及在决策环节是否有一位拥有真正权力的人在场。上文提到的每一起合理便利遭拒或差别性影响的指控,都可以追溯到同一个缺失的环节——一套经过验证、适用于受影响人群、并附有真正申诉渠道的流程。而上文提到的每一项无障碍收益,则都可以追溯到相反的情形:一个由受影响者本人所掌控、并公开披露失败率的工具。能力更强的多模态系统,或许还能将 Be My AI 的模式进一步延伸下去。没有任何证据排除这种可能性。但同样也没有任何证据表明它会自动到来:因为同样的能力,恰恰也正是一个筛选供应商会去获取的能力。