2つの記録、1つではなく
障害は、このマニュアル全体を通じて掲げられているある主張——AIの効果は一様に良いものでも悪いものでもなく、どちらが現れるかは誰がそのシステムを構築し、誰が展開し、そして失敗したときにどのような救済があるかに左右される、という主張——にとって最も鋭い試金石である。障害を持つ人々にとって、両方の記録はすでに現実のものであり、日付が付されており、仮説的なものではない。マルチモーダルモデルは、盲目や弱視の利用者に、3年前には存在しなかった説明ツールを与えた。声、動き、あるいはタイピングの振る舞いから人について推測するという同じ根底にあるパターンマッチングは、連邦の差別申し立て、認定された集団訴訟、そして児童福祉アルゴリズムをめぐる司法省の調査の対象でもある。
このページは、文書化され日付の付いた事例のみを扱う。2026年に広く流布した、コンテンツモデレーションの誤検知に関連するMetaアカウントのロックアウトについての一つの話題を、意図的に除外している。根底にある報道が、それを障害特有の問題ではなく一般的なモデレーションの失敗だったと結論づけたためである。以下の事例を規律する法的枠組みについては公民権、差別、そしてAIによる監視を、自動化された採用が雇用全体の状況の中でどこに位置づけられるかについては労働移動と経済的置き換えを参照のこと。
実際に機能しているもの、そしてそれがどう検証されてきたか
最も引用される成功例はBe My AIであり、OpenAIのGPT-4Vを基盤にBe My Eyesアプリに組み込まれ、2023年3月に同モデルを基盤とした最初のサードパーティアプリケーションとして開始された(TechCrunch、2023年3月14日)。これにより、視覚障害や弱視の利用者は、場面、ラベル、あるいは郵便物を撮影し、音声による説明を受けることができる。ある展開事例では、マイクロソフトの業務内でサポートラインの補完として、Be My EyesとMicrosoftは90%の解決成功率と、平均約4分という解決時間を報告した。これは典型的な人間のオペレーターの時間の半分未満である(Be My Eyes)。この数字は一つのパートナー展開についての企業自身の報告であり、独立した監査を受けたものではない——業者自身による自社製品についての説明である。同じ情報源は、このツールの最も重大な失敗のパターンである確信を持ったハルシネーションについても文書化している:ベータテスターは、Be My AIが正確な説明と同じ確信をもって、実際には存在しない物体を説明することを発見した。説明に基づいて行動する視覚障害のある利用者——薬のラベルを読む場合など——にとって、検知不能なハルシネーションはUXのバグではなく安全性の問題である。
Voiceittは、非定型かつ構音障害を伴う発話に対応した音声認識を構築しており、聴覚障害のある利用者を対象としたパイロットを実施し、利用者1人あたり約200件の訓練用録音の後、約8%の単語誤り率——90%を超える精度——を達成したと報告した。これは、パーソナライゼーションを行う前でさえ、こうした発話者に対して主流の音声認識を上回っていたとされる(Hearing Review;PR Newswire)。これは単一の企業による検証済みパイロットであり、独立に再現された試験ではないが、査読を経た手法論文が別途Voiceittの訓練パイプラインを説明している(『Assistive Technology』誌、2024年、DOI 10.1080/10400435.2024.2328082)。Google Project Relateも同様のアプローチを取っている——ALS、脳性まひ、ダウン症候群、パーキンソン病、脳卒中、外傷性脳損傷を持つ人々の発話にパーソナライズされた認識と合成であり、約500のフレーズを必要とし、2021年11月にクローズドベータに入った(TechCrunch)。Project Relateについての独立した有効性の数字は確認できなかった。公開されているのは訓練アプローチの説明であって、検証された結果ではない。
このパターンは一貫している:本物の製品、本物の利用、本物の数字——しかし、それを構築した企業自身が報告した数字であって、独立して監査されたものではない。それは利益を消し去るものではない——視覚障害のある利用者にとって、比較対象は検証済みのゴールドスタンダードではなく、説明がまったくないことである——しかし、それは証拠を企業報告として扱い、発表時の報道が示唆するよりも低い信頼性を見込むことを意味する。
同じ技術が配慮の問題になる場所
雇用の側面は、AIが支援的な役割から門番の役割へ移行した瞬間に、アクセシビリティのギャップがいかに速く差別の申し立てへと変わるかを示している。
ACLUに代理された、聴覚障害を持つ先住民族の求職者は、コロラド州公民権局とEEOCに、Intuitが使用していたHireVueのAI動画面接プラットフォームが、その自動音声認識・採点システムが自分の発話パターンを適切に評価できるよう設計されていなかったために彼女に不利益を与えたと申し立てた。彼女はAIによって採点される面接中に人間によるキャプションを配慮として要求していたが拒否され、後に「積極的傾聴を練習してください」というフィードバックとともに不合格となった(HR Dive)。これは申し立てであって認定ではない——行政手続きを進行中の申し立てであり、裁定された結果は報告されていない。これは、公民権、差別、そしてAIによる監視でさらに論じられている、EEOCと司法省がアルゴリズムによる雇用についての2022年5月のガイダンスで警告したメカニズムを例証している:障害を持つ応募者を代表しない発話パターンで検証されたシステムは、意図にかかわらず彼らを排除しうるし、配慮の要求は、それを与える権限を持つ人間が誰もいないプロセスによって拒否されうる。
2024年2月20日にカリフォルニア北部地区で提訴されたMobley対Workdayは、同じ主張のより大規模な版である:Workdayのアプリケーション選考AIシステムが人種、年齢、そして障害による差別的効果を生み出したと主張する集団訴訟と協働的行動である。2025年5月16日、リタ・リン判事は、年齢差別禁止法(ADEA)のもとで年齢差別に関する協働的請求に条件付きの認定を与え、そして喘息とがんの既往歴を持つ原告の一人が、医療休暇の履歴に不合格を結びつけるADA請求について別途進行を認められた(Holland & Knight;Norton Rose Fulbright)。その裁定が何であり何でないかが重要である:それはより多くの原告が参加し、証拠開示が進むことを可能にするものであって、Workdayのシステムが実際に差別したという認定ではない。この訴訟は2026年半ばまで証拠開示の段階にとどまっていたが、その命令は、連邦裁判所が障害についての理論を却下を免れるほど具体的だと判断したことを確立している——これは、単に提訴されただけの訴えが満たすよりもはるかに高い基準である。自動化された選考が、それを通過した応募者にとっても結果を悪化させる仕組みについては雇用数ではなく仕事の質を参照のこと。
同じパターンが児童福祉に及ぶとき
最も痛烈に文書化された事例は、雇用の枠を完全に超えて移動する。ペンシルベニア州アリゲイニー郡は、児童福祉システムにおいて予測的なリスクスコアリングアルゴリズムを使用しており、それが障害を持つ親を誤ってネグレクトとして識別し、一部の事例では、ネグレクトの独立した証拠なしに子どもの引き離しに寄与したとする苦情を受けて、現在米国司法省の調査下にある。この記述は、以下に示す民主主義技術センターとアメリカ障害者協会の2025年報告書から得られたものであり、同報告書は司法省の調査を進行中のものとして記述している。それ以上の確認された結果は検証できず、これは終結した認定ではなく、未解決の案件として扱われるべきである。ここで申し立てられているメカニズムは、より広い公民権関連の文献から見て馴染み深いものである:過去の事例記録で訓練されたモデルは、障害を持つ親の適性についてのケースワーカーの以前の想定を符号化しうるし、客観的なものとして提示されるリスクスコアは、古い偏見を中立的な数値のように見せかけうる。
この分野横断的なパターンについて最も包括的な記述は、CDT(民主主義技術センター)とAAPD(アメリカ障害者協会)による共同報告書『障害を包摂するAIエコシステムの構築:分野横断的なベストプラクティス分析』であり、2025年3月11日に公表された(CDT;全文PDF)。それは、雇用、教育、公的給付、そして情報通信技術にわたる障害者への害を文書化しており、上記のアリゲイニー郡の記述の出典でもある。CDTは、それより数年前に、より狭い、関連する警告を発しており、マウスの動き、キーストロークのタイミング、動画、あるいは音声パターンの分析に基づく採用インターフェースが、業者の意図にかかわらず構造的に障害を持つ応募者を排除すると論じていた——この報告書はおおむね2020年12月頃と日付付けられているが、その正確な日付は独立に確認できなかった(CDT、「アルゴリズム主導の採用ツール」)。
2つの記録をあわせて読む
このいずれも「AIと障害」についての単一の評決に収束することはなく、そうすべきでもない。同じ能力——発話、動き、あるいは人が完全には制御できない行動的な信号から意味を推測するモデル——は、それが任意であり、その限界について透明であり、そして障害を持つ利用者自身によって統制されているとき、真のアクセシビリティ上の利益を生み出し、それが必須であり、不透明であり、そしてスコアに判断を外注してしまった門番によって統制されているとき、真の差別リスクを生み出す。Be My AI、Voiceitt、そしてProject Relateは、障害を持つ人が選び、そして利用をやめることのできるツールである。HireVueの採点、Workdayの選考、そしてアリゲイニー郡のリスクモデルは、ある機関によって障害を持つ人に適用され、その人が辞退できない結果を伴うシステムである。
その区別——支援的か裁定的か——は、あるモデルの高度さについてのいかなる主張よりもうまく害を予測するものであり、それは公民権、差別、そしてAIによる監視を貫いている:権利に関わるシステムの基準は、それが平均して正確かどうかではなく、それが選考対象とする集団について検証されたかどうか、応募者が誤りに異議を唱えられるかどうか、そして真の権限を持つ人間が意思決定の場に存在するかどうかである。上記の配慮の拒否や差別的効果についてのあらゆる主張は、同じ欠けている要素にたどり着く——検証されたプロセスが、影響を受ける集団に適用され、真の異議申し立てを伴っていることである。上記のあらゆるアクセシビリティ上の利益は、その正反対のもの——影響を受ける当事者が統制し、失敗率が開示されているツール——にたどり着く。より高性能なマルチモーダルシステムは、Be My AIのパターンをさらに拡張しうる。それを排除するものは何もない。しかし、それが自動的に到来することを示すものも何もない:同じ能力は、まさに選考業者もまた獲得するであろうものなのだ。