Два досье, а не одно
Инвалидность — самый острый тест для утверждения, которое проходит через всё это руководство: последствия ИИ не бывают равномерно хорошими или плохими, и то, какими они окажутся, зависит от того, кто построил систему, кто её развернул и какое средство защиты существует, когда она даёт сбой. Для людей с инвалидностью оба досье уже реальны и датированы, а не гипотетичны. Мультимодальные модели дали слепым и слабовидящим пользователям инструмент описания, которого не существовало три года назад. То же самое базовое распознавание образов — вывод суждений о человеке по голосу, движению или манере набора текста — одновременно является предметом федеральной жалобы на дискриминацию, сертифицированного коллективного иска и расследования Министерства юстиции в отношении алгоритма по делам опеки над детьми.
Эта страница охватывает только документированные и датированные случаи. Она намеренно исключает широко разошедшуюся в 2026 году историю о блокировках аккаунтов Meta, связанных с ложными срабатываниями модерации контента, поскольку журналистское расследование установило, что это был общий сбой модерации, а не проблема, специфичная для инвалидности. См. гражданские права, дискриминация и слежка с помощью ИИ о правовой базе, регулирующей случаи ниже, и вытеснение труда и экономические последствия о месте автоматизированного найма в более широкой картине занятости.
Что реально работает и как это было подтверждено
Самый цитируемый успех — Be My AI, встроенный в приложение Be My Eyes на основе GPT-4V от OpenAI и запущенный в марте 2023 года как первое стороннее приложение, построенное на этой модели (TechCrunch, 14 марта 2023 года). Он позволяет слепому или слабовидящему пользователю сфотографировать сцену, этикетку или письмо и получить озвученное описание. В одном из развёртываний — как дополнение к линии поддержки внутри операций Microsoft — Be My Eyes и Microsoft сообщили о доле успешных решений в 90% и среднем времени решения около четырёх минут, менее половины типичного времени работы оператора-человека (Be My Eyes). Эта цифра сообщена самой компанией по итогам одного партнёрского развёртывания, а не проверена независимо, — это собственный отчёт поставщика о собственном продукте. Тот же источник документирует самый значимый режим сбоя инструмента — уверенную галлюцинацию: бета-тестировщики обнаружили, что Be My AI описывал предметы, которых на самом деле не было, с той же уверенностью, что и точные описания. Для слепого пользователя, действующего на основе описания, — например, читающего этикетку лекарства, — необнаружимая галлюцинация является проблемой безопасности, а не мелким дефектом интерфейса.
Voiceitt, разрабатывающий распознавание речи, настроенное на нетипичную и дизартричную речь, провёл пилотный проект с глухими пользователями, который, по её сообщению, достиг примерно 8% ошибок в словах — более 90% точности — после примерно 200 обучающих записей на пользователя, по имеющимся данным превзойдя стандартное распознавание речи для этих говорящих ещё до персонализации (Hearing Review; PR Newswire). Это единичный пилот, подтверждённый самой компанией, а не независимо воспроизведённое испытание, хотя рецензируемая методическая статья отдельно описывает процесс обучения Voiceitt (Assistive Technology, 2024 год, DOI 10.1080/10400435.2024.2328082). Google Project Relate применяет схожий подход — распознавание и синтез, персонализированные под речь людей с БАС, церебральным параличом, синдромом Дауна, болезнью Паркинсона, последствиями инсульта и черепно-мозговой травмой, требующий примерно 500 фраз, — и вступил в закрытое бета-тестирование в ноябре 2021 года (TechCrunch). Независимую цифру эффективности для Project Relate подтвердить не удалось; публично доступное описывает подход к обучению, а не подтверждённый результат.
Паттерн устойчив: реальные продукты, реальное использование, реальные цифры — но цифры, сообщённые компаниями, создавшими эти инструменты, а не проверенные независимо. Это не отменяет достижений — для слепого пользователя сравнение идёт не с подтверждённым золотым стандартом, а с полным отсутствием описания, — но это означает, что доказательства нужно воспринимать как заявленные компанией, ожидая меньшей надёжности, чем предполагает освещение запуска.
Где та же технология превращается в проблему доступности
Сфера занятости показывает, как быстро разрыв в доступности превращается в иск о дискриминации, как только ИИ переходит из вспомогательной роли в роль привратника.
Глухая соискательница из числа коренных народов, представленная ACLU, подала жалобы в Отдел гражданских прав Колорадо и EEOC, утверждая, что платформа видеоинтервью с ИИ от HireVue — используемая Intuit — навредила ей, поскольку её автоматизированная система распознавания речи и оценки не была приспособлена для правильной оценки её речевых паттернов. Она запросила человеческое субтитрирование как разумное приспособление во время интервью, оцениваемого ИИ, получила отказ и позже была отклонена с рекомендацией «практиковать активное слушание» (HR Dive). Это жалоба, а не установленный факт — утверждение, проходящее через административный процесс, без сообщённого решения по существу. Она иллюстрирует механизм, о котором предупреждали EEOC и Министерство юстиции в своих рекомендациях по алгоритмическому найму от мая 2022 года, подробнее рассмотренных на странице гражданские права, дискриминация и слежка с помощью ИИ: система, проверенная на речевых паттернах, не репрезентативных для соискателей с инвалидностью, может отсеивать их независимо от намерения, а запрос на приспособление может быть отклонён процессом, в котором ни один человек не наделён полномочием его удовлетворить.
Дело Mobley против Workday, поданное в Северном округе Калифорнии 20 февраля 2024 года, — более крупная версия того же утверждения: групповой и коллективный иск, утверждающий, что система отбора соискателей на основе ИИ от Workday создала неравное воздействие по признаку расы, возраста и инвалидности. 16 мая 2025 года судья Рита Лин предоставила условную сертификацию коллективному иску о дискриминации по возрасту в рамках ADEA, а именованному истцу — соискателю с астмой и историей онкологического заболевания — отдельно разрешили продолжить рассмотрение иска по ADA, связывающего его отказы с историей медицинского отпуска (Holland & Knight; Norton Rose Fulbright). Важно, чем это решение является и чем не является: оно позволяет большему числу истцов присоединиться и открывает раскрытие доказательств; это не установленный факт, что система Workday действительно дискриминировала. Дело оставалось на стадии раскрытия доказательств вплоть до середины 2026 года, но постановление устанавливает, что федеральный суд счёл теорию об инвалидности достаточно конкретной, чтобы пережить ходатайство об отклонении, — заметно более высокая планка, чем преодолевает одна лишь поданная жалоба. См. качество рабочих мест, а не их количество о том, как автоматизированный отбор также ухудшает результаты для соискателей, прошедших фильтр.
Когда тот же паттерн доходит до опеки над детьми
Самый суровый документированный случай полностью выходит за пределы сферы найма. Округ Аллегейни в Пенсильвании использует алгоритм прогнозной оценки риска в своей системе опеки над детьми — сейчас он находится под расследованием Министерства юстиции США после жалоб на то, что алгоритм неверно помечал родителей с инвалидностью как пренебрегающих обязанностями, в некоторых случаях способствуя изъятию детей без независимых доказательств пренебрежения. Эти сведения взяты из отчёта Center for Democracy & Technology и American Association of People with Disabilities за 2025 год, упомянутого ниже, который описывает расследование Министерства юстиции как продолжающееся; подтверждённый результат сверх этого проверить не удалось, и его следует рассматривать как открытый вопрос, а не закрытый вывод. Предполагаемый механизм знаком по литературе о гражданских правах в более широком смысле: модель, обученная на исторических материалах дел, может закодировать прежние предположения социальных работников о пригодности родителей с инвалидностью, а оценка риска, представленная как объективная, может превратить старое предвзятое суждение в с виду нейтральное число.
Наиболее полный обзор этого паттерна по секторам — совместный отчёт CDT и AAPD Building a Disability-Inclusive AI Ecosystem: A Cross-Disability, Cross-Systems Analysis of Best Practices, опубликованный 11 марта 2025 года (CDT; полный PDF). Он документирует вред, причинённый людям с инвалидностью в сферах занятости, образования, государственных пособий и информационно-коммуникационных технологий, и является источником приведённых выше сведений об округе Аллегейни. Годами ранее CDT сделал связанное, более узкое предупреждение, утверждая, что интерфейсы найма, построенные на движении мыши, ритме набора текста, видео или анализе речевых паттернов, структурно исключают соискателей с инвалидностью независимо от намерений поставщика, — отчёт, обычно датируемый примерно декабрём 2020 года, хотя его точную дату независимо подтвердить не удалось (CDT, «Algorithm-driven Hiring Tools»).
Читая оба досье вместе
Ничто из этого не сводится к единому вердикту об «ИИ и инвалидности», и не должно сводиться. Одна и та же способность — модель, выводящая смысл из речевых, двигательных или поведенческих сигналов, которые человек не может полностью контролировать, — даёт подлинную выгоду в доступности, когда она добровольна, прозрачна в своих ограничениях и контролируется самим пользователем с инвалидностью, и создаёт подлинный риск дискриминации, когда она обязательна, непрозрачна и контролируется привратником, делегировавшим суждение оценке. Be My AI, Voiceitt и Project Relate — это инструменты, которые человек с инвалидностью выбирает сам и может перестать использовать. Оценка HireVue, отбор Workday и модель риска округа Аллегейни — это системы, применяемые к человеку с инвалидностью институтом, с последствиями, от которых он не может отказаться.
Это различие — вспомогательное против решающего — предсказывает вред лучше, чем любое утверждение о сложности модели, и оно проходит через страницу гражданские права, дискриминация и слежка с помощью ИИ: стандарт для системы, затрагивающей права, — не в том, точна ли она в среднем, а в том, была ли она проверена на той группе населения, которую она отбирает, может ли соискатель оспорить ошибку и стоит ли в точке принятия решения человек с реальными полномочиями. Каждое из перечисленных выше утверждений об отказе в приспособлении или неравном воздействии восходит к одному и тому же отсутствующему элементу — проверенному процессу, применённому к затронутой группе населения, с подлинной возможностью апелляции. Каждая из перечисленных выше выгод в доступности восходит к противоположному: инструменту, который контролирует сам затронутый человек, с раскрытой частотой ошибок. Более способные мультимодальные системы могли бы расширить паттерн Be My AI ещё дальше. Ничто этого не исключает. Но ничто и не доказывает, что это произойдёт автоматически: та же самая способность — это именно то, что приобрёл бы и поставщик систем отбора персонала.