Dua rekam jejak, bukan satu
Disabilitas adalah uji kasus paling tajam untuk sebuah klaim yang dibuat di seluruh manual ini: bahwa efek AI tidak seragam baik atau buruk, dan mana yang muncul bergantung pada siapa yang membangun sistem, siapa yang menerapkannya, dan pemulihan apa yang tersedia ketika sistem itu gagal. Bagi penyandang disabilitas, kedua rekam jejak itu sudah nyata dan bertanggal, bukan hipotetis. Model multimodal telah memberi pengguna tunanetra dan berpenglihatan-rendah sebuah alat deskripsi yang tidak ada tiga tahun lalu. Pencocokan pola yang mendasarinya sama — menyimpulkan hal-hal tentang seseorang dari suara, gerakan, atau perilaku mengetik — juga menjadi subjek sebuah tuduhan diskriminasi federal, sebuah gugatan tindakan-kolektif yang telah disertifikasi, dan sebuah penyelidikan Departemen Kehakiman atas sebuah algoritma kesejahteraan-anak.
Halaman ini hanya membahas kasus-kasus yang terdokumentasi dan bertanggal. Halaman ini dengan sengaja mengecualikan satu kisah 2026 yang tersebar luas tentang penguncian akun Meta yang terkait dengan positif-palsu moderasi konten, karena pemberitaan yang mendasarinya menemukan itu sebagai sebuah kegagalan moderasi umum, bukan yang spesifik-disabilitas. Lihat hak sipil, diskriminasi, dan pengawasan AI untuk kerangka hukum yang mengatur kasus-kasus di bawah ini, dan pergeseran tenaga kerja dan ekonomi untuk posisi perekrutan otomatis dalam gambaran ketenagakerjaan yang lebih luas.
Apa yang sesungguhnya berhasil, dan bagaimana itu divalidasi
Keberhasilan yang paling sering dikutip adalah Be My AI, dibangun ke dalam aplikasi Be My Eyes di atas GPT-4V milik OpenAI dan diluncurkan pada Maret 2023 sebagai aplikasi pihak-ketiga pertama yang dibangun di atas model itu (TechCrunch, 14 Maret 2023). Alat ini memungkinkan pengguna tunanetra atau berpenglihatan-rendah memotret sebuah pemandangan, sebuah label, atau sepucuk surat dan menerima deskripsi lisan. Dalam satu penerapan, sebagai suplemen jalur-dukungan di dalam operasi Microsoft, Be My Eyes dan Microsoft melaporkan tingkat keberhasilan-penyelesaian 90% dan waktu penyelesaian rata-rata kira-kira empat menit, kurang dari setengah waktu agen-manusia yang tipikal (Be My Eyes). Angka itu dilaporkan perusahaan dari satu penerapan mitra, tidak diaudit secara independen — sebuah penuturan vendor sendiri tentang produknya sendiri. Sumber yang sama mendokumentasikan mode kegagalan paling konsekuensial alat ini, halusinasi percaya-diri: penguji beta menemukan Be My AI akan mendeskripsikan objek yang sebenarnya tidak ada, dengan kepercayaan diri yang sama seperti deskripsi akurat. Bagi pengguna tunanetra yang bertindak berdasarkan sebuah deskripsi — membaca label obat — sebuah halusinasi yang tidak terdeteksi adalah masalah keamanan, bukan bug UX.
Voiceitt, yang membangun pengenalan suara yang disesuaikan dengan ucapan atipikal dan disartrik, menjalankan sebuah pilot dengan pengguna Tuli yang dilaporkannya mencapai kira-kira 8% tingkat kesalahan kata — lebih baik dari 90% akurasi — setelah sekitar 200 rekaman pelatihan per pengguna, dilaporkan mengungguli pengenalan suara arus-utama untuk para penutur ini bahkan sebelum personalisasi (Hearing Review; PR Newswire). Ini adalah satu pilot yang divalidasi perusahaan, bukan sebuah uji coba yang direplikasi secara independen, meskipun sebuah makalah metode yang ditinjau sejawat secara terpisah menggambarkan pipeline pelatihan Voiceitt (Assistive Technology, 2024, DOI 10.1080/10400435.2024.2328082). Google Project Relate mengambil pendekatan serupa — pengenalan dan sintesis yang dipersonalisasi untuk ucapan dari orang-orang dengan ALS, cerebral palsy, sindrom Down, Parkinson, stroke, dan cedera otak traumatik, membutuhkan kira-kira 500 frasa — dan memasuki beta tertutup pada November 2021 (TechCrunch). Tidak ada angka efikasi independen untuk Project Relate yang dapat dikonfirmasi; apa yang publik menggambarkan pendekatan pelatihannya, bukan hasil yang divalidasi.
Polanya konsisten: produk nyata, penggunaan nyata, angka nyata — tetapi angka yang dilaporkan oleh perusahaan-perusahaan yang membangun alat-alat itu, bukan diaudit secara independen. Itu tidak menghapus kemajuannya — bagi pengguna tunanetra, perbandingannya bukan sebuah standar emas yang divalidasi tetapi tidak ada deskripsi sama sekali — tetapi itu berarti memperlakukan bukti sebagai dilaporkan-perusahaan, dan mengharapkan keandalan yang lebih rendah daripada yang disiratkan liputan peluncuran.
Di mana teknologi yang sama menjadi masalah akomodasi
Sisi ketenagakerjaan menunjukkan seberapa cepat sebuah kesenjangan aksesibilitas menjadi sebuah klaim diskriminasi begitu AI berpindah dari peran asistif ke peran penjaga-gerbang.
Seorang pelamar kerja Tuli, Pribumi, yang diwakili ACLU, mengajukan tuduhan ke Colorado Civil Rights Division dan EEOC yang menuduh platform wawancara-video AI milik HireVue — digunakan oleh Intuit — menghukumnya karena sistem pengenalan-suara dan penilaian otomatisnya tidak dilengkapi untuk menilai pola bicaranya dengan tepat. Ia telah meminta pembuatan teks manusia sebagai sebuah akomodasi selama wawancara yang dinilai-AI itu, ditolak, dan kemudian ditolak lamarannya dengan umpan balik untuk “berlatih mendengarkan aktif” (HR Dive). Ini adalah sebuah tuduhan, bukan sebuah temuan — sebuah dugaan yang sedang melalui proses administratif, tanpa hasil yang diputuskan yang dilaporkan. Ini mengilustrasikan mekanisme yang diperingatkan EEOC dan DOJ dalam panduan Mei 2022 mereka tentang perekrutan algoritmik, dibahas lebih lanjut pada hak sipil, diskriminasi, dan pengawasan AI: sebuah sistem yang divalidasi pada pola bicara yang tidak mewakili pelamar disabilitas dapat menyaring mereka terlepas dari niatnya, dan sebuah permintaan akomodasi dapat ditolak oleh sebuah proses tanpa seorang manusia pun yang diberi wewenang untuk mengabulkannya.
Mobley v. Workday, diajukan di Northern District of California pada 20 Februari 2024, adalah versi yang lebih besar dari klaim yang sama: sebuah tindakan kelas dan kolektif yang menuduh sistem penyaringan-pelamar AI milik Workday menghasilkan dampak-tidak-setara berdasarkan ras, usia, dan disabilitas. Pada 16 Mei 2025, Hakim Rita Lin memberikan sertifikasi bersyarat pada klaim kolektif diskriminasi-usia di bawah ADEA, dan seorang penggugat bernama — seorang pelamar dengan asma dan riwayat kanker — secara terpisah diizinkan melanjutkan pada sebuah klaim ADA yang mengaitkan penolakan-penolakannya dengan riwayat cuti-medis (Holland & Knight; Norton Rose Fulbright). Apa yang dilakukan dan tidak dilakukan putusan itu penting: putusan itu mengizinkan lebih banyak penggugat bergabung dan proses discovery berlanjut; putusan itu bukan sebuah temuan bahwa sistem Workday sesungguhnya berdiskriminasi. Kasus itu tetap dalam discovery hingga pertengahan 2026, tetapi perintah itu menetapkan bahwa sebuah pengadilan federal menemukan teori disabilitas itu cukup konkret untuk bertahan dari penolakan — sebuah ambang batas yang jauh lebih tinggi daripada yang dilewati sebuah keluhan yang diajukan saja. Lihat kualitas kerja, bukan hitungan kerja untuk bagaimana penyaringan otomatis juga memperburuk hasil bagi pelamar yang lolos.
Ketika pola yang sama mencapai kesejahteraan anak
Kasus terdokumentasi yang paling mencolok berpindah sepenuhnya keluar dari perekrutan. Allegheny County di Pennsylvania menggunakan sebuah algoritma penilaian-risiko prediktif dalam sistem kesejahteraan-anaknya, kini di bawah investigasi Departemen Kehakiman AS menyusul keluhan bahwa algoritma itu secara keliru menandai orang tua disabilitas sebagai lalai, dalam beberapa kasus berkontribusi pada pengambilan anak tanpa bukti independen kelalaian. Penuturan itu berasal dari laporan 2025 Center for Democracy & Technology dan American Association of People with Disabilities di bawah ini, yang menggambarkan penyelidikan DOJ sebagai sedang berlangsung; tidak ada hasil yang dikonfirmasi yang dapat diverifikasi di luar itu, dan itu harus diperlakukan sebagai persoalan terbuka, bukan temuan yang tertutup. Mekanisme yang dituduhkan sudah dikenal dari literatur hak-sipil secara lebih luas: sebuah model yang dilatih pada catatan kasus historis dapat mengenkode asumsi-asumsi sebelumnya pekerja-kasus tentang kelayakan orang tua disabilitas, dan sebuah skor risiko yang disajikan sebagai objektif dapat membuat bias lama terlihat seperti sebuah angka netral.
Penuturan paling komprehensif tentang pola ini di seluruh sektor adalah laporan gabungan CDT dan AAPD, Building a Disability-Inclusive AI Ecosystem: A Cross-Disability, Cross-Systems Analysis of Best Practices, dipublikasikan 11 Maret 2025 (CDT; PDF lengkap). Laporan itu mendokumentasikan kerugian bagi penyandang disabilitas di seluruh ketenagakerjaan, pendidikan, tunjangan publik, dan teknologi informasi dan komunikasi, dan menjadi sumber untuk penuturan Allegheny County di atas. CDT mengangkat sebuah peringatan yang terkait, lebih sempit, bertahun-tahun sebelumnya, berargumen bahwa antarmuka perekrutan yang dibangun atas analisis gerakan-mouse, waktu-ketukan-tombol, video, atau pola-suara secara struktural mengecualikan pelamar disabilitas terlepas dari niat vendor — sebuah laporan yang umumnya bertanggal sekitar Desember 2020, meskipun tanggal pastinya tidak dapat dikonfirmasi secara independen (CDT, “Algorithm-driven Hiring Tools”).
Membaca kedua rekam jejak bersama-sama
Tidak satu pun dari ini terselesaikan menjadi sebuah putusan tunggal tentang “AI dan disabilitas,” dan seharusnya tidak. Kapabilitas yang sama — sebuah model yang menyimpulkan makna dari ucapan, gerakan, atau sinyal-sinyal perilaku yang tidak dapat sepenuhnya dikendalikan seseorang — menghasilkan sebuah kemajuan aksesibilitas yang sejati ketika itu opsional, transparan tentang batasannya, dan dikendalikan oleh pengguna disabilitas, dan sebuah risiko diskriminasi yang sejati ketika itu wajib, buram, dan dikendalikan oleh sebuah penjaga-gerbang yang telah melimpahkan penilaian ke sebuah skor. Be My AI, Voiceitt, dan Project Relate adalah alat-alat yang dipilih seorang penyandang disabilitas dan dapat berhenti digunakannya. Penilaian HireVue, penyaringan Workday, dan model risiko Allegheny County adalah sistem-sistem yang diterapkan pada seorang penyandang disabilitas oleh sebuah institusi, dengan konsekuensi yang tidak dapat mereka tolak.
Perbedaan itu — asistif versus ajudikatif — memprediksi kerugian lebih baik daripada klaim apa pun tentang kecanggihan sebuah model, dan itu melintasi hak sipil, diskriminasi, dan pengawasan AI: standar untuk sebuah sistem yang memengaruhi hak bukanlah apakah itu akurat secara rata-rata, tetapi apakah itu divalidasi untuk populasi yang disaringnya, apakah seorang pelamar dapat membantah sebuah kesalahan, dan apakah seorang manusia dengan wewenang nyata duduk pada titik keputusan. Setiap klaim penolakan akomodasi atau dampak-tidak-setara di atas berujung pada elemen yang hilang yang sama — sebuah proses tervalidasi, diterapkan pada populasi yang terdampak, dengan sebuah banding yang sejati. Setiap kemajuan aksesibilitas di atas berujung pada kebalikannya: sebuah alat yang dikendalikan orang yang terdampak, dengan tingkat kegagalan yang diungkapkan. Sistem multimodal yang lebih mampu dapat memperluas pola Be My AI lebih jauh. Tidak ada yang mengesampingkan itu. Tetapi tidak ada juga yang menunjukkan itu tiba secara otomatis: kapabilitas yang sama justru yang akan diperoleh juga oleh sebuah vendor penyaringan.