İki kayıt, bir değil
Engellilik, bu kılavuz boyunca yapılan bir iddia için en keskin test vakasıdır: yapay zekânın etkileri ne tek biçimli olarak iyi ne de kötüdür, ve hangisinin ortaya çıkacağı sistemi kimin inşa ettiğine, kimin dağıttığına ve başarısız olduğunda hangi başvuru yollarının var olduğuna bağlıdır. Engelli insanlar için her iki kayıt da zaten gerçek ve tarihlidir, varsayımsal değil. Çok modlu modeller, görme engelli ve az gören kullanıcılara üç yıl önce var olmayan bir tanımlama aracı verdi. Aynı temel örüntü eşleştirme — bir kişi hakkında ses, hareket veya yazma davranışından çıkarım yapmak — aynı zamanda federal bir ayrımcılık şikâyetinin, onaylanmış bir toplu dava başvurusunun ve bir çocuk refahı algoritmasına ilişkin bir Adalet Bakanlığı soruşturmasının konusudur.
Bu sayfa yalnızca belgelenmiş, tarihli vakaları kapsıyor. İçerik denetimi yanlış pozitiflerine bağlı Meta hesap kilitlemeleri hakkında geniş çapta dolaşan 2026 tarihli bir hikâyeyi kasıtlı olarak dışarıda bırakıyor, çünkü ilgili haberler bunun engellilik odaklı değil genel bir denetim başarısızlığı olduğunu ortaya koydu. Aşağıdaki vakaları yöneten yasal çerçeve için sivil haklar, ayrımcılık ve yapay zekâ gözetimi sayfasına, otomatik işe alımın daha geniş istihdam tablosundaki yerine için iş kalitesi, iş sayısı değil sayfasına bakın.
Gerçekte ne işe yarıyor ve nasıl doğrulandı
En çok atıfta bulunulan başarı, OpenAI’nin GPT-4V’si üzerine inşa edilen ve o modelde inşa edilmiş ilk üçüncü taraf uygulama olarak Mart 2023’te piyasaya sürülen, Be My Eyes uygulamasına gömülü Be My AI’dır (TechCrunch, 14 Mart 2023). Görme engelli veya az gören bir kullanıcının bir sahneyi, bir etiketi veya bir posta parçasını fotoğraflayıp sözlü bir açıklama almasını sağlıyor. Microsoft’un operasyonları içinde bir destek hattı eki olarak yapılan bir dağıtımda, Be My Eyes ve Microsoft yüzde 90 başarılı çözüm oranı ve tipik insan temsilci süresinin yarısından azı olan ortalama kabaca dört dakikalık bir çözüm süresi bildirdi (Be My Eyes). Bu rakam, bağımsız olarak denetlenmemiş, bir ortak dağıtımından şirket tarafından bildirilen bir rakamdır — bir satıcının kendi ürünü hakkındaki kendi anlatımı. Aynı kaynak, aracın en sonuçlu başarısızlık modunu, güvenli halüsinasyonu belgeliyor: beta test edenler, Be My AI’nin doğru açıklamalarla aynı güvenle gerçekte var olmayan nesneleri tanımladığını buldu. Bir açıklamaya göre hareket eden görme engelli bir kullanıcı için — bir ilaç etiketini okumak gibi — tespit edilemeyen bir halüsinasyon bir kullanılabilirlik hatası değil, bir güvenlik sorunudur.
Atipik ve dizartrik konuşmaya ayarlanmış konuşma tanıma inşa eden Voiceitt, kullanıcı başına yaklaşık 200 eğitim kaydından sonra, kişiselleştirmeden önce bile bu konuşmacılar için ana akım konuşma tanımayı geride bıraktığı bildirilen, kabaca yüzde 8 kelime hata oranı — yüzde 90’dan iyi doğruluk — elde ettiğini bildirdiği Sağır kullanıcılarla bir pilot yürüttü (Hearing Review; PR Newswire). Bu, bağımsız olarak tekrarlanmış bir deneme değil, tek bir şirket tarafından doğrulanmış bir pilottur, ancak hakem denetiminden geçmiş ayrı bir yöntem makalesi Voiceitt’in eğitim ardışık düzenini tanımlıyor (Assistive Technology, 2024, DOI 10.1080/10400435.2024.2328082). Google Project Relate benzer bir yaklaşım benimsiyor — ALS, serebral palsi, Down sendromu, Parkinson, inme ve travmatik beyin hasarı olan kişilerin konuşmasına kişiselleştirilmiş tanıma ve sentez, kabaca 500 ifadeye ihtiyaç duyuyor — ve Kasım 2021’de kapalı betaya girdi (TechCrunch). Project Relate için bağımsız bir etkinlik rakamı doğrulanamadı; kamuya açık olan, doğrulanmış bir sonucu değil, eğitim yaklaşımını tanımlıyor.
Kalıp tutarlı: gerçek ürünler, gerçek kullanım, gerçek sayılar — ama araçları inşa eden şirketler tarafından bildirilen, bağımsız olarak denetlenmemiş sayılar. Bu, kazanımları silmiyor — görme engelli bir kullanıcı için karşılaştırma, doğrulanmış bir altın standart değil hiçbir açıklamaya karşıdır — ama kanıtı şirket tarafından bildirilen olarak ele almak ve lansman haberciliğinin ima ettiğinden daha az güvenilirlik beklemek anlamına geliyor.
Aynı teknolojinin bir uyum sorununa dönüştüğü yer
İstihdam tarafı, yapay zekâ yardımcı bir rolden bekçi rolüne geçtiğinde bir erişilebilirlik boşluğunun ne kadar hızlı bir ayrımcılık iddiasına dönüştüğünü gösteriyor.
ACLU tarafından temsil edilen Sağır, Yerli bir iş başvurusu sahibi, Intuit tarafından kullanılan HireVue’nun yapay zekâ video görüşme platformunun kendisine karşı ayrımcılık yaptığını iddia ederek Colorado Sivil Haklar Bölümü ve EEOC’ye şikâyette bulundu, çünkü otomatik konuşma tanıma ve puanlama sistemi onun konuşma kalıplarını doğru şekilde değerlendirmeye donanımlı değildi. Yapay zekâ tarafından puanlanan görüşme sırasında bir uyum önlemi olarak insan altyazılaması talep etmiş, bu reddedilmiş ve daha sonra “aktif dinlemeyi pratik etme” geri bildirimiyle reddedilmişti (HR Dive). Bu bir bulgu değil bir şikâyettir — bildirilen bir karara varılmamış, idari bir süreçten geçen bir iddia. Bu, EEOC ve Adalet Bakanlığı’nın Mayıs 2022 tarihli algoritmik işe alım rehberliğinde uyardığı mekanizmayı örnekliyor, sivil haklar, ayrımcılık ve yapay zekâ gözetimi sayfasında daha ayrıntılı ele alınıyor: engelli başvuru sahiplerini temsil etmeyen konuşma kalıpları üzerinde doğrulanmış bir sistem, niyetten bağımsız olarak onları eleyebilir, ve bir uyum talebi, birine bunu verme yetkisi olan hiçbir insan olmayan bir süreç tarafından reddedilebilir.
20 Şubat 2024’te Kuzey Kaliforniya Bölgesi’nde açılan Mobley v. Workday, aynı iddianın daha büyük bir versiyonudur: Workday’in yapay zekâ başvuru sahibi eleme sisteminin ırk, yaş ve engellilik açısından orantısız etki yarattığını iddia eden bir sınıf ve toplu dava. 16 Mayıs 2025’te Yargıç Rita Lin, ADEA kapsamındaki yaş ayrımcılığı toplu iddiasına koşullu onay verdi ve isimlendirilmiş bir davacı — astım ve kanser geçmişi olan bir başvuru sahibi — reddedilmelerini tıbbi izin geçmişine bağlayan bir ADA iddiasıyla ayrı olarak devam etmesine izin verildi (Holland & Knight; Norton Rose Fulbright). Bu kararın ne olduğu ve ne olmadığı önemli: daha fazla davacının katılmasına ve keşif sürecinin ilerlemesine izin veriyor; Workday’in sisteminin gerçekten ayrımcılık yaptığına dair bir bulgu değil. Dava 2026 ortasına kadar keşif aşamasında kaldı, ama karar, federal bir mahkemenin engellilik teorisini reddi aşacak kadar somut bulduğunu ortaya koyuyor — tek başına açılmış bir şikâyetin aştığından maddi olarak daha yüksek bir eşik. Otomatik elemenin geçen başvuru sahipleri için de sonuçları nasıl kötüleştirdiği için iş kalitesi, iş sayısı değil sayfasına bakın.
Aynı kalıp çocuk refahına ulaştığında
En çarpıcı belgelenmiş vaka, işe alımın tamamen dışına taşınıyor. Pennsylvania’nın Allegheny County’si, çocuk refahı sisteminde, engelli ebeveynleri ihmalkâr olarak yanlış işaretlediğine dair şikâyetlerin ardından şu anda ABD Adalet Bakanlığı tarafından soruşturulan öngörücü bir risk puanlama algoritması kullanıyor, bazı durumlarda ihmalin bağımsız kanıtı olmadan çocuğun evden alınmasına katkıda bulunmuş. Bu anlatım, aşağıdaki Demokrasi ve Teknoloji Merkezi ile Amerikan Engelli Kişiler Derneği’nin 2025 raporundan geliyor, ki bu rapor Adalet Bakanlığı soruşturmasını devam eden olarak tanımlıyor; bunun ötesinde doğrulanmış bir sonuç bulunamadı ve bu, kapanmış bir bulgu değil, açık bir mesele olarak ele alınmalı. İddia edilen mekanizma, sivil haklar literatüründen daha geniş çapta aşinadır: tarihsel dava kayıtları üzerinde eğitilmiş bir model, sosyal hizmet uzmanlarının engelli ebeveynlerin yeterliliği hakkındaki önceki varsayımlarını kodlayabilir, ve nesnel olarak sunulan bir risk puanı eski bir önyargıyı tarafsız bir sayı gibi gösterebilir.
Bu kalıbın sektörler genelindeki en kapsamlı anlatımı, 11 Mart 2025’te yayınlanan CDT ve AAPD’nin ortak raporu Building a Disability-Inclusive AI Ecosystem: A Cross-Disability, Cross-Systems Analysis of Best Practices’tır (CDT; tam PDF). İstihdam, eğitim, kamu yardımları ve bilgi ve iletişim teknolojisi genelinde engelli insanlara verilen zararları belgeliyor ve yukarıdaki Allegheny County anlatımının kaynağı. CDT, yıllar önce ilgili, daha dar bir uyarıda bulunarak, fare hareketi, tuş vuruşu zamanlaması, video veya ses kalıbı analizi üzerine inşa edilmiş işe alım arayüzlerinin, satıcı niyetinden bağımsız olarak engelli başvuru sahiplerini yapısal olarak dışladığını savundu — kabaca Aralık 2020’ye tarihlenen ama kesin tarihi bağımsız olarak doğrulanamayan bir rapor (CDT, “Algorithm-driven Hiring Tools”).
İki kaydı birlikte okumak
Bunların hiçbiri “yapay zekâ ve engellilik” üzerine tek bir hükme çözülmüyor, ve çözülmemeli de. Aynı yetenek — bir kişinin tam olarak kontrol edemediği konuşma, hareket veya davranışsal sinyallerden anlam çıkaran bir model — isteğe bağlı olduğunda, sınırları konusunda şeffaf olduğunda ve engelli kullanıcı tarafından kontrol edildiğinde gerçek bir erişilebilirlik kazanımı üretiyor, ve zorunlu, opak olduğunda ve muhakemeyi bir puana devretmiş bir bekçi tarafından kontrol edildiğinde gerçek bir ayrımcılık riski üretiyor. Be My AI, Voiceitt ve Project Relate, engelli bir kişinin seçtiği ve kullanmayı bırakabileceği araçlardır. HireVue’nun puanlaması, Workday’in eleme sistemi ve Allegheny County’nin risk modeli, bir kurum tarafından engelli bir kişiye uygulanan, reddedemeyecekleri sonuçları olan sistemlerdir.
Bu ayrım — yardımcı ile karar verici arasındaki — bir modelin gelişmişliğine ilişkin herhangi bir iddiadan daha iyi zararı tahmin ediyor, ve sivil haklar, ayrımcılık ve yapay zekâ gözetimi boyunca işliyor: hakları etkileyen bir sistem için standart, ortalama olarak doğru olup olmadığı değil, eleme yaptığı nüfus için doğrulanıp doğrulanmadığı, bir başvuru sahibinin bir hatayı itiraz edip edemeyeceği ve karar noktasında gerçek yetkiye sahip bir insanın olup olmadığıdır. Yukarıdaki her uyum reddi veya orantısız etki iddiası aynı eksik unsura izleniyor — etkilenen nüfusa uygulanan, gerçek bir itiraz hakkı olan doğrulanmış bir süreç. Yukarıdaki her erişilebilirlik kazanımı ise tam tersine izleniyor: etkilenen kişinin kontrol ettiği, açıklanmış bir başarısızlık oranı olan bir araç. Daha yetenekli çok modlu sistemler, Be My AI kalıbını daha da genişletebilir. Hiçbir şey bunu dışlamıyor. Ama hiçbir şey bunun otomatik olarak geleceğini de göstermiyor: aynı yetenek, tam olarak bir eleme satıcısının da edineceği şeydir.