दो रिकॉर्ड, एक नहीं
विकलांगता इस मैनुअल में बार-बार की गई एक दलील का सबसे तीखा परीक्षण-मामला है: कि AI के असर न तो एकसमान रूप से अच्छे हैं न बुरे, और कौन-सा असर सामने आता है यह इस पर निर्भर करता है कि सिस्टम किसने बनाया, किसने तैनात किया, और जब यह विफल होता है तो कौन-सा उपाय मौजूद है। विकलांग लोगों के लिए, दोनों रिकॉर्ड पहले से ही असली और तारीख़-लगे हैं, काल्पनिक नहीं। मल्टीमॉडल मॉडलों ने नेत्रहीन और कम-दृष्टि वाले उपयोगकर्ताओं को एक ऐसा विवरण-टूल दिया है जो तीन साल पहले मौजूद नहीं था। वही अंतर्निहित पैटर्न-मिलान — किसी व्यक्ति की आवाज़, गति, या टाइप करने के व्यवहार से उसके बारे में अनुमान लगाना — एक संघीय भेदभाव-आरोप, एक प्रमाणित सामूहिक-कार्रवाई मुक़दमे, और एक बाल-कल्याण एल्गोरिद्म पर न्याय विभाग की जांच का भी विषय है।
यह पन्ना सिर्फ़ दस्तावेज़ीकृत, तारीख़-लगे मामलों को कवर करता है। यह जानबूझकर 2026 की एक व्यापक रूप से प्रसारित कहानी को बाहर रखता है, जो कंटेंट-मॉडरेशन के फ़ॉल्स-पॉज़िटिव से जुड़े Meta खाता-लॉकआउट के बारे में थी, क्योंकि मूल रिपोर्टिंग ने इसे एक सामान्य मॉडरेशन-विफलता पाया, विकलांगता-विशिष्ट नहीं। नीचे दिए मामलों को नियंत्रित करने वाले क़ानूनी ढांचे के लिए नागरिक अधिकार, भेदभाव, और AI निगरानी देखें, और व्यापक रोज़गार-चित्र में स्वचालित भर्ती के स्थान के लिए श्रम और आर्थिक विस्थापन देखें।
वास्तव में क्या काम कर रहा है, और इसे कैसे सत्यापित किया गया
सबसे ज़्यादा उद्धृत सफलता Be My AI है, जो Be My Eyes ऐप में OpenAI के GPT-4V पर बनाया गया है और मार्च 2023 में उस मॉडल पर बना पहला तृतीय-पक्ष एप्लिकेशन के रूप में लॉन्च हुआ (TechCrunch, 14 मार्च, 2023)। यह किसी नेत्रहीन या कम-दृष्टि वाले उपयोगकर्ता को किसी दृश्य, लेबल, या डाक की तस्वीर खींचने और बोला हुआ विवरण पाने देता है। एक तैनाती में, Microsoft के परिचालन के भीतर एक सपोर्ट-लाइन के पूरक के रूप में, Be My Eyes और Microsoft ने 90% सफल-समाधान दर और लगभग चार मिनट का औसत समाधान-समय बताया, जो सामान्य मानव-एजेंट समय के आधे से भी कम है (Be My Eyes)। यह आंकड़ा एक साझेदार-तैनाती से कंपनी द्वारा रिपोर्ट किया गया है, स्वतंत्र रूप से ऑडिट नहीं किया गया — एक विक्रेता का अपने ही उत्पाद के बारे में अपना बयान। वही स्रोत टूल की सबसे गंभीर विफलता-स्थिति का दस्तावेज़ीकरण करता है, आत्मविश्वास-भरा मतिभ्रम (hallucination): बीटा-परीक्षकों ने पाया कि Be My AI ऐसी वस्तुओं का वर्णन करता था जो वास्तव में मौजूद नहीं थीं, ठीक उसी आत्मविश्वास के साथ जैसे सटीक विवरणों के लिए। किसी नेत्रहीन उपयोगकर्ता के लिए जो किसी विवरण पर अमल कर रहा हो — दवा का लेबल पढ़ते हुए — एक अनदेखा रह गया मतिभ्रम एक सुरक्षा-समस्या है, कोई UX-ख़राबी नहीं।
Voiceitt, जो असामान्य और डिसार्थ्रिक वाणी के लिए ट्यून की गई वाणी-पहचान बनाता है, ने बधिर उपयोगकर्ताओं के साथ एक पायलट चलाया जिसने कथित तौर पर प्रति-उपयोगकर्ता लगभग 200 प्रशिक्षण-रिकॉर्डिंग के बाद लगभग 8% शब्द-त्रुटि दर हासिल की — 90% से बेहतर सटीकता — जो कथित तौर पर व्यक्तिगतकरण से पहले भी इन वक्ताओं के लिए मुख्यधारा की वाणी-पहचान से बेहतर प्रदर्शन करता है (Hearing Review; PR Newswire)। यह एक अकेला कंपनी-सत्यापित पायलट है, कोई स्वतंत्र रूप से दोहराया गया परीक्षण नहीं, हालांकि एक पीयर-रिव्यूड मेथड्स-पेपर अलग से Voiceitt की प्रशिक्षण-पाइपलाइन का वर्णन करता है (Assistive Technology, 2024, DOI 10.1080/10400435.2024.2328082)। Google Project Relate एक समान तरीक़ा अपनाता है — ALS, सेरेब्रल पाल्सी, डाउन सिंड्रोम, पार्किंसंस, स्ट्रोक, और दर्दनाक मस्तिष्क-चोट वाले लोगों की वाणी के लिए व्यक्तिगत बनाई गई पहचान और संश्लेषण, जिसे लगभग 500 वाक्यांशों की ज़रूरत होती है — और नवंबर 2021 में बंद बीटा में दाख़िल हुआ (TechCrunch)। Project Relate के लिए किसी स्वतंत्र प्रभावशीलता-आंकड़े की पुष्टि नहीं हो सकी; जो सार्वजनिक है वह प्रशिक्षण-तरीक़े का वर्णन करता है, कोई सत्यापित नतीजा नहीं।
यह पैटर्न लगातार है: असली उत्पाद, असली इस्तेमाल, असली आंकड़े — पर वे आंकड़े इन टूलों को बनाने वाली कंपनियों द्वारा रिपोर्ट किए गए हैं, स्वतंत्र रूप से ऑडिट नहीं किए गए। इससे फ़ायदे मिट नहीं जाते — किसी नेत्रहीन उपयोगकर्ता के लिए, तुलना किसी सत्यापित स्वर्ण-मानक से नहीं बल्कि बिल्कुल कोई विवरण न होने से है — पर इसका मतलब है सबूत को कंपनी-रिपोर्टेड मानकर बरतना, और लॉन्च-कवरेज जितनी भरोसेमंदी की उम्मीद न करना।
जहां वही तकनीक एक अनुकूलन (accommodation) समस्या बन जाती है
रोज़गार का पहलू दिखाता है कि जैसे ही AI एक सहायक भूमिका से गेटकीपिंग भूमिका में जाता है, सुगम्यता की एक कमी कितनी जल्दी भेदभाव के दावे में बदल जाती है।
ACLU द्वारा प्रतिनिधित्व की गई एक बधिर, आदिवासी नौकरी-आवेदक ने Colorado Civil Rights Division और EEOC के पास आरोप दायर करते हुए कहा कि HireVue के AI वीडियो-इंटरव्यू प्लेटफ़ॉर्म — जिसका इस्तेमाल Intuit करता है — ने उसे नुक़सान पहुंचाया क्योंकि इसका स्वचालित वाणी-पहचान और स्कोरिंग सिस्टम उसके वाणी-पैटर्न का ठीक से आकलन करने के लिए सुसज्जित नहीं था। उसने AI-स्कोर वाले इंटरव्यू के दौरान अनुकूलन के रूप में मानवीय कैप्शनिंग का अनुरोध किया था, उसे मना कर दिया गया, और बाद में यह प्रतिक्रिया देते हुए उसे अस्वीकार कर दिया गया कि वह “सक्रिय श्रवण का अभ्यास करे” (HR Dive)। यह एक आरोप है, कोई निष्कर्ष नहीं — एक प्रशासनिक प्रक्रिया से गुज़र रहा एक आरोप, जिसका कोई निर्णीत नतीजा रिपोर्ट नहीं किया गया। यह उस तंत्र को दिखाता है जिसके बारे में EEOC और न्याय विभाग ने एल्गोरिद्मिक भर्ती पर अपने मई 2022 के मार्गदर्शन में चेताया था, जिस पर नागरिक अधिकार, भेदभाव, और AI निगरानी पर और चर्चा हुई है: विकलांग आवेदकों का प्रतिनिधित्व न करने वाले वाणी-पैटर्न पर सत्यापित एक सिस्टम इरादे की परवाह किए बिना उन्हें छांट सकता है, और एक अनुकूलन-अनुरोध को ऐसी प्रक्रिया द्वारा नकारा जा सकता है जिसमें इसे मंज़ूर करने का अधिकार किसी इंसान के पास नहीं है।
Mobley v. Workday, जो 20 फ़रवरी, 2024 को Northern District of California में दायर हुआ, उसी दावे का एक बड़ा संस्करण है: एक क्लास और सामूहिक कार्रवाई जिसमें आरोप है कि Workday के AI आवेदक-स्क्रीनिंग सिस्टम ने नस्ल, उम्र, और विकलांगता के आधार पर विषम प्रभाव पैदा किया। 16 मई, 2025 को, जज Rita Lin ने ADEA के तहत आयु-भेदभाव सामूहिक दावे को सशर्त प्रमाणन दिया, और एक नामित वादी — अस्थमा और कैंसर के इतिहास वाला एक आवेदक — को अलग से अपने अस्वीकरणों को चिकित्सा-अवकाश के इतिहास से जोड़ते हुए एक ADA दावे पर आगे बढ़ने की अनुमति दी गई (Holland & Knight; Norton Rose Fulbright)। यह फ़ैसला क्या है और क्या नहीं है, यह मायने रखता है: यह ज़्यादा वादियों को जुड़ने और डिस्कवरी को आगे बढ़ने देता है; यह कोई निष्कर्ष नहीं कि Workday के सिस्टम ने वाक़ई भेदभाव किया। मामला 2026 के मध्य तक डिस्कवरी में रहा, पर आदेश यह स्थापित करता है कि एक संघीय अदालत ने विकलांगता-सिद्धांत को ख़ारिज़गी से बचने लायक़ पर्याप्त ठोस पाया — यह अकेले दायर की गई शिकायत से पार होने वाले मानदंड से काफ़ी ऊंचा मानदंड है। स्वचालित स्क्रीनिंग उन आवेदकों के लिए भी नतीजों को कैसे बिगाड़ती है जो इससे पार निकल जाते हैं, इसके लिए नौकरी की गुणवत्ता, नौकरियों की गिनती नहीं देखें।
जब वही पैटर्न बाल-कल्याण तक पहुंचता है
सबसे कठोर दस्तावेज़ीकृत मामला भर्ती के दायरे से पूरी तरह बाहर जाता है। Pennsylvania का Allegheny County अपने बाल-कल्याण सिस्टम में एक भविष्यसूचक जोखिम-स्कोरिंग एल्गोरिद्म का इस्तेमाल करता है, जो अब अमेरिकी न्याय विभाग की जांच के दायरे में है, उन शिकायतों के बाद जिनमें कहा गया कि इसने विकलांग माता-पिता को ग़लत तरीक़े से उपेक्षा-कर्ता के रूप में चिह्नित किया, कुछ मामलों में उपेक्षा के स्वतंत्र सबूत के बिना बच्चे को हटाने में योगदान दिया। यह विवरण Center for Democracy & Technology और American Association of People with Disabilities की 2025 की नीचे दी गई रिपोर्ट से आता है, जो न्याय विभाग की जांच को जारी बताती है; इससे आगे किसी पुष्ट नतीजे की पुष्टि नहीं हो सकी, और इसे एक खुला मामला माना जाना चाहिए, कोई बंद निष्कर्ष नहीं। जिस तंत्र का आरोप लगाया गया है वह नागरिक-अधिकार साहित्य से व्यापक रूप से परिचित है: ऐतिहासिक केस-रिकॉर्ड पर प्रशिक्षित एक मॉडल विकलांग माता-पिता की योग्यता के बारे में केसवर्करों की पुरानी धारणाओं को एन्कोड कर सकता है, और वस्तुनिष्ठ बताया गया एक जोखिम-स्कोर एक पुराने पूर्वाग्रह को एक निष्पक्ष संख्या जैसा दिखा सकता है।
इस पैटर्न का क्षेत्रों में सबसे व्यापक विवरण CDT और AAPD की संयुक्त रिपोर्ट है, Building a Disability-Inclusive AI Ecosystem: A Cross-Disability, Cross-Systems Analysis of Best Practices, जो 11 मार्च, 2025 को प्रकाशित हुई (CDT; पूरा PDF)। यह रोज़गार, शिक्षा, सार्वजनिक लाभ, और सूचना व संचार तकनीक में विकलांग लोगों को हुए नुक़सान का दस्तावेज़ीकरण करती है, और ऊपर दिए गए Allegheny County के विवरण का स्रोत है। CDT ने वर्षों पहले एक संबंधित, ज़्यादा संकुचित चेतावनी दी थी, यह तर्क देते हुए कि माउस-गति, कीस्ट्रोक-समय, वीडियो, या वाणी-पैटर्न विश्लेषण पर बनी भर्ती-इंटरफ़ेस विक्रेता के इरादे की परवाह किए बिना विकलांग आवेदकों को संरचनात्मक रूप से बाहर रखती हैं — एक रिपोर्ट जिसे आमतौर पर दिसंबर 2020 के आसपास की तारीख़ दी जाती है, हालांकि इसकी सटीक तारीख़ की स्वतंत्र रूप से पुष्टि नहीं हो सकी (CDT, “Algorithm-driven Hiring Tools”)।
दोनों रिकॉर्ड को साथ पढ़ना
इनमें से कुछ भी “AI और विकलांगता” पर एक अकेले फ़ैसले में नहीं सुलझता, और इसे सुलझना भी नहीं चाहिए। वही क्षमता — एक मॉडल जो वाणी, गति, या व्यवहारगत संकेतों से अर्थ निकालता है जिन्हें कोई व्यक्ति पूरी तरह नियंत्रित नहीं कर सकता — जब यह वैकल्पिक हो, अपनी सीमाओं के बारे में पारदर्शी हो, और विकलांग उपयोगकर्ता द्वारा नियंत्रित हो, तो एक असली सुगम्यता-फ़ायदा पैदा करती है, और जब यह अनिवार्य, अपारदर्शी, और ऐसे गेटकीपर द्वारा नियंत्रित हो जिसने अपना निर्णय एक स्कोर को सौंप दिया है, तो एक असली भेदभाव-जोखिम पैदा करती है। Be My AI, Voiceitt, और Project Relate ऐसे टूल हैं जिन्हें कोई विकलांग व्यक्ति चुनता है और इस्तेमाल करना बंद कर सकता है। HireVue की स्कोरिंग, Workday की स्क्रीनिंग, और Allegheny County का जोखिम-मॉडल ऐसे सिस्टम हैं जो किसी संस्था द्वारा किसी विकलांग व्यक्ति पर लागू किए जाते हैं, ऐसे नतीजों के साथ जिन्हें वह अस्वीकार नहीं कर सकता।
वह अंतर — सहायक बनाम न्यायनिर्णायक — किसी मॉडल की परिष्कार के बारे में किसी भी दावे से बेहतर नुक़सान की भविष्यवाणी करता है, और यह नागरिक अधिकार, भेदभाव, और AI निगरानी से होकर गुज़रता है: किसी अधिकार-प्रभावित करने वाले सिस्टम के लिए मानदंड यह नहीं कि वह औसतन सटीक है या नहीं, बल्कि यह कि क्या इसे उस आबादी के लिए सत्यापित किया गया जिसकी यह जांच करता है, क्या कोई आवेदक किसी त्रुटि को चुनौती दे सकता है, और क्या निर्णय-बिंदु पर वास्तविक अधिकार रखने वाला कोई इंसान बैठा है। ऊपर बताया गया अनुकूलन-अस्वीकृति या विषम-प्रभाव का हर दावा उसी अनुपस्थित तत्व तक जाता है — प्रभावित आबादी पर लागू, वास्तविक अपील वाली एक सत्यापित प्रक्रिया। ऊपर बताया गया हर सुगम्यता-फ़ायदा इसके ठीक उलट तक जाता है: एक ऐसा टूल जिसे प्रभावित व्यक्ति नियंत्रित करता है, जिसकी विफलता-दर सार्वजनिक की गई है। ज़्यादा सक्षम मल्टीमॉडल सिस्टम Be My AI के पैटर्न को आगे बढ़ा सकते हैं। कुछ भी इसे ख़ारिज नहीं करता। पर कुछ भी यह भी नहीं दिखाता कि यह अपने-आप आ जाएगा: वही क्षमता ठीक वही है जिसे कोई स्क्रीनिंग-विक्रेता भी हासिल कर लेगा।