دو ریکارڈ، ایک نہیں
معذوری اس دعوے کے لیے سب سے تیز امتحانی کیس ہے جو اس پورے مینوئل میں کیا گیا ہے: کہ AI کے اثرات نہ یکساں طور پر اچھے ہیں نہ برے، اور کون سا سامنے آتا ہے یہ اس بات پر منحصر ہے کہ نظام کس نے بنایا، اسے کس نے تعینات کیا، اور ناکام ہونے پر کیا چارہ جوئی موجود ہے۔ معذور افراد کے لیے، دونوں ریکارڈ پہلے ہی حقیقی اور تاریخ شدہ ہیں، فرضی نہیں۔ ملٹی موڈل ماڈلز نے نابینا اور کم بینائی والے صارفین کو ایک ایسا وضاحتی آلہ دیا ہے جو تین سال پہلے موجود نہیں تھا۔ وہی بنیادی پیٹرن میچنگ — آواز، حرکت، یا ٹائپنگ کے رویے سے کسی شخص کے بارے میں اندازہ لگانا — ایک وفاقی امتیازی الزام، ایک تصدیق شدہ اجتماعی کارروائی کے مقدمے، اور بچوں کی بہبود کے ایک الگورتھم میں محکمہ انصاف کی تحقیقات کا موضوع بھی ہے۔
یہ صفحہ صرف دستاویزی، تاریخ شدہ کیسز کا احاطہ کرتا ہے۔ یہ جان بوجھ کر 2026 کی ایک وسیع پیمانے پر گردش کرنے والی کہانی کو خارج کرتا ہے جو Meta اکاؤنٹ لاک آؤٹس کے بارے میں ہے جو مواد کی نگرانی کے غلط مثبت نتائج سے جڑی تھی، کیونکہ بنیادی رپورٹنگ نے اسے ایک عمومی نگرانی کی ناکامی پایا، معذوری سے مخصوص نہیں۔ نیچے دیے گئے کیسز پر حکومت کرنے والے قانونی فریم ورک کے لیے شہری حقوق، امتیاز، اور AI نگرانی دیکھیں، اور وسیع تر ملازمت کی تصویر میں خودکار بھرتی کی جگہ کے لیے مزدوری اور معاشی بے گھری دیکھیں۔
اصل میں کیا کام کر رہا ہے، اور اسے کیسے توثیق کیا گیا ہے
سب سے زیادہ حوالہ دی جانے والی کامیابی Be My AI ہے، جو OpenAI کے GPT-4V پر Be My Eyes ایپ میں شامل ہے اور مارچ 2023 میں اس ماڈل پر بنائی گئی پہلی تھرڈ پارٹی ایپلیکیشن کے طور پر لانچ ہوئی (TechCrunch، 14 مارچ، 2023)۔ یہ ایک نابینا یا کم بینائی والے صارف کو کسی منظر، لیبل، یا خط کی تصویر لینے اور ایک بولی جانے والی تفصیل حاصل کرنے دیتا ہے۔ ایک تعیناتی میں، Microsoft کے آپریشنز کے اندر سپورٹ لائن کے اضافے کے طور پر، Be My Eyes اور Microsoft نے 90% کامیاب حل کی شرح اور تقریباً چار منٹ کا اوسط حل کا وقت رپورٹ کیا، جو عام انسانی ایجنٹ کے وقت سے آدھے سے بھی کم ہے (Be My Eyes)۔ یہ اعداد ایک شراکت دار کی تعیناتی سے کمپنی کی رپورٹ کردہ ہیں، آزادانہ طور پر آڈٹ شدہ نہیں — ایک فروخت کنندہ کا اپنی مصنوعات کا اپنا بیان۔ وہی ماخذ آلے کے سب سے اہم ناکامی کے انداز کو دستاویز کرتا ہے، پراعتماد فریب کاری: بیٹا ٹیسٹرز نے پایا کہ Be My AI ایسی اشیاء کی وضاحت کرے گا جو دراصل موجود نہیں تھیں، اسی اعتماد کے ساتھ جیسے درست تفصیلات کے ساتھ۔ ایک نابینا صارف کے لیے جو کسی تفصیل پر عمل کر رہا ہے — دوا کا لیبل پڑھ رہا ہے — ایک ناقابلِ شناخت فریب کاری ایک حفاظتی مسئلہ ہے، UX کی خرابی نہیں۔
Voiceitt، جو غیر معمولی اور ڈس آرتھرک تقریر کے مطابق ڈھالی گئی اسپیچ ریکگنیشن بناتی ہے، نے بہرے صارفین کے ساتھ ایک پائلٹ چلایا جس کے بارے میں اس نے رپورٹ دی کہ اس نے فی صارف تقریباً 200 تربیتی ریکارڈنگز کے بعد تقریباً 8% ورڈ ایرر ریٹ حاصل کیا — 90% درستگی سے بہتر — مبینہ طور پر ذاتی سازی سے پہلے ہی ان بولنے والوں کے لیے مرکزی دھارے کی اسپیچ ریکگنیشن سے بہتر کارکردگی دکھاتے ہوئے (Hearing Review؛ PR Newswire)۔ یہ ایک واحد کمپنی سے توثیق شدہ پائلٹ ہے، کوئی آزادانہ طور پر دہرایا گیا ٹرائل نہیں، اگرچہ ایک ہم مرتبہ جائزہ شدہ طریقہ کار کا پیپر الگ سے Voiceitt کی تربیتی پائپ لائن کو بیان کرتا ہے (Assistive Technology، 2024، DOI 10.1080/10400435.2024.2328082)۔ Google Project Relate ایک ملتا جلتا طریقہ اختیار کرتا ہے — ALS، دماغی فالج، ڈاؤن سنڈروم، پارکنسنز، فالج، اور تکلیف دہ دماغی چوٹ والے لوگوں کی تقریر کے مطابق ذاتی بنائی گئی شناخت اور ترکیب، جسے تقریباً 500 جملوں کی ضرورت ہے — اور نومبر 2021 میں بند بیٹا میں داخل ہوا (TechCrunch)۔ Project Relate کے لیے کوئی آزادانہ افادیت کا اعداد و شمار تصدیق نہیں ہو سکا؛ جو کچھ عوامی ہے وہ تربیتی طریقہ کار بیان کرتا ہے، نہ کہ ایک توثیق شدہ نتیجہ۔
پیٹرن مستقل ہے: حقیقی مصنوعات، حقیقی استعمال، حقیقی اعداد — لیکن وہ اعداد ان کمپنیوں کی رپورٹ کردہ ہیں جنہوں نے آلات بنائے، آزادانہ طور پر آڈٹ شدہ نہیں۔ یہ فوائد کو مٹا نہیں دیتا — ایک نابینا صارف کے لیے، موازنہ کوئی توثیق شدہ سنہری معیار نہیں بلکہ بالکل بھی کوئی تفصیل نہ ہونا ہے — لیکن اس کا مطلب ہے کہ ثبوت کو کمپنی کی رپورٹ کردہ چیز کے طور پر برتنا، اور لانچ کوریج سے مراد لی گئی اعتباریت سے کم توقع رکھنا۔
جہاں وہی ٹیکنالوجی رہائشی مسئلہ بن جاتی ہے
ملازمت کا پہلو دکھاتا ہے کہ کتنی جلدی رسائی کا خلا ایک امتیازی دعوے میں بدل جاتا ہے جب AI معاون کردار سے دربانی کے کردار میں منتقل ہو جاتا ہے۔
ایک بہری، اصلی باشندہ ملازمت کی درخواست دہندہ، جسے ACLU نمائندگی دے رہی ہے، نے Colorado Civil Rights Division اور EEOC کے پاس الزامات دائر کیے کہ HireVue کا AI ویڈیو انٹرویو پلیٹ فارم — جسے Intuit استعمال کرتا ہے — نے اسے سزا دی کیونکہ اس کا خودکار اسپیچ ریکگنیشن اور اسکورنگ نظام اس کے تقریری پیٹرن کا صحیح طریقے سے جائزہ لینے کے لیے لیس نہیں تھا۔ اس نے AI سے اسکور کیے گئے انٹرویو کے دوران رہائش کے طور پر انسانی کیپشننگ کی درخواست کی تھی، جسے مسترد کر دیا گیا، اور بعد میں اسے “فعال سننے کی مشق کریں” کے تاثرات کے ساتھ مسترد کر دیا گیا (HR Dive)۔ یہ ایک الزام ہے، کوئی فیصلہ نہیں — ایک انتظامی عمل سے گزرتا ہوا الزام، جس کا کوئی فیصلہ شدہ نتیجہ رپورٹ نہیں ہوا۔ یہ اس طریقہ کار کی وضاحت کرتا ہے جس کے بارے میں EEOC اور DOJ نے الگورتھمک بھرتی پر اپنی مئی 2022 کی رہنمائی میں خبردار کیا، جس پر شہری حقوق، امتیاز، اور AI نگرانی پر مزید بحث کی گئی ہے: ایک ایسا نظام جس کی توثیق ایسے تقریری پیٹرن پر کی گئی ہو جو معذور درخواست دہندگان کی نمائندگی نہ کرتے ہوں، ارادے سے قطع نظر انہیں چھان سکتا ہے، اور رہائش کی درخواست کو ایسے عمل کے ذریعے مسترد کیا جا سکتا ہے جس میں کوئی انسان اسے دینے کا اختیار نہ رکھتا ہو۔
Mobley v. Workday، جو 20 فروری 2024 کو Northern District of California میں دائر ہوا، اسی دعوے کا ایک بڑا ورژن ہے: ایک کلاس اور اجتماعی کارروائی جس میں الزام لگایا گیا ہے کہ Workday کے AI درخواست دہندہ اسکریننگ نظام نے نسل، عمر، اور معذوری کے لحاظ سے غیر مساوی اثر پیدا کیا۔ 16 مئی 2025 کو، جج Rita Lin نے ADEA کے تحت عمر کے امتیاز کے اجتماعی دعوے کو مشروط سرٹیفیکیشن دی، اور ایک نامزد مدعی — دمہ اور کینسر کی تاریخ والا ایک درخواست دہندہ — کو الگ سے ADA کے دعوے پر آگے بڑھنے کی اجازت دی گئی جو اس کے مسترد ہونے کو طبی چھٹی کی تاریخ سے جوڑتا ہے (Holland & Knight؛ Norton Rose Fulbright)۔ یہ فیصلہ کیا ہے اور کیا نہیں یہ اہم ہے: یہ مزید مدعیوں کو شامل ہونے اور دریافت کو آگے بڑھنے دیتا ہے؛ یہ کوئی فیصلہ نہیں کہ Workday کا نظام دراصل امتیاز کر رہا تھا۔ کیس 2026 کے وسط تک دریافت میں رہا، لیکن حکم یہ قائم کرتا ہے کہ ایک وفاقی عدالت نے معذوری کے نظریے کو مسترد ہونے سے بچنے کے لیے کافی ٹھوس پایا — جو ایک دائر کی گئی شکایت کے اکیلے پار ہونے سے کہیں زیادہ بلند معیار ہے۔ خودکار اسکریننگ کیسے ان درخواست دہندگان کے لیے بھی نتائج کو خراب کرتی ہے جو گزر جاتے ہیں، اس کے لیے ملازمت کا معیار، ملازمتوں کی گنتی نہیں دیکھیں۔
جب وہی پیٹرن بچوں کی بہبود تک پہنچتا ہے
سب سے سخت دستاویزی کیس مکمل طور پر بھرتی سے باہر جاتا ہے۔ Pennsylvania کی Allegheny County اپنے بچوں کی بہبود کے نظام میں ایک پیش گوئی کرنے والا رسک اسکورنگ الگورتھم استعمال کرتی ہے، جو اب U.S. Department of Justice کی تحقیقات کے تحت ہے، ان شکایات کے بعد کہ اس نے معذور والدین کو غلط طریقے سے نظرانداز کرنے والا نشان زد کیا، بعض صورتوں میں غفلت کے آزادانہ ثبوت کے بغیر بچے کو ہٹانے میں کردار ادا کیا۔ یہ بیان Center for Democracy & Technology اور American Association of People with Disabilities کی 2025 کی رپورٹ سے آتا ہے جو نیچے دی گئی ہے، جو DOJ کی تحقیقات کو جاری بیان کرتی ہے؛ اس سے آگے کوئی تصدیق شدہ نتیجہ تصدیق نہیں کیا جا سکا، اور اسے ایک کھلا معاملہ سمجھا جانا چاہیے، بند شدہ فیصلہ نہیں۔ جو طریقہ کار الزام لگایا گیا ہے وہ شہری حقوق کے ادب سے زیادہ وسیع پیمانے پر واقف ہے: تاریخی کیس ریکارڈز پر تربیت یافتہ ایک ماڈل کیس ورکرز کے معذور والدین کی اہلیت کے بارے میں پہلے سے موجود مفروضوں کو انکوڈ کر سکتا ہے، اور ایک رسک اسکور جسے معروضی کے طور پر پیش کیا جاتا ہے، پرانے تعصب کو ایک غیرجانبدار عدد کی طرح دکھا سکتا ہے۔
شعبوں میں اس پیٹرن کا سب سے جامع بیان CDT اور AAPD کی مشترکہ رپورٹ ہے، Building a Disability-Inclusive AI Ecosystem: A Cross-Disability, Cross-Systems Analysis of Best Practices، جو 11 مارچ 2025 کو شائع ہوئی (CDT؛ مکمل PDF)۔ یہ ملازمت، تعلیم، عوامی فوائد، اور معلومات و مواصلاتی ٹیکنالوجی میں معذور افراد کو پہنچنے والے نقصانات کو دستاویز کرتی ہے، اور اوپر دیے گئے Allegheny County کے بیان کا ماخذ ہے۔ CDT نے برسوں پہلے ایک متعلقہ، تنگ تر انتباہ اٹھایا تھا، یہ دلیل دیتے ہوئے کہ ماؤس کی حرکت، کی اسٹروک ٹائمنگ، ویڈیو، یا آواز کے پیٹرن کے تجزیے پر بنائے گئے بھرتی کے انٹرفیس ساختی طور پر فروخت کنندہ کے ارادے سے قطع نظر معذور درخواست دہندگان کو خارج کرتے ہیں — ایک رپورٹ جو عموماً دسمبر 2020 کے آس پاس کی تاریخ رکھتی ہے، اگرچہ اس کی صحیح تاریخ آزادانہ طور پر تصدیق نہیں کی جا سکی (CDT، “Algorithm-driven Hiring Tools”)۔
دونوں ریکارڈز کو ایک ساتھ پڑھنا
ان میں سے کوئی بھی چیز “AI اور معذوری” پر ایک واحد فیصلے میں تبدیل نہیں ہوتی، اور نہ ہونی چاہیے۔ وہی صلاحیت — ایک ماڈل جو تقریر، حرکت، یا رویے کے اشاروں سے معنی اخذ کرتا ہے جنہیں کوئی شخص مکمل طور پر قابو نہیں کر سکتا — جب یہ اختیاری ہو، اپنی حدود کے بارے میں شفاف ہو، اور معذور صارف کے زیرِ کنٹرول ہو تو ایک حقیقی رسائی کا فائدہ پیدا کرتی ہے، اور جب یہ لازمی، مبہم، اور کسی ایسے دربان کے زیرِ کنٹرول ہو جس نے فیصلے کو ایک اسکور کے سپرد کر دیا ہو تو ایک حقیقی امتیازی خطرہ پیدا کرتی ہے۔ Be My AI، Voiceitt، اور Project Relate ایسے آلات ہیں جنہیں ایک معذور شخص منتخب کرتا ہے اور استعمال کرنا بند کر سکتا ہے۔ HireVue کی اسکورنگ، Workday کی اسکریننگ، اور Allegheny County کا رسک ماڈل ایسے نظام ہیں جو کسی ادارے کی جانب سے ایک معذور شخص پر لاگو کیے جاتے ہیں، ایسے نتائج کے ساتھ جنہیں وہ مسترد نہیں کر سکتے۔
یہ فرق — معاون بمقابلہ فیصلہ کن — کسی ماڈل کی نفاست کے بارے میں کسی بھی دعوے سے بہتر نقصان کی پیش گوئی کرتا ہے، اور یہ شہری حقوق، امتیاز، اور AI نگرانی کے ذریعے چلتا ہے: حقوق سے متاثر ہونے والے نظام کا معیار یہ نہیں کہ آیا وہ اوسطاً درست ہے، بلکہ یہ کہ آیا اس کی توثیق اس آبادی کے لیے کی گئی جسے وہ چھانتا ہے، آیا کوئی درخواست دہندہ کسی غلطی کو چیلنج کر سکتا ہے، اور آیا فیصلے کے مقام پر حقیقی اختیار رکھنے والا کوئی انسان موجود ہے۔ اوپر دیے گئے رہائش کے انکار یا غیر مساوی اثر کے ہر دعوے کا سراغ اسی غائب عنصر تک جاتا ہے — متاثرہ آبادی پر لاگو کیا گیا ایک توثیق شدہ عمل، ایک حقیقی اپیل کے ساتھ۔ اوپر دیا گیا ہر رسائی کا فائدہ اس کے برعکس کی طرف جاتا ہے: ایک ایسا آلہ جسے متاثرہ شخص کنٹرول کرتا ہے، ایک ظاہر شدہ ناکامی کی شرح کے ساتھ۔ زیادہ قابل ملٹی موڈل نظام Be My AI کے پیٹرن کو مزید بڑھا سکتے ہیں۔ کچھ بھی اسے مسترد نہیں کرتا۔ لیکن کچھ بھی یہ نہیں دکھاتا کہ یہ خودکار طور پر آ رہا ہے: وہی صلاحیت بالکل وہی ہے جو ایک اسکریننگ فروخت کنندہ بھی حاصل کرے گا۔