একটি নয়, দুটি রেকর্ড
প্রতিবন্ধিতা এই ম্যানুয়ালজুড়ে করা একটি দাবির সবচেয়ে ধারালো পরীক্ষা-ক্ষেত্র: যে এআই-এর প্রভাব সমানভাবে ভালো বা খারাপ নয়, এবং কোনটি প্রকাশ পায় তা নির্ভর করে কে সিস্টেম তৈরি করেছে, কে এটি স্থাপন করেছে, এবং এটি ব্যর্থ হলে কী প্রতিকার বিদ্যমান। প্রতিবন্ধী মানুষদের জন্য, উভয় রেকর্ডই ইতিমধ্যে বাস্তব ও তারিখযুক্ত, কাল্পনিক নয়। মাল্টিমোডাল মডেলগুলো অন্ধ ও কম-দৃষ্টিসম্পন্ন ব্যবহারকারীদের এমন একটি বর্ণনা হাতিয়ার দিয়েছে যা তিন বছর আগে বিদ্যমান ছিল না। একই অন্তর্নিহিত প্যাটার্ন-ম্যাচিং — কণ্ঠস্বর, নড়াচড়া, বা টাইপিং আচরণ থেকে একজন ব্যক্তি সম্পর্কে অনুমান করা — একটি ফেডারেল বৈষম্য অভিযোগ, একটি প্রত্যয়িত সামষ্টিক-কর্ম মামলা, এবং একটি শিশু-কল্যাণ অ্যালগরিদমে বিচার বিভাগের তদন্তেরও বিষয়।
এই পাতাটি শুধুমাত্র নথিভুক্ত, তারিখযুক্ত ঘটনা কভার করে। এটি ইচ্ছাকৃতভাবে বিষয়বস্তু-নিয়ন্ত্রণ মিথ্যা-ইতিবাচকের সাথে সম্পর্কিত মেটা অ্যাকাউন্ট লকআউট সম্পর্কে ব্যাপকভাবে প্রচারিত ২০২৬ সালের একটি গল্প বাদ দেয়, কারণ অন্তর্নিহিত প্রতিবেদন এটিকে একটি সাধারণ নিয়ন্ত্রণ ব্যর্থতা বলে খুঁজে পেয়েছে, প্রতিবন্ধিতা-নির্দিষ্ট নয়। নিচের মামলাগুলো পরিচালনাকারী আইনি কাঠামোর জন্য নাগরিক অধিকার, বৈষম্য, এবং এআই নজরদারি দেখুন, এবং বৃহত্তর কর্মসংস্থান চিত্রে স্বয়ংক্রিয় নিয়োগের স্থান জানতে শ্রম ও অর্থনৈতিক স্থানচ্যুতি দেখুন।
প্রকৃতপক্ষে কী কাজ করছে, এবং এটি কীভাবে যাচাই করা হয়েছে
সবচেয়ে বেশি উদ্ধৃত সাফল্য হলো Be My AI, OpenAI-এর GPT-4V-এর ওপর Be My Eyes অ্যাপে নির্মিত এবং মার্চ ২০২৩-এ সেই মডেলের ওপর নির্মিত প্রথম তৃতীয়-পক্ষের অ্যাপ্লিকেশন হিসেবে চালু হয়েছে (TechCrunch, ১৪ মার্চ, ২০২৩)। এটি একজন অন্ধ বা কম-দৃষ্টিসম্পন্ন ব্যবহারকারীকে একটি দৃশ্য, একটি লেবেল, বা একটি চিঠির টুকরো ছবি তুলে একটি মৌখিক বর্ণনা পেতে দেয়। একটি স্থাপনায়, মাইক্রোসফটের অপারেশনের ভেতরে একটি সহায়তা-লাইন সম্পূরক হিসেবে, Be My Eyes ও মাইক্রোসফট ৯০% সফল-সমাধান হার এবং প্রায় চার মিনিটের গড় সমাধান সময় রিপোর্ট করেছে, সাধারণ মানব-এজেন্ট সময়ের অর্ধেকেরও কম (Be My Eyes)। সেই পরিসংখ্যানটি একটি অংশীদার স্থাপনা থেকে কোম্পানি-রিপোর্ট করা, স্বাধীনভাবে অডিট করা নয় — একটি বিক্রেতার নিজের পণ্যের নিজস্ব বিবরণ। একই উৎস হাতিয়ারটির সবচেয়ে গুরুত্বপূর্ণ ব্যর্থতা মোড নথিভুক্ত করে, আত্মবিশ্বাসী হ্যালুসিনেশন: বিটা পরীক্ষকরা খুঁজে পেয়েছেন Be My AI এমন বস্তু বর্ণনা করবে যা আসলে উপস্থিত ছিল না, নির্ভুল বর্ণনার মতো একই আত্মবিশ্বাসসহ। একটি বর্ণনার ওপর কাজ করা একজন অন্ধ ব্যবহারকারীর জন্য — একটি ওষুধের লেবেল পড়া — একটি অশনাক্তযোগ্য হ্যালুসিনেশন একটি নিরাপত্তা সমস্যা, একটি UX বাগ নয়।
Voiceitt, যা অস্বাভাবিক ও ডিসারথ্রিক বক্তৃতার সাথে সামঞ্জস্যপূর্ণ বক্তৃতা শনাক্তকরণ তৈরি করে, বধির ব্যবহারকারীদের সাথে একটি পাইলট চালিয়েছিল যা এটি রিপোর্ট করেছে প্রতি-ব্যবহারকারী প্রায় ২০০টি প্রশিক্ষণ রেকর্ডিংয়ের পরে প্রায় ৮% শব্দ ত্রুটি হার অর্জন করেছে — ৯০% নির্ভুলতার চেয়ে ভালো — ব্যক্তিগতকরণের আগেও এই বক্তাদের জন্য মূলধারার বক্তৃতা শনাক্তকরণকে ছাড়িয়ে যাওয়ার রিপোর্ট করা হয়েছে (Hearing Review; PR Newswire)। এটি একটি একক কোম্পানি-বৈধকৃত পাইলট, স্বাধীনভাবে পুনরাবৃত্ত একটি ট্রায়াল নয়, যদিও একটি সমকক্ষ-পর্যালোচিত পদ্ধতি প্রবন্ধ পৃথকভাবে Voiceitt-এর প্রশিক্ষণ পাইপলাইন বর্ণনা করে (Assistive Technology, ২০২৪, DOI 10.1080/10400435.2024.2328082)। Google Project Relate একটি অনুরূপ পদ্ধতি নেয় — ALS, সেরিব্রাল পালসি, ডাউন সিনড্রোম, পারকিনসন্স, স্ট্রোক, এবং ট্রমাটিক ব্রেন ইনজুরিযুক্ত মানুষদের বক্তৃতার সাথে ব্যক্তিগতকৃত শনাক্তকরণ ও সংশ্লেষণ, যার জন্য প্রায় ৫০০টি বাক্যাংশ প্রয়োজন — এবং নভেম্বর ২০২১-এ ক্লোজড বিটায় প্রবেশ করেছে (TechCrunch)। Project Relate-এর জন্য কোনো স্বাধীন কার্যকারিতা পরিসংখ্যান নিশ্চিত করা যায়নি; যা সর্বজনীন তা প্রশিক্ষণ পদ্ধতি বর্ণনা করে, একটি বৈধকৃত ফলাফল নয়।
নিদর্শনটি সামঞ্জস্যপূর্ণ: প্রকৃত পণ্য, প্রকৃত ব্যবহার, প্রকৃত সংখ্যা — কিন্তু হাতিয়ার তৈরিকারী কোম্পানিগুলো দ্বারা রিপোর্ট করা সংখ্যা, স্বাধীনভাবে অডিট করা নয়। এটি লাভ মুছে দেয় না — একজন অন্ধ ব্যবহারকারীর জন্য, তুলনাটি একটি বৈধকৃত স্বর্ণ মান নয় বরং কোনো বর্ণনাই নেই — কিন্তু এর অর্থ প্রমাণকে কোম্পানি-রিপোর্ট করা হিসেবে বিবেচনা করা এবং লঞ্চ কভারেজের চেয়ে কম নির্ভরযোগ্যতা প্রত্যাশা করা।
যেখানে একই প্রযুক্তি একটি সহায়তা সমস্যা হয়ে ওঠে
কর্মসংস্থান দিকটি দেখায় কত দ্রুত একটি প্রবেশযোগ্যতা ফাঁক একটি বৈষম্য দাবিতে পরিণত হয় যখন এআই একটি সহায়ক ভূমিকা থেকে একটি দ্বাররক্ষণ ভূমিকায় চলে যায়।
ACLU দ্বারা প্রতিনিধিত্বকৃত একজন বধির, আদিবাসী চাকরিপ্রার্থী, কলোরাডো নাগরিক অধিকার বিভাগ ও EEOC-তে অভিযোগ দাখিল করেছেন দাবি করে যে HireVue-এর এআই ভিডিও-সাক্ষাৎকার প্ল্যাটফর্ম — Intuit দ্বারা ব্যবহৃত — তাকে শাস্তি দিয়েছে কারণ এর স্বয়ংক্রিয় বক্তৃতা-শনাক্তকরণ ও স্কোরিং সিস্টেম তার বক্তৃতা প্যাটার্ন সঠিকভাবে মূল্যায়ন করার জন্য সজ্জিত ছিল না। তিনি এআই-স্কোর করা সাক্ষাৎকারের সময় একটি সহায়তা হিসেবে মানবিক ক্যাপশনিং অনুরোধ করেছিলেন, তা প্রত্যাখ্যান করা হয়েছিল, এবং পরে “সক্রিয় শ্রবণ অনুশীলন” করার প্রতিক্রিয়াসহ প্রত্যাখ্যান করা হয়েছিল (HR Dive)। এটি একটি অভিযোগ, একটি অনুসন্ধান নয় — একটি প্রশাসনিক প্রক্রিয়ার মধ্য দিয়ে কাজ করা একটি দাবি, কোনো বিচারিক ফলাফল রিপোর্ট করা হয়নি। এটি EEOC ও DOJ তাদের মে ২০২২-এর অ্যালগরিদমিক নিয়োগ নির্দেশিকায় সতর্ক করা প্রক্রিয়াটি চিত্রিত করে, নাগরিক অধিকার, বৈষম্য, এবং এআই নজরদারি-এ আরও আলোচিত: প্রতিবন্ধী আবেদনকারীদের অপ্রতিনিধিত্বকারী বক্তৃতা প্যাটার্নে বৈধকৃত একটি সিস্টেম উদ্দেশ্য নির্বিশেষে তাদের বাদ দিতে পারে, এবং একটি সহায়তা অনুরোধ এমন একটি প্রক্রিয়া দ্বারা প্রত্যাখ্যান করা যেতে পারে যেখানে একটি মঞ্জুর করার ক্ষমতাপ্রাপ্ত কোনো মানুষ নেই।
Mobley v. Workday, ২০ ফেব্রুয়ারি ২০২৪-এ উত্তর ক্যালিফোর্নিয়া জেলায় দাখিল করা, একই দাবির একটি বৃহত্তর সংস্করণ: একটি শ্রেণি ও সামষ্টিক কর্ম দাবি করে যে Workday-এর এআই আবেদনকারী-স্ক্রিনিং সিস্টেম জাতি, বয়স, এবং প্রতিবন্ধিতা দ্বারা অসামঞ্জস্যপূর্ণ প্রভাব তৈরি করেছে। ১৬ মে ২০২৫-এ, বিচারক রিটা লিন ADEA-এর অধীনে বয়স-বৈষম্য সামষ্টিক দাবিতে শর্তসাপেক্ষ প্রত্যয়ন মঞ্জুর করেছেন, এবং একজন নামযুক্ত বাদী — হাঁপানি ও ক্যান্সার ইতিহাসযুক্ত একজন আবেদনকারী — পৃথকভাবে তার প্রত্যাখ্যানকে চিকিৎসা-ছুটির ইতিহাসের সাথে যুক্ত করে একটি ADA দাবিতে এগিয়ে যাওয়ার অনুমতি পেয়েছেন (Holland & Knight; Norton Rose Fulbright)। সেই রায় কী এবং কী নয় তা গুরুত্বপূর্ণ: এটি আরও বাদীদের যোগদান ও আবিষ্কার এগিয়ে যেতে দেয়; এটি একটি অনুসন্ধান নয় যে Workday-এর সিস্টেম প্রকৃতপক্ষে বৈষম্য করেছে। মামলাটি ২০২৬ সালের মাঝামাঝি পর্যন্ত আবিষ্কারে রয়ে গেছে, কিন্তু আদেশটি প্রতিষ্ঠিত করে যে একটি ফেডারেল আদালত প্রতিবন্ধিতা তত্ত্বকে খারিজ থেকে বাঁচার জন্য যথেষ্ট নির্দিষ্ট বলে খুঁজে পেয়েছে — একটি দাখিলকৃত অভিযোগ একা অতিক্রম করার চেয়ে বস্তুগতভাবে উচ্চতর বার। স্বয়ংক্রিয় স্ক্রিনিং কীভাবে পাস করা আবেদনকারীদের জন্যও ফলাফল অবনমিত করে তা জানতে চাকরির মান, চাকরির সংখ্যা নয় দেখুন।
যখন একই নিদর্শন শিশু কল্যাণে পৌঁছায়
সবচেয়ে কঠোর নথিভুক্ত ঘটনাটি নিয়োগের বাইরে সম্পূর্ণভাবে চলে যায়। পেনসিলভানিয়ার অ্যালেঘেনি কাউন্টি তার শিশু-কল্যাণ ব্যবস্থায় একটি ভবিষ্যদ্বাণীমূলক ঝুঁকি-স্কোরিং অ্যালগরিদম ব্যবহার করে, এখন মার্কিন বিচার বিভাগ দ্বারা তদন্তাধীন, অভিযোগের পরে যে এটি প্রতিবন্ধী বাবা-মাদের ভুলভাবে অবহেলাকারী হিসেবে চিহ্নিত করেছে, কিছু ক্ষেত্রে অবহেলার স্বাধীন প্রমাণ ছাড়াই শিশু অপসারণে অবদান রেখেছে। সেই বিবরণটি সেন্টার ফর ডেমোক্রেসি অ্যান্ড টেকনোলজি ও আমেরিকান অ্যাসোসিয়েশন অফ পিপল উইথ ডিজেবিলিটিজের নিচের ২০২৫ সালের প্রতিবেদন থেকে আসে, যা DOJ তদন্তকে চলমান হিসেবে বর্ণনা করে; এর বাইরে কোনো নিশ্চিত ফলাফল যাচাই করা যায়নি, এবং এটিকে একটি খোলা বিষয় হিসেবে বিবেচনা করা উচিত, একটি বন্ধ অনুসন্ধান নয়। অভিযুক্ত প্রক্রিয়াটি বৃহত্তর নাগরিক-অধিকার সাহিত্য থেকে পরিচিত: ঐতিহাসিক মামলা রেকর্ডে প্রশিক্ষিত একটি মডেল প্রতিবন্ধী বাবা-মাদের উপযুক্ততা সম্পর্কে কেসওয়ার্কারদের পূর্ববর্তী অনুমান এনকোড করতে পারে, এবং বস্তুনিষ্ঠ হিসেবে উপস্থাপিত একটি ঝুঁকি স্কোর একটি পুরনো পক্ষপাতকে একটি নিরপেক্ষ সংখ্যার মতো দেখাতে পারে।
খাতজুড়ে এই নিদর্শনের সবচেয়ে ব্যাপক বিবরণ হলো CDT ও AAPD-এর যৌথ প্রতিবেদন, Building a Disability-Inclusive AI Ecosystem: A Cross-Disability, Cross-Systems Analysis of Best Practices, ১১ মার্চ ২০২৫-এ প্রকাশিত (CDT; সম্পূর্ণ PDF)। এটি কর্মসংস্থান, শিক্ষা, সরকারি সুবিধা, এবং তথ্য ও যোগাযোগ প্রযুক্তিজুড়ে প্রতিবন্ধী মানুষদের ক্ষতি নথিভুক্ত করে, এবং উপরের অ্যালেঘেনি কাউন্টি বিবরণের উৎস। CDT বছর আগে একটি সম্পর্কিত, সংকীর্ণ সতর্কতা উত্থাপন করেছিল, যুক্তি দিয়ে যে মাউস মুভমেন্ট, কীস্ট্রোক টাইমিং, ভিডিও, বা কণ্ঠস্বর-প্যাটার্ন বিশ্লেষণের ওপর নির্মিত নিয়োগ ইন্টারফেস বিক্রেতার উদ্দেশ্য নির্বিশেষে প্রতিবন্ধী আবেদনকারীদের কাঠামোগতভাবে বাদ দেয় — একটি প্রতিবেদন সাধারণত ডিসেম্বর ২০২০ এর কাছাকাছি তারিখযুক্ত, যদিও এর সঠিক তারিখ স্বাধীনভাবে নিশ্চিত করা যায়নি (CDT, “Algorithm-driven Hiring Tools”)।
দুটি রেকর্ড একসাথে পড়া
এর কোনোটিই “এআই ও প্রতিবন্ধিতা” নিয়ে একটি একক রায়ে পরিণত হয় না, এবং তা হওয়া উচিত নয়। একই সক্ষমতা — একটি মডেল যা বক্তৃতা, নড়াচড়া, বা আচরণগত সংকেত থেকে অর্থ অনুমান করে যা একজন ব্যক্তি সম্পূর্ণভাবে নিয়ন্ত্রণ করতে পারে না — একটি প্রকৃত প্রবেশযোগ্যতা লাভ তৈরি করে যখন এটি ঐচ্ছিক, এর সীমা সম্পর্কে স্বচ্ছ, এবং প্রতিবন্ধী ব্যবহারকারী দ্বারা নিয়ন্ত্রিত, এবং একটি প্রকৃত বৈষম্য ঝুঁকি তৈরি করে যখন এটি বাধ্যতামূলক, অস্বচ্ছ, এবং একজন দ্বাররক্ষকের দ্বারা নিয়ন্ত্রিত যিনি একটি স্কোরে বিচার অর্পণ করেছেন। Be My AI, Voiceitt, এবং Project Relate এমন হাতিয়ার যা একজন প্রতিবন্ধী ব্যক্তি বেছে নেন এবং ব্যবহার বন্ধ করতে পারেন। HireVue-এর স্কোরিং, Workday-এর স্ক্রিনিং, এবং অ্যালেঘেনি কাউন্টির ঝুঁকি মডেল এমন সিস্টেম যা একটি প্রতিষ্ঠান দ্বারা একজন প্রতিবন্ধী ব্যক্তির ওপর প্রয়োগ করা হয়, পরিণতিসহ যা তারা প্রত্যাখ্যান করতে পারেন না।
সেই পার্থক্য — সহায়ক বনাম বিচারিক — একটি মডেলের পরিশীলিততা সম্পর্কে যেকোনো দাবির চেয়ে ভালোভাবে ক্ষতির পূর্বাভাস দেয়, এবং এটি নাগরিক অধিকার, বৈষম্য, এবং এআই নজরদারি দিয়ে চলে: একটি অধিকার-প্রভাবিত সিস্টেমের মান এটি গড়ে নির্ভুল কি না তা নয়, বরং এটি স্ক্রিন করা জনসংখ্যার জন্য বৈধ করা হয়েছিল কি না, একজন আবেদনকারী একটি ভুল চ্যালেঞ্জ করতে পারেন কি না, এবং সিদ্ধান্ত বিন্দুতে প্রকৃত কর্তৃত্বসম্পন্ন একজন মানুষ বসে আছেন কি না। উপরের প্রতিটি সহায়তা অস্বীকার বা অসামঞ্জস্যপূর্ণ প্রভাবের দাবি একই অনুপস্থিত উপাদানে ফিরে যায় — একটি বৈধকৃত প্রক্রিয়া, প্রভাবিত জনসংখ্যায় প্রয়োগ করা, একটি প্রকৃত আপিলসহ। উপরের প্রতিটি প্রবেশযোগ্যতা লাভ বিপরীতে ফিরে যায়: প্রভাবিত ব্যক্তি নিয়ন্ত্রণ করেন এমন একটি হাতিয়ার, প্রকাশিত ব্যর্থতার হারসহ। আরও সক্ষম মাল্টিমোডাল সিস্টেম Be My AI নিদর্শনকে আরও বিস্তৃত করতে পারে। কিছুই এটি বাদ দেয় না। কিন্তু কিছুই এটি স্বয়ংক্রিয়ভাবে আসছে তাও দেখায় না: একই সক্ষমতা ঠিক তাই যা একটি স্ক্রিনিং বিক্রেতাও অর্জন করবে।