নাগরিক অধিকার, বৈষম্য, এবং এআই নজরদারি

স্বয়ংক্রিয়করণ নাগরিক-অধিকার আইন স্থগিত করে না

একজন নিয়োগকর্তা, জমিদার, ঋণদাতা, স্কুল, বীমাকারী, পুলিশ বিভাগ, বা সুবিধা সংস্থা সিদ্ধান্ত পরিচালনাকারী দায়িত্ব থেকে না বেরিয়ে একটি অ্যালগরিদম ব্যবহার করতে পারে। মার্কিন যুক্তরাষ্ট্রে, টাইটেল VII, আমেরিকানস উইথ ডিজেবিলিটিজ অ্যাক্ট, ফেয়ার হাউজিং অ্যাক্ট, ইকুয়াল ক্রেডিট অপরচুনিটি অ্যাক্ট, এবং সাংবিধানিক যথাযথ-প্রক্রিয়া সুরক্ষার মতো আইন অভিনেতা ও প্রেক্ষাপট অনুযায়ী প্রযোজ্য হতে পারে। কভারেজ, আইনি মান, এবং প্রতিকার ভিন্ন; এই পাতাটি আইনি পরামর্শ নয়।

আজকের উদ্বেগ পরিসংখ্যানগত মডেল, র‍্যাংকিং সিস্টেম, বায়োমেট্রিক্স, এবং জেনারেটিভ এআই থেকে উদ্ভূত। এজিআই সর্বজনীন নজরদারি তৈরি করবে বা আচরণ নিখুঁতভাবে পূর্বাভাস দেবে এমন দাবি শর্তসাপেক্ষ পূর্বাভাস, পর্যবেক্ষিত সক্ষমতা নয়।

বৈষম্য প্রতিটি পর্যায়ে প্রবেশ করতে পারে

ঐতিহাসিক তথ্য পূর্ববর্তী বর্জন এনকোড করতে পারে। লেবেল অপরাধের পরিবর্তে গ্রেপ্তার, প্রয়োজনের পরিবর্তে স্বাস্থ্য ব্যয়, বা কর্মক্ষমতার পরিবর্তে ম্যানেজার রেটিং প্রতিফলিত করতে পারে। জাতি বাদ দেওয়া বৈশিষ্ট্যগুলো তবুও ভূগোল, স্কুল, ভাষা, প্রতিবন্ধিতা, বা নেটওয়ার্কের মাধ্যমে সুরক্ষিত মর্যাদার প্রক্সি হতে পারে।

নকশা পছন্দ নির্ধারণ করে কে প্রতিনিধিত্বপ্রাপ্ত, কোন ফলাফল অপ্টিমাইজ করা হয়, এবং কোন ভুলগুলো গুরুত্বপূর্ণ। স্থাপনা আরও সমস্যা তৈরি করে: কর্মীরা একটি স্কোরের ওপর অতিরিক্ত বিশ্বাস রাখতে পারে, আবেদনকারীরা রেকর্ড সংশোধন করতে অক্ষম হতে পারে, এবং জাতীয়ভাবে পরীক্ষিত একটি হাতিয়ার একটি স্থানীয় জনসংখ্যায় ব্যর্থ হতে পারে। একটি বিক্রেতার সামগ্রিক নির্ভুলতা একটি উপগোষ্ঠীর জন্য উচ্চ মিথ্যা-নেতিবাচক বা মিথ্যা-ইতিবাচক হার লুকিয়ে রাখতে পারে।

ন্যায্যতা মেট্রিক্স দ্বন্দ্বপূর্ণ হতে পারে। একটি ত্রুটি হার সমান করা অন্যটিকে খারাপ করতে পারে, বিশেষত যখন অন্তর্নিহিত পরিমাপিত হার ভিন্ন হয়। গণিত সিদ্ধান্ত নিতে পারে না কোন ট্রেড-অফ আইনসঙ্গত বা ন্যায্য। প্রতিষ্ঠানগুলোকে মেট্রিক্সকে অধিকার, উদ্দেশ্য, এবং পরিণতির সাথে সংযুক্ত করতে হবে।

কর্মসংস্থান ভাগাভাগি দায়বদ্ধতা চিত্রিত করে

নিয়োগকর্তারা জীবনবৃত্তান্ত স্ক্রিন করতে, পরীক্ষার স্কোর দিতে, ভিডিও বিশ্লেষণ করতে, কাজের সময়সূচী তৈরি করতে, উৎপাদনশীলতা পর্যবেক্ষণ করতে, এবং পদোন্নতি বা বরখাস্তের সুপারিশ করতে সফটওয়্যার ব্যবহার করে। মার্কিন সমান কর্মসংস্থান সুযোগ কমিশন ও বিচার বিভাগ সতর্ক করে যে অ্যালগরিদমিক হাতিয়ার বেআইনিভাবে প্রতিবন্ধী মানুষদের বাদ দিতে পারে এবং নিয়োগকর্তাদের যুক্তিসঙ্গত সহায়তা ব্যবস্থা প্রদান করা প্রয়োজন হতে পারে (EEOC ও DOJ, মে ২০২২)।

একটি হাতিয়ার কেনা সমস্ত দায়িত্ব বিক্রেতার কাছে স্থানান্তরিত করে না। নিয়োগকর্তাদের উচিত এটি চাকরি ও জনসংখ্যার জন্য বৈধ করা, আবেদনকারীদের অবহিত করা, প্রবেশযোগ্য বিকল্প প্রদান করা, ফলাফল পর্যবেক্ষণ করা, এবং কম বৈষম্যমূলক পদ্ধতি তদন্ত করা। প্রতিকূল সিদ্ধান্ত চূড়ান্ত হওয়ার আগে আবেদনকারীদের ভুল তথ্য চ্যালেঞ্জ করার এবং মানবিক পর্যালোচনা পাওয়ার একটি উপায় প্রয়োজন।

কণ্ঠস্বর, দৃষ্টি, মুখের অভিব্যক্তি, বা ব্যক্তিত্ব অনুমান বিশেষ সংশয় প্রাপ্য। একটি প্রশিক্ষণ নমুনায় একটি সংকেত সম্পর্কযুক্ত হতে পারে কাজের দক্ষতা নির্ভরযোগ্যভাবে পরিমাপ না করেই, এবং প্রতিবন্ধিতা বা সাংস্কৃতিক পার্থক্য এটি বদলে দিতে পারে। একটি এআই আবেগ পড়ে এমন দাবি প্রকৃত ব্যবহারের জন্য স্বাধীন বৈধতা প্রমাণ দ্বারা সমর্থিত হওয়া উচিত।

আবাসন, ঋণ, এবং অপরিহার্য পরিষেবা

ভাড়াটে-স্ক্রিনিং সিস্টেম ক্রেডিট, উচ্ছেদ, অপরাধ, এবং পরিচয় রেকর্ড একত্রিত করে যা অসম্পূর্ণ বা ভুলভাবে মিলিত হতে পারে। HUD-এর ২০২৪ সালের নির্দেশিকা বলে যে ফেয়ার হাউজিং অ্যাক্ট মেশিন লার্নিংসহ ভাড়াটে স্ক্রিনিংয়ের ক্ষেত্রে প্রযোজ্য এবং আবাসন প্রদানকারী ও স্ক্রিনিং প্রতিষ্ঠান উভয়েরই ন্যায্য, নির্ভুল, স্বচ্ছ সিদ্ধান্ত নিশ্চিত করার ভূমিকা রয়েছে (সংরক্ষণাগারভুক্ত HUD নির্দেশিকা, এপ্রিল ২০২৪)।

স্বয়ংক্রিয় বিজ্ঞাপনও নির্বাচনীভাবে আবাসন বা চাকরির সুযোগ প্রদান করে মানুষকে আবেদনের আগেই বাদ দিতে পারে। ঋণদানে, বিকল্প তথ্য পাতলা ক্রেডিট ফাইলযুক্ত মানুষের জন্য প্রবেশাধিকার বিস্তৃত করতে পারে বা পাড়া ও আয়ের বৈষম্য পুনরুৎপাদন করতে পারে। সঠিক তুলনাটি অ্যালগরিদম বনাম নিখুঁত মানুষ নয়; এটি একটি পরীক্ষিত প্রক্রিয়া বনাম প্রকৃত বিকল্প, উভয় ক্ষেত্রে অধিকার সংরক্ষিত।

সুবিধা, স্বাস্থ্যসেবা, এবং বীমায় বিশেষভাবে উচ্চ ঝুঁকি জড়িত। ট্রায়াজ কর্মীদের ক্ষেত্রে অগ্রাধিকার নির্ধারণে সাহায্য করতে পারে, কিন্তু একটি অস্বচ্ছ স্কোর একটি অ-আপিলযোগ্য প্রত্যাখ্যান হয়ে ওঠা উচিত নয়। সংস্থাগুলোর প্রয়োজন বিজ্ঞপ্তি, কারণ, প্রমাণ প্রবেশাধিকার, সময়মতো মানবিক পর্যালোচনা, এবং একটি ভুল সমাধান হওয়ার সময় ধারাবাহিকতা।

জেনারেটিভ এআই প্রতিনিধিত্ব ও অনুমান ক্ষতি যোগ করে

জেনারেটিভ সিস্টেম স্টেরিওটাইপ তৈরি করতে পারে, বানোয়াট অভিযোগ তৈরি করতে পারে, মুখস্থ ব্যক্তিগত তথ্য প্রকাশ করতে পারে, বা সাধারণ তথ্য থেকে সংবেদনশীল বৈশিষ্ট্য অনুমান করতে পারে। NIST-এর স্বেচ্ছাসেবী জেনারেটিভ এআই প্রোফাইল ক্রস-সেক্টর ঝুঁকির মধ্যে ক্ষতিকর পক্ষপাত, সমজাতীয়করণ, গোপনীয়তা, এবং কনফ্যাবুলেশন চিহ্নিত করে (NIST AI 600-1, জুলাই ২০২৪)।

NIST নির্দেশিকা বাধ্যতামূলক আইন নয়। এটি একটি ঝুঁকি-ব্যবস্থাপনা শব্দভাণ্ডার প্রদান করে। সম্মতি দাবিতে একটি প্রতিষ্ঠান আসলে কী পরীক্ষা করেছে এবং কী পরিবর্তন করেছে তা নির্দিষ্ট করা উচিত, শুধু বলা উচিত নয় যে এটি “NIST কাঠামো ব্যবহার করে।”

নজরদারি ক্ষমতা বদলে দেয় নির্ভুল হলেও

এআই ক্যামেরা, কণ্ঠস্বর, অবস্থান, ক্রয়, যোগাযোগ, এবং কর্মক্ষেত্রের কার্যক্রম অনুসন্ধান করা সস্তা করতে পারে। ক্ষতি ভুল-শনাক্তকরণে সীমাবদ্ধ নয়। নির্ভুল নজরদারি প্রতিবাদ, সংঘ, ধর্মীয় অনুশীলন, চিকিৎসা যত্ন, বা শ্রম সংগঠনকে ঠান্ডা করতে পারে। একজন ব্যক্তি বৈধ আচরণ পরিবর্তন করতে পারেন কারণ পর্যবেক্ষণ স্থায়ী এবং সিদ্ধান্ত অস্বচ্ছ।

বায়োমেট্রিক শনাক্তকরণ একজন নিখোঁজ ব্যক্তিকে খুঁজে পেতে বা একটি ডিভাইস আনলক করতে সাহায্য করতে পারে। এটি জনসংখ্যা-স্কেল ট্র্যাকিংও সক্ষম করতে পারে। আনুপাতিকতা নির্ভর করে উদ্দেশ্য, ওয়ারেন্ট বা কর্তৃত্ব, ধারণ, ওয়াচ-লিস্টের মান, মানবিক পর্যালোচনা, ভুল, এবং কম আক্রমণাত্মক উপায় বিদ্যমান কি না তার ওপর।

ফাংশন ক্রিপ পূর্বাভাসযোগ্য: নিরাপত্তার জন্য সংগৃহীত তথ্য পরে বিপণন, অভিবাসন, উৎপাদনশীলতা স্কোরিং, বা আইন প্রয়োগে কাজে লাগতে পারে। উদ্দেশ্য সীমাবদ্ধতা, স্বল্প ধারণ, প্রবেশাধিকার লগ, এবং মুছে ফেলা বাস্তব নিয়ন্ত্রণ।

অডিটে দাঁত থাকা প্রয়োজন

একটি অডিট তথ্য, উপগোষ্ঠী কর্মক্ষমতা, নিরাপত্তা, শাসন, এবং আইনি সম্মতি পরীক্ষা করতে পারে। একটি সংগৃহীত ডেটাসেটে একটি বিক্রেতা-নির্বাচিত পরীক্ষা উৎপাদন প্রবেশাধিকারসহ একটি স্বাধীন মূল্যায়নের চেয়ে দুর্বল। অডিটরদের প্রতিহিংসা থেকে সুরক্ষা, বস্তুগত সীমাবদ্ধতা প্রকাশ করার স্বাধীনতা, এবং ফলাফল পুনরুৎপাদন করার জন্য পর্যাপ্ত তথ্য প্রয়োজন।

প্রভাব মূল্যায়ন ক্রয়ের আগে এবং স্থাপনার পরে আবার ঘটা উচিত। এগুলো প্রভাবিত গোষ্ঠী, বিকল্প, তথ্য উৎস, ভুলের পরিণতি, আপিল, এবং বন্ধ করার মানদণ্ড চিহ্নিত করা উচিত। সামষ্টিক ফলাফল পর্যবেক্ষণ প্রয়োজনীয় কারণ স্থাপনা-পূর্ব পরীক্ষা প্রতিটি স্থানীয় শর্ত পূর্বাভাস দিতে পারে না।

স্বচ্ছতা ব্যবহারযোগ্য হতে হবে। একটি প্রযুক্তিগত গবেষণাপত্র প্রকাশ করা একজন আবেদনকারীকে বলে না কেন তাকে প্রত্যাখ্যান করা হয়েছিল। ব্যক্তিগত বিজ্ঞপ্তিতে নির্ধারক কারণগুলো এবং একটি সংশোধন পথ প্রয়োজন; সরকারি স্বচ্ছতায় কর্মক্ষমতা, চুক্তি, ঘটনা, এবং সংস্থা কর্তৃত্ব প্রয়োজন।

অংশগ্রহণ ও প্রতিকার

একটি সিস্টেমের অধীন মানুষদের সাফল্য ও অগ্রহণযোগ্য ক্ষতির অর্থ কী তা সংজ্ঞায়িত করতে সাহায্য করা উচিত। প্রতিবন্ধিতা গোষ্ঠীগুলো দুর্গম পরীক্ষা চিহ্নিত করতে পারে; ভাড়াটেরা রেকর্ড ত্রুটি ব্যাখ্যা করতে পারে; শ্রমিকরা প্রকাশ করতে পারে কীভাবে নজরদারি আচরণ বদলায়। একটি চুক্তি স্বাক্ষরিত হওয়ার পর পরামর্শের সামান্য প্রভাব থাকে।

প্রতিকারে সংশোধন, পুনর্বিবেচনা, সম্ভব হলে হারানো সুযোগ পুনরুদ্ধার, ক্ষতির জন্য ক্ষতিপূরণ, এবং প্রাতিষ্ঠানিক পরিবর্তন অন্তর্ভুক্ত থাকা উচিত। মানবিক পর্যালোচনা স্বাধীন ও ক্ষমতাপ্রাপ্ত হতে হবে, স্কোরের একটি রাবার স্ট্যাম্প নয়।

এজিআই দৃশ্যকল্প

আরও সক্ষম এজেন্ট ডেটাবেস একত্রিত করতে পারে, অন্তরঙ্গ বৈশিষ্ট্য অনুমান করতে পারে, ম্যানিপুলেশন ব্যক্তিগতকৃত করতে পারে, এবং নজরদারি সিদ্ধান্ত স্বয়ংক্রিয় করতে পারে। এগুলো বৈষম্য উন্মোচন করতে, অভিযোগ অনুবাদ করতে, এবং আইনি সহায়তা আরও প্রবেশযোগ্য করতেও সাহায্য করতে পারে। কোনো ফলাফলই শুধু বুদ্ধিমত্তা থেকে অনুসরণ করে না। আইন, প্রবেশাধিকার নিয়ন্ত্রণ, প্রাতিষ্ঠানিক প্রণোদনা, এবং মালিকানা ব্যবহার নির্ধারণ করে।

ব্যবহারিক মান সরল: একটি বৈধ উদ্দেশ্য, বৈধতার প্রমাণ, উপগোষ্ঠী পরীক্ষা, তথ্য ন্যূনতমকরণ, প্রবেশযোগ্য বিজ্ঞপ্তি, অর্থবহ মানবিক আপিল, স্বাধীন তত্ত্বাবধান, এবং প্রতিকার ছাড়া একটি অধিকার-প্রভাবিত সিস্টেম স্থাপন করবেন না। অনেক ক্ষেত্রে নির্ভুলতা প্রয়োজনীয়, কিন্তু নাগরিক অধিকারের জন্য প্রতিষ্ঠান নির্ভুলভাবে হলেও কী করতে পারে তার সীমা প্রয়োজন।