ব্যবহারিক নিয়ন্ত্রণ চলে যাওয়ার পরেও আনুষ্ঠানিক কর্তৃত্ব টিকে থাকতে পারে
একটি সংসদ নির্বাচিত থাকতে পারে এমন সিস্টেমের ওপর নির্ভর করে যা আইনপ্রণেতারা মূল্যায়ন করতে পারেন না। একজন মন্ত্রী আইনগতভাবে দায়বদ্ধ থাকতে পারেন এমন সুপারিশ পেয়ে যা কোনো সরকারি কর্মচারী পুনরুৎপাদন করতে পারেন না। একজন নাগরিক আপিলের একটি আনুষ্ঠানিক অধিকার ধরে রাখতে পারেন এমন একটি স্বয়ংক্রিয় সিদ্ধান্তের মুখোমুখি হয়ে যার তথ্য, মডেল, বিক্রেতা চুক্তি, ও যুক্তি প্রবেশযোগ্য নয়। সেই চিত্রে কোনোকিছুই একটি অভ্যুত্থান বা একটি সচেতন মেশিন শাসকের প্রয়োজন নেই। কর্তৃত্ব আনুষ্ঠানিক হয়ে ওঠে কারণ ভিন্নভাবে বেছে নেওয়ার ব্যবহারিক সক্ষমতা ক্ষয় হয়ে গেছে।
এটি একটি এজিআই ঝুঁকির আগে একটি শাসন ঝুঁকি। সরকারগুলো ইতিমধ্যে সুবিধা, কর, পুলিশিং, অভিবাসন, শিক্ষা, স্বাস্থ্যসেবা, ও জনপ্রশাসনে অ্যালগরিদম ব্যবহার করে। আরও সক্ষম সিস্টেম সামঞ্জস্য উন্নত করতে পারে, পরিষেবা অনুবাদ করতে পারে, জালিয়াতি খুঁজে পেতে পারে, প্রমাণ সংক্ষিপ্ত করতে পারে, এবং ছোট সংস্থাগুলোর কাছে দক্ষতা প্রবেশযোগ্য করতে পারে। তারা নির্ভরতাও গভীর করতে পারে এবং জনসাধারণের সিদ্ধান্তকে চ্যালেঞ্জ করা কঠিন করে তুলতে পারে।
বিদ্যমান আন্তর্জাতিক উপকরণ একটি প্রারম্ভিক শব্দভাণ্ডার সরবরাহ করে, কিন্তু তাদের আইনি শক্তি ভিন্ন। কৃত্রিম বুদ্ধিমত্তার ওপর ইউরোপ কাউন্সিলের ফ্রেমওয়ার্ক কনভেনশন পক্ষগুলোর জন্য একটি বাধ্যতামূলক চুক্তি হিসেবে ডিজাইন করা এবং মানবাধিকার, গণতন্ত্র, ও আইনের শাসনকে কেন্দ্র করে। এর অফিসিয়াল স্ট্যাটাস পাতা ১১ সেপ্টেম্বর, ২০২৬ পর্যন্ত কোনো কার্যকর-হওয়ার-তারিখ তালিকাভুক্ত করেনি, তাই স্বাক্ষরকে ইতিমধ্যে আইনগতভাবে আবদ্ধ একটি রাষ্ট্র হিসেবে বর্ণনা করা উচিত নয় (CETS নং ২২৫ স্ট্যাটাস)। কৃত্রিম বুদ্ধিমত্তার নীতিশাস্ত্রের ওপর ইউনেস্কো সুপারিশ একটি অ-বাধ্যতামূলক সুপারিশ যা তদারকি, স্বচ্ছতা, দায়বদ্ধতা, এবং পরিবেশগত ও সামাজিক প্রভাব সম্বোধন করে। কোনো উপকরণই এজিআই-পরবর্তী শাসন সমাধান করে না। উভয়ই দেখায় যে সক্ষমতা ও দক্ষতা ঝুঁকিতে থাকা একমাত্র সাধারণ মূল্য নয়।
সংস্থা মানে ফলাফল পরিবর্তন করতে সক্ষম হওয়া
“মানবিক তদারকি”কে প্রায়ই একটি স্টাফিং ডায়াগ্রাম হিসেবে বিবেচনা করা হয়: মডেলের পরে কাউকে বসিয়ে দিন এবং সিদ্ধান্তটি মানবিক হয়ে যায়। প্রকৃত তদারকি সক্ষমতার একটি সেট।
পর্যালোচকের মামলাটি বোঝার জন্য যথেষ্ট সময় ও তথ্য প্রয়োজন। মডেলের সীমাবদ্ধতা চিনতে তাদের প্রশিক্ষণ প্রয়োজন। সুপারিশ প্রত্যাখ্যান করার জন্য তাদের আইনি ও প্রাতিষ্ঠানিক কর্তৃত্ব প্রয়োজন। একটি ভিন্ন পছন্দ শুধুমাত্র একটি স্বয়ংক্রিয় স্কোর থেকে বিচ্যুত হওয়ার কারণে শাস্তি ট্রিগার করা উচিত নয়। প্রতিষ্ঠানকে অবশ্যই এমন রেকর্ড ধরে রাখতে হবে যা অডিট ও আপিল সমর্থন করে।
যখন সেই শর্তগুলো অনুপস্থিত থাকে, তখন একটি মানবিক ক্লিক একটি আচার। উচ্চ স্বয়ংক্রিয়করণ পর্যালোচনাকে আরও খারাপ করতে পারে: মানুষ যত কম অস্বাভাবিক মামলা দেখে এবং কম স্বাধীন বিচারবুদ্ধি অনুশীলন করে, তাদের দক্ষতা ততই ক্ষয় হয়। যখন সিস্টেমটি অবশেষে তার স্বাভাবিক বণ্টনের বাইরে ব্যর্থ হয়, তখন নামমাত্র তদারককারী হস্তক্ষেপ করার জন্য সবচেয়ে কম প্রস্তুত হতে পারেন।
ব্যবহারিক পরীক্ষা হলো প্রতিতথ্যমূলক: একজন যোগ্য ব্যক্তি কি একটি ভিন্ন সিদ্ধান্তে পৌঁছাতে পারেন, কেন তা ব্যাখ্যা করতে পারেন, এবং সেই সিদ্ধান্ত টিকে থাকতে পারে?
চারটি নির্ভরতা যা সরকারকে ফাঁপা করে দিতে পারে
বিক্রেতা নির্ভরতা
একটি সরকারি সংস্থার একটি প্রদানকারী ছাড়া পরিচালনা করার জন্য কর্মী, কম্পিউট, তথ্য অধিকার, বা চুক্তির শর্তাবলীর অভাব থাকতে পারে। সংগ্রহ নথিতে সুইচিং সম্ভব দেখায় কিন্তু এর জন্য সিস্টেম পুনঃপ্রশিক্ষণ, তথ্য স্থানান্তর, কর্মপ্রবাহ পুনর্লিখন, এবং একটি দীর্ঘ পরিষেবা বিঘ্ন গ্রহণ করা প্রয়োজন হবে। এটি একজন বেসরকারি সরবরাহকারীকে স্পষ্ট রাজনৈতিক ক্ষমতা ছাড়াই প্রভাব দেয়।
তাই চুক্তিগুলোতে একটি সিস্টেম অপরিহার্য হয়ে ওঠার আগে বহনযোগ্যতা, অডিট প্রবেশাধিকার, ঘটনা প্রকাশ, উপ-ঠিকাদার, তথ্য ধরে রাখা, নিরাপত্তা, পরিষেবা ধারাবাহিকতা, ও প্রস্থান সহায়তা সম্বোধন করা উচিত। সবচেয়ে সস্তা প্রাথমিক দরপত্র ব্যয়বহুল হতে পারে যদি এটি স্থায়ী নির্ভরতা কেনে।
জ্ঞানতাত্ত্বিক নির্ভরতা
একটি প্রতিষ্ঠান একটি আউটপুট ভালো কিনা তা জানার ক্ষমতা হারাতে পারে। যদি এআই বেশিরভাগ বিশ্লেষণ, খসড়া, সিমুলেশন, ও যাচাইকরণ সম্পাদন করে, তাহলে মানবিক সংস্থাটি বিশ্বের স্বাধীন মডেল হারাতে হারাতে চূড়ান্ত স্বাক্ষর কর্তৃত্ব সংরক্ষণ করতে পারে।
অতিরিক্ততা প্রয়োজনীয়। সংস্থাগুলোর অভ্যন্তরীণ দক্ষতা, উচ্চ-পরিণতি প্রশ্নের জন্য প্রতিদ্বন্দ্বী বিশ্লেষণ, অনিশ্চয়তার রেকর্ড, ও ভিন্নমতের জন্য সুরক্ষিত চ্যানেল প্রয়োজন। কিছু ফাংশন পর্যায়ক্রমে প্রাথমিক সিস্টেম ছাড়াই সম্পাদন করা উচিত, এই কারণে নয় যে হাতের কাজ সবসময় শ্রেষ্ঠ, বরং কারণ একটি অপরীক্ষিত ফলব্যাক কোনো ফলব্যাক নয়।
অবকাঠামো নির্ভরতা
উন্নত পরিষেবাগুলো বিদ্যুৎ, নেটওয়ার্ক, পরিচয় সিস্টেম, ক্লাউড অবকাঠামো, ও আপস্ট্রিম মডেলের ওপর নির্ভর করে। একটি বিভ্রাট বা বাণিজ্যিক বিরোধ একসাথে অনেক সরকারি ফাংশনের মাধ্যমে ছড়িয়ে পড়তে পারে। একটি মডেল বা ক্লাউডে বেশ কয়েকটি সংস্থাকে কেন্দ্রীভূত করা পৃথক চুক্তির আড়ালে লুকানো সম্পর্কযুক্ত ব্যর্থতা তৈরি করতে পারে।
নির্ভরতা মানচিত্র শুধুমাত্র একটি বিভাগের মধ্যে নয়, সরকারজুড়ে ভাগাভাগি প্রদানকারী ও একক ব্যর্থতা বিন্দু চিহ্নিত করা উচিত। পুনরুদ্ধার অনুশীলনে ক্ষয়প্রাপ্ত অপারেশন, তথ্য পুনরুদ্ধার, ম্যানুয়াল অগ্রাধিকার, ও জনসাধারণের যোগাযোগ পরীক্ষা করা উচিত।
বৈধতা নির্ভরতা
মানুষ কঠিন সিদ্ধান্ত মেনে নেয় আংশিকভাবে কারণ তারা বোঝে কার কর্তৃত্ব আছে, কোন নিয়মগুলো প্রযোজ্য, ও ভুল চ্যালেঞ্জ করার উপায় কী। একটি পরিসংখ্যানগতভাবে নির্ভুল কিন্তু অস্পষ্ট সিস্টেম তবুও বৈধতা ক্ষুণ্ণ করতে পারে যদি নাগরিকরা এটিকে স্বেচ্ছাচারী হিসেবে অনুভব করেন।
শুধুমাত্র ব্যাখ্যা যথেষ্ট নয়। একটি উৎপাদিত ব্যাখ্যা একটি ফলাফলের প্রকৃত ভিত্তি প্রকাশ না করেই যুক্তিসঙ্গত শোনাতে পারে। অর্থবহ প্রতিদ্বন্দ্বিতাযোগ্যতার জন্য প্রাসঙ্গিক প্রমাণ, প্রযোজ্য নিয়ম, দায়বদ্ধ প্রতিষ্ঠান, ও উপলব্ধ প্রতিকার প্রয়োজন। এর জন্য একটি মানবিক দপ্তরও প্রয়োজন যা সিদ্ধান্ত পরিবর্তন করতে সক্ষম, শুধু সিস্টেম কেন একটি ফলাফল তৈরি করেছে তা ব্যাখ্যা করার পরিবর্তে।
গণতন্ত্রের জনসাধারণের প্রযুক্তিগত সক্ষমতা প্রয়োজন
আইনসভা, আদালত, নিয়ন্ত্রক, নিরীক্ষক, ইউনিয়ন, ও নাগরিক সমাজের মূল্যায়ন, নিরাপত্তা, সংগ্রহ, তথ্য শাসন, ও মডেল প্রমাণে দক্ষতা প্রয়োজন। পেশাদার কর্মী, স্বাধীন গবেষণাগার, মহাপরিদর্শক, মান সংস্থা, ও প্রতিদ্বন্দ্বিতামূলক কার্যক্রম সেই গভীরতা সরবরাহ করতে পারে।
NIST এআই ঝুঁকি ব্যবস্থাপনা ফ্রেমওয়ার্ক এআই ঝুঁকি শাসন, মানচিত্রায়ন, পরিমাপ, ও পরিচালনার জন্য একটি স্বেচ্ছাসেবী কাঠামো সরবরাহ করে। এর মূল্য পদ্ধতিগত: প্রতিষ্ঠানগুলোকে বেঞ্চমার্ক নির্ভুলতাকে সম্পূর্ণ ঝুঁকি মূল্যায়ন হিসেবে বিবেচনা করার পরিবর্তে প্রসঙ্গ ও প্রভাবিত মানুষ চিহ্নিত করতে হবে। একটি এজিআই-পরবর্তী প্রতিষ্ঠানের গণতান্ত্রিক অনুমোদনের সাথে জোড়া লাগানো সেই অভ্যাসের শক্তিশালী, প্রয়োগযোগ্য সংস্করণ প্রয়োজন হবে।
নির্বাচন প্রয়োজনীয় কিন্তু যথেষ্ট নয়
রূপান্তরকারী এআই প্ররোচনা, সিন্থেটিক মিডিয়া, নজরদারি, নীতি বিশ্লেষণ, প্রচারণা কার্যক্রম, ও তথ্য অবকাঠামোর নিয়ন্ত্রণের মাধ্যমে গণতন্ত্রকে প্রভাবিত করতে পারে। শুধুমাত্র নকল ছবির ওপর মনোনিবেশ করা বৃহত্তর বিষয়টি মিস করে: কে রাজনৈতিক মনোযোগ মধ্যস্থতাকারী সিস্টেমের উদ্দেশ্য বেছে নেয়, এবং প্রভাব অপ্টিমাইজ করতে কোন তথ্য ব্যবহার করা হয়?
প্রকাশ সাহায্য করতে পারে, কিন্তু বিষয়বস্তুকে “এআই-উৎপাদিত” লেবেল করা এটি সত্য বা কারসাজিমূলক কিনা তা প্রতিষ্ঠা করে না। উৎসতা একটি ফাইলের ইতিহাসের অংশ দেখাতে পারে এর দাবি প্রমাণ না করেই। রাজনৈতিক স্থিতিস্থাপকতার জন্য গোপনীয়তা সুরক্ষা, স্বাধীন সাংবাদিকতা, প্রচারণা স্বচ্ছতা, প্ল্যাটফর্ম দায়বদ্ধতা, নিরাপদ নির্বাচন প্রশাসন, এবং বিশ্বস্ত চ্যানেলের মাধ্যমে গুরুত্বপূর্ণ তথ্য যাচাই করতে সক্ষম নাগরিকও প্রয়োজন।
সরকারি ব্যবহার বিশেষ সংযমের যোগ্য। শক্তিশালী পূর্বাভাস ও প্ররোচনা সিস্টেমসহ একটি রাষ্ট্র সহায়কভাবে জনসাধারণের যোগাযোগ ব্যক্তিগতকৃত করতে পারে—অথবা ভিন্নমত শনাক্ত করা সহজ ও আচরণ গঠন করা সহজ করে তুলতে পারে। আইনি নিষেধাজ্ঞা, ওয়ারেন্ট, ন্যূনতমকরণ, অডিট লগ, ও স্বাধীন তদারকি বিশ্লেষণাত্মক সক্ষমতা বৃদ্ধির সাথে সাথে কম নয়, বরং বেশি গুরুত্বপূর্ণ হয়ে ওঠে।
ক্ষমতার বহুবচন উৎস সংরক্ষণ করুন
কোনো একক কোম্পানি জনসাধারণের বিশ্লেষণ, পরিচয়, যোগাযোগ, ও প্রশাসনিক অবকাঠামোর একমাত্র উৎস হওয়া উচিত নয়। কোনো কেন্দ্রীয় সরকার উন্নত সক্ষমতা ব্যবহার করতে সক্ষম একমাত্র প্রতিষ্ঠান হওয়া উচিত নয়। কোনো সর্বজনীন স্কোরিং সিস্টেম কর্মসংস্থান, ক্রেডিট, সুবিধা, বক্তব্য, ও চলাচলের প্রবেশাধিকার নির্ধারণ করা উচিত নয়।
বহুত্ববাদ ঘর্ষণ তৈরি করে, এবং ঘর্ষণ কখনো কখনো সুরক্ষামূলক। ফেডারেল সিস্টেম, স্থানীয় সরকার, আদালত, স্বাধীন নিয়ন্ত্রক, বিশ্ববিদ্যালয়, ইউনিয়ন, পেশাদার সংগঠন, উন্মুক্ত প্রযুক্তিগত সম্প্রদায়, ও নাগরিক সমাজ একটি কেন্দ্রীয় সিস্টেম দমন বা মিস করবে এমন ব্যর্থতা প্রকাশ করতে পারে। প্রতিদ্বন্দ্বী প্রতিষ্ঠানগুলো মানুষকে আপিল ও সংগঠিত হওয়ার জন্যও কোথাও দেয়।
বহুত্ববাদ অনিয়ন্ত্রিত বিস্তারের সমান নয়। উচ্চ-ঝুঁকির সক্ষমতাগুলোর জন্য প্রবেশাধিকার সীমাবদ্ধতা প্রয়োজন হতে পারে যখন সিদ্ধান্ত-গ্রহণ প্রাতিষ্ঠানিকভাবে বৈচিত্র্যময় থাকে। নকশা সমস্যাটি হলো বেসরকারি একচেটিয়াত্ব ও সম্পূর্ণ রাষ্ট্র কেন্দ্রীকরণ উভয়ই এড়ানো।
সিদ্ধান্ত যা রাজনৈতিকভাবে প্রতিদ্বন্দ্বিতাযোগ্য থাকা উচিত
এআই জনসাধারণের উদ্দেশ্য নির্ধারণ না করেই জনসাধারণের সিদ্ধান্তে তথ্য জানাতে পারে। প্রশ্ন যেমন কীভাবে আয় বণ্টন করা যায়, কোন ঝুঁকিগুলো গ্রহণযোগ্য, কার অধিকার অগ্রাধিকার পায়, বল প্রয়োগ করা উচিত কিনা, শিশুদের কী শেখা উচিত, ও কতটা নজরদারি অনুমোদনযোগ্য — এগুলো নিরপেক্ষ লক্ষ্য ফাংশনসহ অপ্টিমাইজেশন সমস্যা নয়। এগুলো মূল্যবোধ ও মানুষের মধ্যে রাজনৈতিক পছন্দ।
বাস্তবায়ন অর্পণ করাও উদ্দেশ্য পুনর্নির্মাণ করতে পারে। প্রক্রিয়াকরণ সময় কমানোর জন্য অপ্টিমাইজ করা একটি সুবিধা সিস্টেম জটিল আবেদনকারীদের নিরুৎসাহিত করতে পারে। পূর্বাভাসিত ঘটনার জন্য অপ্টিমাইজ করা একটি পুলিশিং সিস্টেম ঐতিহাসিক প্রয়োগের প্যাটার্ন বাড়িয়ে দিতে পারে। পরিমাপিত খরচের জন্য অপ্টিমাইজ করা একটি স্বাস্থ্য সিস্টেম রেকর্ড করা কঠিন এমন ফলাফলকে অবমূল্যায়ন করতে পারে। গণতান্ত্রিক নিয়ন্ত্রণের জন্য একটি সিস্টেম প্রকৃতপক্ষে কী পুরস্কৃত করে তা পর্যালোচনা করা প্রয়োজন, শুধু এর বর্ণিত উদ্দেশ্য অনুমোদন করা নয়।
নীতিগত প্রস্তাব: একটি ন্যূনতম সংস্থা গ্যারান্টি
গুরুত্বপূর্ণ জনসাধারণের ব্যবহারের জন্য, মানুষের চিহ্নিত করতে সক্ষম হওয়া উচিত:
- একটি এআই সিস্টেম সিদ্ধান্তকে বস্তুগতভাবে প্রভাবিত করেছে কিনা;
- প্রতিষ্ঠান ও আইনগতভাবে দায়বদ্ধ কর্মকর্তা;
- পরিচালনাকারী নিয়ম ও ব্যবহৃত প্রমাণ;
- গুরুত্বপূর্ণ সীমাবদ্ধতা, অনিশ্চয়তা, ও তথ্যের উৎসতা;
- ফলাফল পরিবর্তন করার ক্ষমতাসহ একটি সময়োপযোগী মানবিক আপিল;
- একটি আদালত, নিয়ন্ত্রক, ন্যায়পাল, বা নির্বাচিত সংস্থার একটি প্রবেশযোগ্য পথ;
- যারা নিরাপদে সিস্টেম ব্যবহার করতে পারেন না তাদের জন্য একটি অ-ডিজিটাল পথ।
এই গ্যারান্টিগুলো ত্রুটি বা রাজনৈতিক মতবিরোধ দূর করবে না। এগুলো প্রশাসন ও আধিপত্যের মধ্যে পার্থক্য সংরক্ষণ করে: প্রভাবিত ব্যক্তি যুক্তি ও প্রতিকারের একটি সিস্টেমে অংশগ্রহণকারী থাকেন, শুধু শ্রেণীবদ্ধ হওয়া একটি বস্তু নন।
এজিআই-পরবর্তী সাংবিধানিক প্রশ্ন
গভীরতম বিষয়টি এই নয় যে একটি এআই একটি আনুষ্ঠানিক সরকারি উপাধি পায় কিনা। এটি হলো মানুষ ও তাদের প্রতিষ্ঠানগুলো গুরুত্বপূর্ণ সিস্টেম সংশোধন করার দক্ষতা, স্বাধীনতা, ও প্রভাব ধরে রাখে কিনা। যদি একটি মডেল অপসারণ একই সাথে স্বাস্থ্যসেবা, অর্থ, যোগাযোগ, ও সরকার বন্ধ করে দেয়, তাহলে আইনি সার্বভৌমত্ব সামান্য ব্যবহারিক সান্ত্বনা দেয়।
রূপান্তরকারী এআই-এর পর গণতান্ত্রিক টিকে থাকা তাই নির্ভরতা সম্পূর্ণ হওয়ার আগে নির্মিত সক্ষমতার ওপর নির্ভর করে: জনসাধারণের দক্ষতা, আন্তঃকার্যকরযোগ্য অবকাঠামো, প্রয়োগযোগ্য অধিকার, বহুত্ববাদী প্রতিষ্ঠান, স্বাধীন প্রমাণ, অর্থবহ আপিল, এবং স্বয়ংক্রিয় সুপারিশ অনুপলব্ধ বা প্রত্যাখ্যাত হলে পরিচালনা করার পরীক্ষিত উপায়। এগুলো প্রযুক্তি-বিরোধী ব্যবস্থা নয়। এগুলো এমন যন্ত্রপাতি যা একটি সমাজকে তার নিজস্ব উদ্দেশ্য বেছে নেওয়ার ক্ষমতা সমর্পণ না করেই শক্তিশালী প্রযুক্তি ব্যবহার করতে দেয়।