04 প্রস্থানপথ
প্রস্থানপথ যা প্রকৃতপক্ষে বিদ্যমান
কারিগরি ও প্রাতিষ্ঠানিক নিয়ন্ত্রণ নির্ধারণ করে যে অধ্যায় 02-এর গুরুতর দৃশ্যকল্পগুলো কম বা বেশি সম্ভাব্য হয়ে ওঠে কি না; গৃহস্থালি প্রস্তুতি তার বিকল্প হতে পারে না।
কারিগরি নিরাপত্তা লিভার
- ব্যাখ্যাযোগ্যতা গবেষণা। আচরণগত মূল্যায়ন, প্রবেশাধিকার নিয়ন্ত্রণ এবং স্থাপনা পর্যবেক্ষণের একটি পরিপূরক হিসেবে মডেলের উপস্থাপনা ও অভ্যন্তরীণ গণনা পরিদর্শন করা।
- মাপযোগ্য তত্ত্বাবধান। কৌশল—বিতর্ক, পুনরাবৃত্তিমূলক পুরস্কার মডেলিং, দুর্বল-থেকে-শক্তিশালী সাধারণীকরণ—যেগুলোর উদ্দেশ্য কম সক্ষম তত্ত্বাবধায়কদের আরও সক্ষম সিস্টেম তদারকিতে সহায়তা করা।
- সংশোধনযোগ্যতা গবেষণা। সিস্টেমগুলো কীভাবে বৈধ সংশোধন, পরিবর্তন এবং বন্ধ করে দেওয়ার প্রতি গ্রহণযোগ্য থাকতে পারে, তা নিয়ে গবেষণা; কোনো মাপযোগ্য-শক্তিশালী সমাধান এখনও প্রদর্শিত হয়নি।
- কম্পিউট শাসনব্যবস্থা। এখতিয়ার-নির্দিষ্ট রপ্তানি নিয়ন্ত্রণ, অবকাঠামো পর্যবেক্ষণ এবং সীমারেখা—সক্ষমতার অসম্পূর্ণ প্রক্সি হিসেবে ব্যবহৃত, এজিআই বা নিরাপত্তার সংজ্ঞা হিসেবে নয়।
অ্যানথ্রপিকের প্রধান নির্বাহী তাঁর 2025 সালের প্রবন্ধে এই বিষয়ে প্রথমটির পক্ষে যুক্তি দিয়েছিলেন:
Dario Amodei argues that researchers still lack a precise account of why models choose particular outputs.
The Urgency of Interpretability, Primary source
প্রাতিষ্ঠানিক লিভার
আন্তর্জাতিক সমন্বয় গুরুত্বপূর্ণ, কারণ একতরফা নিয়ন্ত্রণ নিরাপত্তা প্রণোদনা এবং প্রতিযোগিতামূলক অবস্থান—উভয়কেই বদলে দিতে পারে। নীতিগত ভূদৃশ্য আর সম্পূর্ণ স্বেচ্ছাপ্রণোদিত নয়: ইইউ এআই আইন পরিধির মধ্যে থাকা সরবরাহকারীদের ওপর বাধ্যতামূলক দায়িত্ব আরোপ করে, যদিও ল্যাব নিরাপত্তা কাঠামো এবং সম্মেলন প্রতিশ্রুতিগুলো মূলত স্বেচ্ছাপ্রণোদিতই থেকে যায়। বর্তমানে শীর্ষস্থানীয়-মডেল অস্ত্র-নিয়ন্ত্রণের কোনো বাধ্যতামূলক বৈশ্বিক চুক্তি বিদ্যমান নেই।
প্রথম বৈশ্বিক এআই নিরাপত্তা সম্মেলনে 28টি দেশ ও ইইউ কর্তৃক সমর্থিত অ-বাধ্যতামূলক ঘোষণাটি ছিল একটি প্রাথমিক আন্তর্জাতিক সূচনা বিন্দু:
28 nations and the European Union commits signatories to AI that is designed, developed, deployed and used safely and responsibly.
GOV.UK, Signed statement
- বিধিনিষেধহীন প্রকাশের আগে বিপজ্জনক সক্ষমতার জন্য ঝুঁকি-অনুপাতিক স্থাপনা-পূর্ব মূল্যায়ন।
- ঘটনা প্রতিবেদন, যা নিয়ন্ত্রক ও ডেভেলপারদের গুরুতর ব্যর্থতা ও নিকট-দুর্ঘটনা থেকে শিখতে দেয়।
- দায়বদ্ধতার নিয়ম, যা নিয়ন্ত্রণ, জ্ঞান, কার্যকারণ এবং ক্ষতি প্রতিরোধের ক্ষমতা বিবেচনায় নেয়।
একজন ব্যক্তিগত প্রযুক্তিবিদ কী করতে পারেন
পাঠকরা ভোটার, শ্রমিক, গবেষক, গ্রাহক, বিনিয়োগকারী এবং নাগরিক সংগঠনের সদস্য হিসেবে নীতিকে প্রভাবিত করতে পারেন। ব্যবহারিক বিকল্পগুলোর মধ্যে রয়েছে ব্যাখ্যাযোগ্যতা ও সারিবদ্ধতা গবেষণায় অবদান রাখা বা তহবিল জোগানো; আপনি যদি উৎপাদনে এআই সিস্টেম মোতায়েন করেন তাহলে নিজের প্রতিষ্ঠানের ভেতরে নিরাপত্তা চর্চাকে এগিয়ে নেওয়া; ওপরের প্রতিবেদন ও মূল্যায়ন অবকাঠামোকে নিয়ন্ত্রক বাধা হিসেবে না দেখে তাকে সমর্থন করা; এবং স্বয়ংক্রিয় কারসাজি বা প্রকৃত ঐকমত্য ধরে না নিয়ে প্ররোচনামূলক দাবির পেছনের উৎস ও প্রমাণ যাচাই করা।