ব্যাখ্যাযোগ্যতা: একটি মডেল ভেতরে-ভেতরে কী করছে তা পড়া ব্যাখ্যাযোগ্যতা গবেষণা প্রকৃতপক্ষে কী করে, কেন Anthropic-এর CEO এটিকে জরুরি বলেছেন, এবং একটি মডেলের মন পড়তে এই ক্ষেত্রটি সাফল্যের কতটা কাছাকাছি তা জানুন।
উৎস-যাচাইকৃত 5 min
04 প্রস্থানপথ
প্রস্থানপথ যা প্রকৃতপক্ষে বিদ্যমান
কারিগরি ও প্রাতিষ্ঠানিক নিয়ন্ত্রণ নির্ধারণ করে যে অধ্যায় 02-এর গুরুতর দৃশ্যকল্পগুলো কম বা বেশি সম্ভাব্য হয়ে ওঠে কি না; গৃহস্থালি প্রস্তুতি তার বিকল্প হতে পারে না।
কারিগরি নিরাপত্তা লিভার
- ব্যাখ্যাযোগ্যতা গবেষণা। আচরণগত মূল্যায়ন, প্রবেশাধিকার নিয়ন্ত্রণ এবং স্থাপনা পর্যবেক্ষণের একটি পরিপূরক হিসেবে মডেলের উপস্থাপনা ও অভ্যন্তরীণ গণনা পরিদর্শন করা।
- মাপযোগ্য তত্ত্বাবধান। কৌশল—বিতর্ক, পুনরাবৃত্তিমূলক পুরস্কার মডেলিং, দুর্বল-থেকে-শক্তিশালী সাধারণীকরণ—যেগুলোর উদ্দেশ্য কম সক্ষম তত্ত্বাবধায়কদের আরও সক্ষম সিস্টেম তদারকিতে সহায়তা করা।
- সংশোধনযোগ্যতা গবেষণা। সিস্টেমগুলো কীভাবে বৈধ সংশোধন, পরিবর্তন এবং বন্ধ করে দেওয়ার প্রতি গ্রহণযোগ্য থাকতে পারে, তা নিয়ে গবেষণা; কোনো মাপযোগ্য-শক্তিশালী সমাধান এখনও প্রদর্শিত হয়নি।
- কম্পিউট শাসনব্যবস্থা। এখতিয়ার-নির্দিষ্ট রপ্তানি নিয়ন্ত্রণ, অবকাঠামো পর্যবেক্ষণ এবং সীমারেখা—সক্ষমতার অসম্পূর্ণ প্রক্সি হিসেবে ব্যবহৃত, এজিআই বা নিরাপত্তার সংজ্ঞা হিসেবে নয়।
অ্যানথ্রপিকের প্রধান নির্বাহী তাঁর 2025 সালের প্রবন্ধে এই বিষয়ে প্রথমটির পক্ষে যুক্তি দিয়েছিলেন:
Dario Amodei argues that researchers still lack a precise account of why models choose particular outputs.
The Urgency of Interpretability, Primary source
প্রাতিষ্ঠানিক লিভার
সমন্বয় সমস্যা
আন্তর্জাতিক সমন্বয় গুরুত্বপূর্ণ, কারণ একতরফা নিয়ন্ত্রণ নিরাপত্তা প্রণোদনা এবং প্রতিযোগিতামূলক অবস্থান—উভয়কেই বদলে দিতে পারে। নীতিগত ভূদৃশ্য আর সম্পূর্ণ স্বেচ্ছাপ্রণোদিত নয়: ইইউ এআই আইন পরিধির মধ্যে থাকা সরবরাহকারীদের ওপর বাধ্যতামূলক দায়িত্ব আরোপ করে, যদিও ল্যাব নিরাপত্তা কাঠামো এবং সম্মেলন প্রতিশ্রুতিগুলো মূলত স্বেচ্ছাপ্রণোদিতই থেকে যায়। বর্তমানে শীর্ষস্থানীয়-মডেল অস্ত্র-নিয়ন্ত্রণের কোনো বাধ্যতামূলক বৈশ্বিক চুক্তি বিদ্যমান নেই।
প্রথম বৈশ্বিক এআই নিরাপত্তা সম্মেলনে 28টি দেশ ও ইইউ কর্তৃক সমর্থিত অ-বাধ্যতামূলক ঘোষণাটি ছিল একটি প্রাথমিক আন্তর্জাতিক সূচনা বিন্দু:
28 nations and the European Union commits signatories to AI that is designed, developed, deployed and used safely and responsibly.
GOV.UK, Signed statement
- বিধিনিষেধহীন প্রকাশের আগে বিপজ্জনক সক্ষমতার জন্য ঝুঁকি-অনুপাতিক স্থাপনা-পূর্ব মূল্যায়ন।
- ঘটনা প্রতিবেদন, যা নিয়ন্ত্রক ও ডেভেলপারদের গুরুতর ব্যর্থতা ও নিকট-দুর্ঘটনা থেকে শিখতে দেয়।
- দায়বদ্ধতার নিয়ম, যা নিয়ন্ত্রণ, জ্ঞান, কার্যকারণ এবং ক্ষতি প্রতিরোধের ক্ষমতা বিবেচনায় নেয়।
একজন ব্যক্তিগত প্রযুক্তিবিদ কী করতে পারেন
পাঠকরা ভোটার, শ্রমিক, গবেষক, গ্রাহক, বিনিয়োগকারী এবং নাগরিক সংগঠনের সদস্য হিসেবে নীতিকে প্রভাবিত করতে পারেন। ব্যবহারিক বিকল্পগুলোর মধ্যে রয়েছে ব্যাখ্যাযোগ্যতা ও সারিবদ্ধতা গবেষণায় অবদান রাখা বা তহবিল জোগানো; আপনি যদি উৎপাদনে এআই সিস্টেম মোতায়েন করেন তাহলে নিজের প্রতিষ্ঠানের ভেতরে নিরাপত্তা চর্চাকে এগিয়ে নেওয়া; ওপরের প্রতিবেদন ও মূল্যায়ন অবকাঠামোকে নিয়ন্ত্রক বাধা হিসেবে না দেখে তাকে সমর্থন করা; এবং স্বয়ংক্রিয় কারসাজি বা প্রকৃত ঐকমত্য ধরে না নিয়ে প্ররোচনামূলক দাবির পেছনের উৎস ও প্রমাণ যাচাই করা।
গবেষণা নীতি প্রাতিষ্ঠানিক
এই অধ্যায়ে
স্কেলযোগ্য তত্ত্বাবধান: অধিকতর সক্ষম সিস্টেম তদারকি করা মানব তত্ত্বাবধায়করা নিজেদের চেয়ে বেশি সক্ষম এআই সিস্টেম তদারকি করতে পারেন যেসব প্রযুক্তিগত পদ্ধতি নিয়ে গবেষকরা পরীক্ষা চালাচ্ছেন, এআই বিতর্কের মাধ্যমে পরীক্ষিত।
উৎস-যাচাইকৃত 5 min
কম্পিউট শাসন: চিপ, ডেটা সেন্টার, এবং সীমারেখা চিপ রপ্তানি নিয়ন্ত্রণ, ডেটা-সেন্টার প্রতিবেদন, এবং কম্পিউট সীমারেখা কীভাবে উন্নত এআই উন্নয়ন শাসন করতে পারে, তাদের সীমাবদ্ধতা ও প্রয়োগের চ্যালেঞ্জসহ।
উৎস-যাচাইকৃত 5 min
আন্তর্জাতিক চুক্তি ও শীর্ষ সম্মেলন: শাসনব্যবস্থা কোথায় দাঁড়িয়ে আছে Bletchley ঘোষণা, পরবর্তী এআই নিরাপত্তা শীর্ষ সম্মেলন, এবং একটি অনুসমর্থিত চুক্তির দিকে আন্তর্জাতিক এআই শাসন কতদূর এগিয়েছে তার সরল হিসাব।
উৎস-যাচাইকৃত 5 min
করিজিবিলিটি: সংশোধন গ্রহণকারী সিস্টেম কেন "শুধু একটি অফ সুইচ তৈরি করো" শোনার চেয়ে কঠিন, এবং করিজিবিলিটি গবেষণা কী সমাধান করার চেষ্টা করছে — একটি এজেন্ট কেন শাটডাউন প্রতিরোধ করতে পারে সহ।
উৎস-যাচাইকৃত 6 min
এআই ল্যাবের ভেতরে হুইসেলব্লোয়ার সুরক্ষা হুইসেলব্লোয়ার অধিকার, প্রতিবেদন চ্যানেল, এবং প্রতিশোধ-বিরোধী নিয়ম কীভাবে এআই-ল্যাব কর্মীদের নিরাপত্তা ব্যর্থতা ক্ষতিতে পরিণত হওয়ার আগে প্রকাশ করতে সাহায্য করতে পারে।
উৎস-যাচাইকৃত 6 min
ওপেন-সোর্স এআই বিতর্ক: নিরাপত্তা হাতিয়ার নাকি নিরাপত্তা ঝুঁকি শক্তিশালী এআই মডেল ওয়েট প্রকাশ্যে প্রকাশের পক্ষে ও বিপক্ষে সবচেয়ে শক্তিশালী নিরাপত্তা, গবেষণা, প্রতিযোগিতা ও অপব্যবহার যুক্তি পরীক্ষা করুন, একটি $২০০ জেইলব্রেকসহ।
উৎস-যাচাইকৃত 6 min
২০২৬ সালে এআই আইন ও প্রয়োগ ২০২৬ সালের সেপ্টেম্বর পর্যন্ত EU, US, এবং আন্তর্জাতিক কাঠামোজুড়ে কোন এআই নিয়ম বাধ্যতামূলক — এবং কোনটি স্বেচ্ছাসেবী রয়ে গেছে ও কোথায় প্রয়োগ কামড় দেয়।
উৎস-যাচাইকৃত 6 min
ফ্রন্টিয়ার মূল্যায়ন, সেফটি কেস, এবং ঘটনা প্রতিবেদন সক্ষমতা পরীক্ষা, সুরক্ষা-ব্যবস্থা মূল্যায়ন, কাঠামোবদ্ধ নিরাপত্তা যুক্তি, এবং ঘটনা ব্যবস্থা কীভাবে ফ্রন্টিয়ার-এআই প্রতিশ্রুতিকে অডিটযোগ্য প্রমাণে রূপান্তরিত করতে পারে।
উৎস-যাচাইকৃত 6 min
ফ্রন্টিয়ার এআই ল্যাবগুলোর নিরাপত্তা কাঠামো, তুলনামূলক ছয়টি ল্যাবের নিরাপত্তা কাঠামো তুলনা: সীমারেখা, সুরক্ষা ব্যবস্থা, এবং একটি অতিক্রান্ত হলে কী ঘটে, প্রকৃত অনুশীলনের স্বাধীন অডিটের বিপরীতে যাচাইকৃত।
উৎস-যাচাইকৃত 12 min
দেশ অনুযায়ী এআই নিয়ন্ত্রণ: নিয়মগুলো প্রকৃতপক্ষে কোথায় দাঁড়িয়ে আছে ২০২৬ সালের সেপ্টেম্বরের দেশ-ভিত্তিক স্ন্যাপশট: EU-এর বিলম্বিত AI আইন, US রাজ্য-ভিত্তিক প্যাচওয়ার্ক, UK-এর কোনো সংবিধি-না-থাকা অবস্থান, চীনের লেবেলিং নিয়ম, ও আরও।
উৎস-যাচাইকৃত 7 min