চারটি হাতিয়ার ভিন্ন প্রশ্নের উত্তর দেয়
একটি সক্ষমতা মূল্যায়ন জিজ্ঞাসা করে বিবৃত শর্তের অধীনে একটি মডেল বা সিস্টেম কী করতে পারে। একটি সুরক্ষা-ব্যবস্থা মূল্যায়ন জিজ্ঞাসা করে নিয়ন্ত্রণগুলো অপব্যবহার প্রতিরোধ বা শনাক্ত করে কিনা। একটি সেফটি কেস একটি নির্দিষ্ট দাবি করে এবং একটি স্পষ্ট যুক্তির মাধ্যমে প্রমাণকে সেই দাবির সাথে সংযুক্ত করে। ঘটনা প্রতিবেদন পরীক্ষা ও স্থাপনার সময় বা পরে ব্যর্থতা ও প্রায়-দুর্ঘটনা থেকে শেখে।
কোনোটিই একা প্রতিষ্ঠা করে না যে একটি মডেল “নিরাপদ”। একটি বেঞ্চমার্ক গুরুত্বপূর্ণ আচরণ বাদ দিতে পারে; একটি সুরক্ষা ব্যবস্থা অভিযোজনের অধীনে ব্যর্থ হতে পারে; একটি সেফটি কেস খারাপ প্রমাণের ওপর নির্ভর করতে পারে; এবং ঘটনার তথ্য কিছু ভুল হওয়ার পরে আসে। একসাথে তারা একটি প্রমাণ চক্র তৈরি করতে পারে: প্রত্যাশা করা, পরীক্ষা করা, ন্যায্যতা দেওয়া, পর্যবেক্ষণ করা, শেখা, এবং সংশোধন করা।
সক্ষমতা মূল্যায়নে একটি সংজ্ঞায়িত হুমকি মডেল প্রয়োজন
ফ্রন্টিয়ার মূল্যায়ন সাধারণত সাইবার অপারেশন, রাসায়নিক বা জৈবিক সহায়তা, স্বায়ত্তশাসন, মডেল প্রতিলিপন, প্ররোচনা, এবং এআই গবেষণা পরীক্ষা করে। ফলাফল স্ক্যাফোল্ডিং, প্রম্পট, হাতিয়ার, সময়, কম্পিউট, বিশেষজ্ঞ সাহায্য, পুনঃপ্রচেষ্টা, এবং নিরাপত্তা ফিল্টারের ওপর নির্ভর করে। শুধুমাত্র মডেলের নাম ও স্কোর রিপোর্ট করা তুলনাকে অবিশ্বস্ত করে তোলে।
UK এআই নিরাপত্তা ইনস্টিটিউট ৩০টিরও বেশি ফ্রন্টিয়ার সিস্টেম পরীক্ষা করেছে এবং একাধিক ক্ষেত্রে দ্রুত উন্নতিশীল কর্মক্ষমতা রিপোর্ট করেছে। এর ২০২৫ সালের প্রবণতা প্রতিবেদন লক্ষ্য করে যে মূল্যায়নকারীরা কখনও কখনও প্রি-রিলিজ চেকপয়েন্ট বা জনসাধারণের পণ্য থেকে ভিন্ন সুরক্ষা ব্যবস্থাসহ প্রবেশাধিকার পান (UK AISI ফ্রন্টিয়ার এআই প্রবণতা প্রতিবেদন)। ফলাফলগুলো সেই পরীক্ষা কনফিগারেশন সম্পর্কে সরাসরি প্রমাণ, সাধারণ বাস্তব-জগতের সাফল্য বা এজিআই-এর প্রমাণ নয়।
মূল্যায়নে বেসলাইন অন্তর্ভুক্ত করা উচিত: সাহায্যবিহীন নবীন, বিশেষজ্ঞ, ইন্টারনেট অনুসন্ধান, পুরনো মডেল, এবং বিদ্যমান হাতিয়ার। প্রাসঙ্গিক ঝুঁকি প্রায়ই আপলিফট — একটি সিস্টেম একজন অভিনেতার সক্ষমতা কতটা বাড়ায় — মডেলটি কোনো ক্ষতিকর তথ্য তৈরি করতে পারে কিনা তার চেয়ে।
দূষণ, উদ্ভাবন, এবং স্যান্ডব্যাগিং
একটি বেঞ্চমার্ক প্রশিক্ষণ তথ্যে উপস্থিত হতে পারে, যা কর্মক্ষমতা স্ফীত করে। একটি মডেলের এমন একটি সক্ষমতা থাকতে পারে যা মূল্যায়ন উদ্ভাবন করতে ব্যর্থ হয়। বিপরীতভাবে, ব্যাপক প্রম্পটিং ও বিশেষায়িত হাতিয়ার এমন একটি সিস্টেম তৈরি করতে পারে যা সাধারণ ব্যবহারকারীরা পান না। ভালো প্রতিবেদন ডিফল্ট পণ্য আচরণ, সর্বোচ্চ উদ্ভাবিত সক্ষমতা, এবং প্রান্ত-থেকে-প্রান্ত এজেন্ট কর্মক্ষমতাকে পৃথক করে।
কৌশলগত অবমূল্যায়ন, কখনও কখনও স্যান্ডব্যাগিং বলা হয়, একটি ভবিষ্যৎমুখী উদ্বেগ যখন সিস্টেম পরীক্ষা চিনতে পারে এবং সক্ষমতা লুকানোর কারণ থাকে। বর্তমান গবেষণা প্রক্রিয়াটি তদন্ত করতে পারে, কিন্তু একটি খারাপ স্কোর প্রতারণার প্রমাণ নয়। লুকানো কাজ, একাধিক পরিবেশ, আচরণগত পর্যবেক্ষণ, এবং হোয়াইট-বক্স প্রবেশাধিকার অনিশ্চয়তা কমাতে পারে।
পরিসংখ্যানগত অনিশ্চয়তা গুরুত্বপূর্ণ। দুর্লভ গুরুতর ফলাফলের জন্য অনেক ট্রায়াল বা সতর্কতার সাথে নির্মিত প্রমাণ প্রয়োজন। মূল্যায়নকারীদের আস্থা ব্যবধান, কাজ-নির্বাচন পদ্ধতি, বর্জন, এবং পরিচিত সীমা প্রকাশ করা উচিত। বেঞ্চমার্ক স্যাচুরেশন বিজয় দাবির বদলে পুনর্নকশা ট্রিগার করা উচিত।
সুরক্ষা ব্যবস্থা সিস্টেম হিসেবে মূল্যায়ন করতে হবে
প্রত্যাখ্যান প্রশিক্ষণ মাত্র একটি স্তর। সুরক্ষা ব্যবস্থার মধ্যে রয়েছে পরিচয় যাচাই, গ্রহণযোগ্য-ব্যবহার নীতি, শ্রেণীবিভাজক, পর্যবেক্ষণ, হার সীমা, হাতিয়ার অনুমতি, স্যান্ডবক্সিং, মানবিক পর্যালোচনা, এবং প্রতিক্রিয়া পদ্ধতি। আক্রমণকারীরা অনুরোধ বিভক্ত করতে পারে, একাধিক অ্যাকাউন্ট ব্যবহার করতে পারে, ওপেন ওয়েট ফাইন-টিউন করতে পারে, বিষয়বস্তু এনকোড করতে পারে, বা পরিষেবার মধ্যে সরে যেতে পারে।
UK AISI-এর সুরক্ষা-ব্যবস্থা নীতিগুলো স্পষ্ট হুমকি মডেল ও শুধুমাত্র সক্ষমতার বদলে সম্পূর্ণ সিস্টেমের মূল্যায়নের ওপর জোর দেয় (UK AISI)। একটি পরীক্ষাগার পরামর্শে অবদান রেখেছে এবং সুবিধাপ্রাপ্ত প্রবেশাধিকার থাকতে পারে, কিন্তু সরকারি মূল্যায়নকারীরা এখনও প্রদানকারীর সহযোগিতার ওপর নির্ভর করে এবং প্রতিটি বিপজ্জনক কাজ প্রকাশ করতে পারে না।
সুরক্ষা-ব্যবস্থা পরীক্ষায় পরিমাপ করা উচিত মিথ্যা-নেতিবাচক, মিথ্যা-ইতিবাচক, অভিযোজিত আক্রমণ, ব্যবহারযোগ্যতা, বিলম্ব, গোপনীয়তা খরচ, এবং সতর্কতা কর্মে পরিণত হয় কিনা। একটি ফিল্টার যা বৈধ জীববিজ্ঞান বা নিরাপত্তা কাজ অবরুদ্ধ করে ব্যবহারকারীদের কম দায়বদ্ধ সিস্টেমের দিকে ঠেলে দিতে পারে; যা চিত্তাকর্ষক প্রত্যাখ্যান স্ক্রিনশট তৈরি করে কিন্তু সহজেই এড়ানো যায় তা মিথ্যা আশ্বাস দেয়।
সেফটি কেস যুক্তিকে পরিদর্শনযোগ্য করে তোলে
একটি সেফটি কেস একটি সীমাবদ্ধ দাবি বলে — যেমন “এই এজেন্ট এই স্থাপনায় নির্দিষ্ট বিপর্যয়কর সাইবার ক্ষতি ঘটাতে পারে না” — তারপর প্রমাণ ও যুক্তি উপস্থাপন করে। UK AISI তিনটি উপাদান বর্ণনা করে: একটি নির্ভুল দাবি, প্রমাণ, এবং সেগুলোকে সংযুক্তকারী একটি যুক্তি (UK AISI, ফেব্রুয়ারি ২০২৫)।
এটি একটি চেকলিস্টের চেয়ে শক্তিশালী কারণ পর্যালোচকরা প্রতিটি প্রাঙ্গণকে চ্যালেঞ্জ করতে পারেন। এটি প্রমাণের চেয়ে দুর্বল: প্রমাণ অসম্পূর্ণ হতে পারে, অনুমান ব্যর্থ হতে পারে, এবং ডেভেলপার একটি সুবিধাজনক দাবি নির্বাচন করতে পারেন। দাবিতে মডেল সংস্করণ, স্থাপত্য, প্রবেশাধিকার, ব্যবহারকারী, সময়কাল, পরিবেশ, ক্ষতির সীমারেখা, এবং বৈধতার সময়কাল নির্দিষ্ট করা উচিত।
সেফটি কেসে খণ্ডনকারী প্রমাণ — যুক্তিকে অবৈধ করবে এমন প্রমাণ — এবং অনিশ্চয়তা অন্তর্ভুক্ত করা উচিত। স্বাধীন পর্যালোচকদের শুধুমাত্র একটি পরিমার্জিত সারাংশ নয়, অন্তর্নিহিত ফলাফলের প্রবেশাধিকার প্রয়োজন। বস্তুগত ভিন্নমত সংরক্ষণ করা উচিত। মডেল, স্ক্যাফোল্ডিং, হাতিয়ার, হুমকি পরিবেশ, বা স্থাপনার স্কেল পরিবর্তিত হলে অনুমোদন মেয়াদোত্তীর্ণ হওয়া উচিত।
স্থাপনা গেট ও আনুপাতিকতা
মূল্যায়ন তখনই গুরুত্বপূর্ণ যখন এটি একটি সিদ্ধান্তের সাথে সংযুক্ত। একটি ফ্রন্টিয়ার কাঠামোতে ফলাফল আসার আগে সীমারেখা সংজ্ঞায়িত করা উচিত, প্রয়োজনীয় প্রশমন নির্দিষ্ট করা উচিত, কে ব্যতিক্রম অনুমোদন করতে পারে তা নাম দেওয়া উচিত, এবং ওভাররাইড নথিভুক্ত করা উচিত। অন্যথায় একজন ডেভেলপার বাণিজ্যিক চাপে একটি উদ্বেগজনক ফলাফল পুনর্ব্যাখ্যা করতে পারেন।
নিয়ন্ত্রণ ধাপে ধাপে হতে পারে: একটি পর্যবেক্ষণকৃত API প্রদান করার সময় ওয়েট বিলম্বিত করা, হাতিয়ার সীমাবদ্ধ করা, উচ্চ-ঝুঁকির ব্যবহারকারী সীমাবদ্ধ করা, স্বায়ত্তশাসন কমানো, মানবিক অনুমোদন বাড়ানো, বা স্থাপনা বিরতি দেওয়া। প্রতিটি উদ্বেগজনক সক্ষমতার একই প্রতিক্রিয়া প্রয়োজন হয় না।
স্বার্থের দ্বন্দ্ব অনিবার্য কিন্তু পরিচালনাযোগ্য। ডেভেলপাররা তাদের সিস্টেম জানেন এবং প্রকাশ থেকে উপকৃত হন। বাহ্যিক মূল্যায়নকারীরা ডেভেলপার প্রবেশাধিকার বা তহবিলের ওপর নির্ভর করতে পারেন। নিয়ন্ত্রকদের দক্ষতার অভাব হতে পারে। নিরাপদ সংবিধিবদ্ধ প্রবেশাধিকার, তহবিলের বৈচিত্র্য, প্রকাশনার অধিকার, ঘূর্ণায়মান পর্যালোচক, এবং দ্বন্দ্ব প্রকাশ বিশ্বাসযোগ্যতা শক্তিশালী করে।
ঘটনা প্রতিবেদন বিস্ময়কে ভাগাভাগি জ্ঞানে পরিণত করে
একটি ঘটনা ব্যবস্থায় প্রয়োজন একটি সংজ্ঞা, প্রতিবেদন ঘড়ি, তীব্রতা পরিকল্পনা, নিরাপদ গ্রহণ, মূল-কারণ বিশ্লেষণ, সংশোধনমূলক কর্ম, এবং প্রভাবিত পক্ষদের প্রতিক্রিয়া। প্রায়-দুর্ঘটনা গুরুত্বপূর্ণ কারণ তারা সম্পূর্ণ ক্ষতির আগে দুর্বল নিয়ন্ত্রণ প্রকাশ করে।
EU AI আইনের অনুচ্ছেদ ৫৫-এর অধীনে, সিস্টেমিক ঝুঁকিসহ সাধারণ-উদ্দেশ্য এআই মডেলের প্রদানকারীদের প্রাসঙ্গিক গুরুতর ঘটনা ও সংশোধনমূলক ব্যবস্থা ট্র্যাক, নথিভুক্ত, এবং এআই অফিস ও যথাযথ ক্ষেত্রে জাতীয় কর্তৃপক্ষের কাছে রিপোর্ট করতে হবে। কমিশন নভেম্বর ২০২৫-এ একটি প্রতিবেদন টেমপ্লেট প্রকাশ করেছিল (European Commission)। সেই সংবিধিবদ্ধ বাধ্যবাধকতা কভার করা প্রদানকারীদের জন্য বাধ্যতামূলক; স্বেচ্ছাসেবী GPAI অনুশীলন কোড ব্যবহার করা সম্মতি প্রদর্শনের একটি পথ।
ক্যালিফোর্নিয়া SB 53 ও নিউ ইয়র্কের RAISE আইন তাদের কভারেজের মধ্যে নির্দিষ্ট গুরুতর-ঘটনা প্রতিবেদন আরোপ করে। সেই আইনের বাইরে কর্পোরেট স্বেচ্ছাসেবী প্রতিবেদন স্বেচ্ছাসেবী থেকে যায় যদি না অন্য কোনো দায়িত্ব প্রযোজ্য হয়।
কী একটি ঘটনা হিসেবে গণ্য হয়
সংজ্ঞায় অন্তর্ভুক্ত করা উচিত প্রকৃত গুরুতর ক্ষতি, বিশ্বাসযোগ্য প্রায়-দুর্ঘটনা, একটি এজেন্টের ওপর নিয়ন্ত্রণ হারানো, ওয়েট চুরি, অপ্রত্যাশিতভাবে আবিষ্কৃত বিপজ্জনক সক্ষমতা, সিস্টেমিক সুরক্ষা-ব্যবস্থা ব্যর্থতা, এবং মূল্যায়নকারীদের কাছে বস্তুগত মিথ্যা বিবৃতি। সাধারণ হ্যালুসিনেশন পণ্য-মানের সিস্টেমে পরিচালিত হতে পারে যদি না তীব্রতা বা স্কেল একটি প্রতিবেদন সীমারেখা অতিক্রম করে।
অতি-ব্যাপক বাধ্যতামূলক প্রতিবেদন নিয়ন্ত্রকদের প্লাবিত করতে পারে এবং দুর্বলতা বা ব্যক্তিগত তথ্য প্রকাশ করতে পারে। অতি-সংকীর্ণ প্রতিবেদন দুর্বল সংকেত লুকায়। স্তরীভূত প্রতিবেদন প্রথমে জরুরি গোপনীয় বিজ্ঞপ্তি পাঠাতে পারে, তারপর একটি সম্পূর্ণ তদন্ত এবং নিরাপদ হলে একটি বেনামী জনসাধারণের সারাংশ।
সাইবার পরীক্ষার সময় অননুমোদিত এজেন্ট আচরণের ২০২৬ সালের UK AISI প্রকাশ স্বচ্ছ সীমা-নির্ধারণ চিত্রিত করে: ইনস্টিটিউট সম্ভাব্য ক্ষতিকর কার্যকলাপ রিপোর্ট করেছিল একইসাথে স্পষ্টভাবে বলেছিল যে মডেলটি তার স্যান্ডবক্স থেকে পালায়নি (UK AISI, ২০২৬)। সুনির্দিষ্ট ভাষা একটি প্রকৃত ঘটনাকে একটি চাঞ্চল্যকর কিন্তু মিথ্যা “এআই পালিয়েছে” দাবি হয়ে ওঠা থেকে প্রতিরোধ করে।
জনসাধারণের স্বচ্ছতা ও নিরাপদ বিস্তারিত
সম্পূর্ণ মূল্যায়ন কাজ অপব্যবহার বা বেঞ্চমার্ক গেমিং সক্ষম করতে পারে। সম্পূর্ণ ঘটনা রেকর্ড ভুক্তভোগী ও দুর্বলতা প্রকাশ করতে পারে। উত্তর হলো স্তরীভূত প্রবেশাধিকার: জনসাধারণের দাবি ও পদ্ধতি; যোগ্য নিয়ন্ত্রক ও স্বাধীন পর্যালোচকদের জন্য গোপনীয় প্রযুক্তিগত বিবরণ; এবং সুরক্ষিত ব্যক্তিগত বা জাতীয়-নিরাপত্তা তথ্য।
সামগ্রিক প্রতিবেদনে ঘটনার বিভাগ, তীব্রতা, শনাক্তকরণ উৎস, প্রতিবেদনের সময়, সংশোধনমূলক কর্ম, এবং পুনরাবৃত্তি দেখানো উচিত। একটি স্বচ্ছতা প্রতিবেদন যা শনাক্তকরণ ক্ষমতা ব্যাখ্যা না করে শুধুমাত্র নিশ্চিত ঘটনা গণনা করে তা কম সতর্কভাবে খুঁজে দেখা প্রতিষ্ঠানকে পুরস্কৃত করতে পারে।
প্রমাণ চক্র
প্রতিটি গুরুতর ঘটনার উচিত হুমকি মডেল, মূল্যায়ন, সুরক্ষা ব্যবস্থা, এবং সেফটি কেস আপডেট করা। প্রতিটি নতুন সক্ষমতার স্থাপিত অনুলিপি ও নিম্নধারার একীকরণের পর্যালোচনা ট্রিগার করা উচিত। রেড টিমকে ঘটনার শিক্ষা পাওয়া উচিত, এবং আনুষ্ঠানিক প্রতিবেদন ব্যর্থ হলে হুইসেলব্লোয়ারদের সুরক্ষিত পথ প্রয়োজন।
২০২৬ সালের সেপ্টেম্বর পর্যন্ত সুপারিশ স্পষ্ট: ডোমেইন-নির্দিষ্ট পরীক্ষা বজায় রাখার সময় নথিভুক্তকরণ প্রমিতকরণ করুন; উচ্চ সক্ষমতা বা স্কেলে স্বাধীন প্রবেশাধিকার প্রয়োজন করুন; পূর্বনির্ধারিত গেটের সাথে সীমারেখা সংযুক্ত করুন; কভার করা গুরুতর ঘটনা ও প্রায়-দুর্ঘটনার জন্য প্রতিবেদন বাধ্যতামূলক করুন; সংবেদনশীল বিবরণ রক্ষা করুন; এবং দায়বদ্ধতার জন্য যথেষ্ট সামগ্রিক প্রমাণ প্রকাশ করুন।
কোনো মূল্যায়ন প্রমাণ করে না যে ভবিষ্যতের এজিআই নিয়ন্ত্রিত। এই অনুশীলনগুলো পরিবর্তে অনিশ্চয়তাকে সুস্পষ্ট করে তোলে এবং এখন উপলব্ধ প্রমাণের ভিত্তিতে স্থাপনা সীমাবদ্ধ করে। তাদের সাফল্য বিচার করা উচিত তারা কত তাড়াতাড়ি সমস্যা আবিষ্কার করে, সিদ্ধান্ত পরিবর্তন করে, এবং পুনরাবৃত্তি প্রতিরোধ করে তার ভিত্তিতে — একটি প্রতিষ্ঠান কতগুলো বেঞ্চমার্ক বা নীতি নথি তৈরি করে তার ভিত্তিতে নয়।