দুটি অর্থ প্রায়ই মিশে যায়
একটি এআই সক্ষমতা অন্তত দুটি অর্থে “উদীয়মান” হতে পারে। ব্যাপক অর্থে, একটি মডেল উপযোগী আচরণ প্রদর্শন করে যা একটি স্পষ্ট, কাজ-নির্দিষ্ট প্রশিক্ষণ উদ্দেশ্য ছিল না। একটি ভাষা মডেল যা মূলত টোকেন পূর্বাভাস দিতে প্রশিক্ষিত তা অনুবাদ করতে পারে, কোড লিখতে পারে, আইন সারসংক্ষেপ করতে পারে, বা কিছু গাণিতিক সমস্যা সমাধান করতে পারে। এই দক্ষতাগুলো দেখা দিতে পারে কারণ প্রশিক্ষণ তথ্য ও উদ্দেশ্য পুনরায়-ব্যবহারযোগ্য অভ্যন্তরীণ ধরন পুরস্কৃত করে।
শক্তিশালী অর্থে, উদ্ভব মানে একটি সক্ষমতা স্কেল বৃদ্ধি পাওয়ার সাথে সাথে আকস্মিকভাবে দেখা দেয়: ছোট মডেলগুলো ব্যর্থ হয়, তারপর একটি বড় মডেল হঠাৎ সফল হয়। একটি ব্যাপকভাবে আলোচিত 2022 পেপার মডেল পরিবার ও কাজ জুড়ে এমন লাফের উদাহরণ প্রতিবেদন করেছে (Wei et al., 2022)। পার্থক্যটি গুরুত্বপূর্ণ। পরিকল্পনাহীন সক্ষমতার অস্তিত্ব সুপ্রতিষ্ঠিত; একটি পরিমাপকৃত সক্ষমতা একটি প্রকৃত বিচ্ছিন্নতার মধ্য দিয়ে গেছে কিনা তা মেট্রিক, তথ্য, এবং নমুনায়নের ওপর নির্ভর করে।
কোনো অর্থই চেতনা, উদ্দেশ্য, বা জাদু বোঝায় না। জটিল সিস্টেমগুলো একজন ডিজাইনার প্রতিটি ব্যবহারের জন্য একটি মডিউল না লিখেই সাধারণ-উদ্দেশ্য উপস্থাপনা অর্জন করতে পারে। বৈজ্ঞানিক প্রশ্নটি হলো প্রশিক্ষণ ও সিস্টেম নকশার সাথে আচরণ কীভাবে পরিবর্তিত হয়, এবং আমরা এটি কতটা ভালোভাবে পূর্বাভাস দিতে পারি।
কেন কিছু লাফ পরিমাপ-শিল্পকর্ম
ধরুন একটি মডেলের গাণিতিক নির্ভুলতা ধীরে ধীরে 20 থেকে 30 থেকে 40 শতাংশে বৃদ্ধি পায়। একটি বেঞ্চমার্ক যা শুধুমাত্র নির্ভুলতা 35 শতাংশ অতিক্রম করলে একটি পয়েন্ট দেয় তা শূন্য, শূন্য, তারপর একটি দেখাবে — স্কোরিং দ্বারা তৈরি একটি বিচ্ছিন্নতা। একই প্রভাব ঘটে যখন সঠিক-মিল গ্রেডিং প্রায়-সঠিক উত্তরের জন্য কোনো কৃতিত্ব দেয় না বা যখন একটি কাজের জন্য বেশ কয়েকটি উপ-দক্ষতা প্রয়োজন এবং একটি অনুপস্থিত থাকলে ব্যর্থ হয়।
Schaeffer, Miranda, এবং Koyejo প্রতিবেদিত ক্ষেত্রগুলো পুনরায় বিশ্লেষণ করে দেখিয়েছেন যে অনেক আকস্মিক পরিবর্তন মসৃণ হয়ে ওঠে যখন ধারাবাহিক, অ-রৈখিক, বা ত্রুটি-সংবেদনশীল মেট্রিক দিয়ে পরিমাপ করা হয় (” Are Emergent Abilities of Large Language Models a Mirage?“)। এটি প্রমাণ করে না যে প্রকৃত বিচ্ছিন্নতা কখনো ঘটে না। এটি দেখায় যে একটি বেঞ্চমার্ক গ্রাফ মেট্রিক প্রভাব, বিরল নমুনায়ন, এবং মডেল-পরিবার পার্থক্য বাদ না দিয়ে একটি প্রতিষ্ঠা করতে পারে না।
স্কেলও একমাত্র পরিবর্তনশীল ভেরিয়েবল নয়। বড় মডেলগুলো ভিন্ন তথ্য, প্রশিক্ষণ রেসিপি, টোকেনাইজার, নির্দেশনা টিউনিং, সরঞ্জাম, বা ইনফারেন্স বাজেট ব্যবহার করতে পারে। নামযুক্ত পণ্য তুলনা করা একটি সিস্টেম-স্তরের প্রকৌশল উন্নতিকে একটি বিশুদ্ধ প্যারামিটার সীমারেখার সাথে বিভ্রান্ত করতে পারে। প্রক্রিয়া চিহ্নিত করতে গবেষকদের নিয়ন্ত্রিত স্কেলিং সিরিজ, ঘন চেকপয়েন্ট, এবং একাধিক মেট্রিক প্রয়োজন।
যা এখনো প্রকৃতপক্ষে পূর্বাভাস দেওয়া কঠিন
এমনকি মসৃণ অন্তর্নিহিত উন্নতিও একটি গুরুত্বপূর্ণ সীমারেখা তৈরি করতে পারে। একটি সাইবার এজেন্ট যা 40 থেকে 60 শতাংশ সাফল্যে চলে যায় তা এমন একটি বিন্দু অতিক্রম করতে পারে যেখানে স্থাপনা অর্থনৈতিকভাবে লাভজনক হয়ে ওঠে। পৃথকভাবে দুর্বল উপ-দক্ষতা সংযুক্ত করার একটি মডেলের সক্ষমতা একটি কর্মপ্রবাহ আনলক করতে পারে। বাহ্যিক সিস্টেম ছোট উন্নতি বর্ধিত করতে পারে: সরঞ্জাম কার্যক্রম প্রদান করে, স্মৃতি প্রেক্ষাপট প্রসারিত করে, এবং পুনরাবৃত্ত নমুনায়ন একটি সফল উত্তর খুঁজে পায়।
ডেভেলপাররা প্রতিটি সম্ভাব্য কাজ সম্পূর্ণভাবে পরীক্ষা করতেও পারেন না। মডেলগুলো ব্যাপক তথ্যে প্রশিক্ষিত এবং কোটি কোটি ব্যবহারকারীর কাছে স্থাপিত যারা মূল্যায়নকারীরা কল্পনা করেননি এমন প্রয়োগ ও ব্যর্থতা আবিষ্কার করেন। একটি সক্ষমতা তাই ধীরে ধীরে বিকশিত হলেও ল্যাবের কাছে বিস্ময়কর হতে পারে। বিস্ময় একটি গাণিতিকভাবে তীক্ষ্ণ পর্যায় পরিবর্তনের চেয়ে সীমিত পরিমাপ প্রতিফলিত করতে পারে, কিন্তু এটি এখনো কার্যকরীভাবে গুরুত্বপূর্ণ।
2026 International AI Safety Report জোর দেয় যে ফ্রন্টিয়ার মূল্যায়নের সীমিত বাহ্যিক বৈধতা থাকতে পারে এবং সিস্টেম ও স্ক্যাফোল্ড পরিবর্তনের সাথে সাথে দ্রুত অপ্রচলিত হয়ে যেতে পারে (International AI Safety Report 2026)। এটি একটি ব্যবহারিক অনিশ্চয়তা দাবি, প্রমাণ নয় যে প্রতিটি আশঙ্কাজনক আচরণ স্বতঃস্ফূর্তভাবে দেখা দেবে।
সক্ষমতা প্রবণতা নয়
একটি মডেল ইচ্ছাকৃতভাবে প্রম্পট করা হলে একটি কাজ সম্পাদন করতে সক্ষম হতে পারে এটি নিজে থেকে করার সম্ভাবনা না থাকা সত্ত্বেও। নিরাপত্তা বিশ্লেষণে সক্ষমতা-কে — সিস্টেমটি কিছু করতে পারে কিনা — প্রবণতা থেকে আলাদা করা উচিত — এটি প্রাসঙ্গিক পরিস্থিতিতে এটি করার প্রবণতা রাখে কিনা। একটি মডেল যা রোল-প্লেতে একটি প্রতারণামূলক পরিকল্পনা তৈরি করতে পারে তা দেখায় না যে এটি স্থাপনার সময় প্রতারণা অনুসরণ করে। বিপরীতভাবে, একটি নিম্ন পরিমাপকৃত প্রবণতা এমন একটি মূল্যায়ন প্রতিফলিত করতে পারে যা সঠিক ট্রিগার তৈরি করেনি।
একই পার্থক্য পরিস্থিতিগত সচেতনতা, সুরক্ষা এড়ানো, আত্ম-সংরক্ষণ, এবং কৌশলগত আচরণের ক্ষেত্রেও প্রযোজ্য। এগুলো সক্রিয় গবেষণার বিষয় এবং সম্ভাব্য হুমকি-মডেল উপাদান। অনুবাদ বা গণিত এমনটা করেছিল বলেই এগুলো দেখা দিতে বাধ্য বলা ভুল। প্রমাণে পরীক্ষিত মডেল, প্রম্পট, পরিবেশ, ফ্রিকোয়েন্সি, এবং বিকল্প ব্যাখ্যা চিহ্নিত করা উচিত।
নৃতাত্ত্বিকীকরণকারী ভাষা বিভ্রান্তি যোগ করে। মডেলগুলো বেঁচে থাকার ইচ্ছা সম্পর্কে বিবৃতি তৈরি করতে পারে কারণ অনুরূপ ভাষা তাদের প্রশিক্ষণ তথ্যে দেখা যায় বা কারণ মিথস্ক্রিয়া একটি ব্যক্তিত্বকে পুরস্কৃত করে। এমন পাঠ্য তদন্তযোগ্য আচরণ; এটি একটি স্থিতিশীল অভ্যন্তরীণ লক্ষ্যের সরাসরি প্রবেশাধিকার নয়। উদ্দেশ্য সম্পর্কে দাবির জন্য একটি কথোপকথনের উদ্ধৃতির চেয়ে শক্তিশালী প্রমাণ প্রয়োজন।
কেন উদ্ভব এখনো নিরাপত্তা-প্রাসঙ্গিক
যুক্তিসঙ্গত নিরাপত্তা শিক্ষা “যেকোনো কিছু হঠাৎ ঘটতে পারে” নয়। এটি হলো যে ব্যাপক প্রশিক্ষণ ডিজাইনাররা স্পষ্টভাবে গণনা করার চেয়ে বেশি আচরণ তৈরি করে, এবং বর্তমান মূল্যায়ন অসম্পূর্ণ কভারেজ প্রদান করে। এটি পর্যায়ক্রমিক পরীক্ষা, নিরীক্ষণ, এবং গভীরতায় প্রতিরক্ষাকে ন্যায্যতা দেয়। এটি অনুমান করা থেকেও সতর্ক করে যে একটি বেঞ্চমার্কে অনুপস্থিতির মানে প্রতিটি স্ক্যাফোল্ড বা প্রম্পটের অধীনে অনুপস্থিতি।
মূল্যায়ন প্রশিক্ষণের সময় শুরু হওয়া উচিত, চেকপয়েন্ট ব্যবহার করে চূড়ান্ত চালনার আগে প্রবণতা পরিমাপ করে। দলগুলো সাইবার, জৈবিক সহায়তা, প্ররোচনা, স্বায়ত্তশাসন, এবং মডেল-নিয়ন্ত্রণ ঝুঁকির জন্য সেট বজায় রাখতে পারে, একই সাথে অপ্রত্যাশিত আচরণ খুঁজতে উন্মুক্ত-প্রান্তের রেড টিমিং যোগ করতে পারে। ব্যক্তিগত পরীক্ষা দূষণ কমায়; বাহ্যিক মূল্যায়নকারীরা প্রাতিষ্ঠানিক অন্ধ দাগ কমায়। স্থাপনা-পরবর্তী ঘটনা প্রতিবেদন সেই ব্যর্থতাগুলো ধরে যা গবেষণাগার কাজ মিস করে।
সীমারেখা নীতিগুলোর উচিত উদ্ভব সম্পর্কে দার্শনিক ঐকমত্যের প্রয়োজন ছাড়াই প্রদর্শিত সক্ষমতায় সাড়া দেওয়া। একটি সিস্টেম যদি একটি গুরুতর ক্ষতির বাধা উপাদানগতভাবে কমাতে পারে, প্রাসঙ্গিক সুরক্ষা ব্যবস্থা প্রয়োগ করা উচিত বক্ররেখাটি মসৃণ ছিল না আকস্মিক তা নির্বিশেষে। প্রমাণ দুর্বল হলে, প্রতিবেদনের উচিত নীরবে একটি অনুমানমূলক আচরণকে পর্যবেক্ষিত হিসেবে বিবেচনা করার বদলে অনিশ্চয়তা বিবৃত করা।
পূর্বাভাসযোগ্যতা স্তরে আসে
কিছু মডেল বৈশিষ্ট্য অন্যদের চেয়ে বেশি পূর্বাভাসযোগ্য। একটি তথ্য বণ্টন জুড়ে সামগ্রিক ক্ষতি প্রায়ই মসৃণ স্কেলিং সূত্র অনুসরণ করেছে। একটি স্থিতিশীল বেঞ্চমার্কে কর্মক্ষমতা একটি সীমিত পরিসরে পূর্বাভাসযোগ্য হতে পারে। একটি বিশৃঙ্খল পরিবেশে সাফল্য সরঞ্জাম, নির্ভরযোগ্যতা, এবং মিথস্ক্রিয়ার ওপর নির্ভর করে যা মডেল করা কঠিনতর। সামাজিক প্রভাব গ্রহণ, প্রণোদনা, প্রতিষ্ঠান, এবং প্রতিপক্ষ যোগ করে, এটিকে আরও কঠিনতর করে তোলে।
এই স্তরক্রমটি একটি সাধারণ অনুমান ত্রুটি প্রতিরোধ করে: পূর্বাভাসযোগ্য প্রশিক্ষণ ক্ষতি প্রতিটি নিম্নধারা সক্ষমতাকে পূর্বাভাসযোগ্য করে না, কিন্তু বিস্ময়কর নিম্নধারা আচরণ স্কেলিং সূত্রকে অবৈধ করে না। গবেষকরা বিরল ব্যর্থতা বা নির্দিষ্ট কাজ সম্পর্কে অনিশ্চিত থেকেও একটি গড় পূর্বাভাস দিতে পারেন।
ব্যাখ্যাযোগ্যতা অবশেষে আচরণে স্পষ্টভাবে প্রদর্শিত হওয়ার আগে উপস্থাপনা বা প্রক্রিয়া প্রকাশ করে পূর্বাভাস উন্নত করতে পারে। আজ, তবে, ব্যাখ্যাযোগ্যতা পদ্ধতিগুলো একটি মডেল কী “জানে” বা করবে তার সম্পূর্ণ রিডআউটের চেয়ে আংশিক প্রমাণ প্রদান করে। আচরণিক মূল্যায়ন ও বাস্তব-জগতের নিয়ন্ত্রণ প্রয়োজনীয় থেকে যায়।
উদ্ভবের একটি দাবি কীভাবে পড়বেন
জিজ্ঞাসা করুন তুলনা জুড়ে কী পরিবর্তিত হয়েছে: প্যারামিটার, কম্পিউট, তথ্য, প্রশিক্ষণ উদ্দেশ্য, সরঞ্জাম, বা প্রম্পটিং। পরীক্ষা করুন মেট্রিকটি ধারাবাহিক কিনা, মধ্যবর্তী চেকপয়েন্ট বিদ্যমান কিনা, এবং অনিশ্চয়তা বার ওভারল্যাপ করে কিনা। পরীক্ষা করুন কাজটি প্রশিক্ষণ তথ্যে ছিল কিনা এবং স্বাধীন গবেষকরা ফলাফল পুনরুৎপাদন করেছেন কিনা। সবচেয়ে গুরুত্বপূর্ণ, “লেখকদের কাছে অপ্রত্যাশিত” থেকে “বৈজ্ঞানিকভাবে অসংলগ্ন” আলাদা করুন।
সাবধানে ব্যবহার করা হলে উদীয়মান সক্ষমতা একটি উপযোগী ধারণা। ব্যাপকভাবে প্রশিক্ষিত মডেলগুলো প্রকৃতপক্ষে এমন দক্ষতা অর্জন করে যা কোনো প্রকৌশলী একে একে নির্দিষ্ট করেননি। কিছু সক্ষমতা শুধুমাত্র ব্যবহারিক সীমারেখা অতিক্রম করার পরে দৃশ্যমান হয়। কিন্তু অনেক বিখ্যাত খাড়া ঢাল আংশিকভাবে আমরা আচরণ কীভাবে স্কোর করি তার শিল্পকর্ম। সঠিক উপসংহার না তো উদ্ভব একটি বিভ্রম, না স্কেল অপ্রত্যাশিতভাবে যেকোনো সক্ষমতা ডেকে আনে। এটি হলো যে সক্ষমতা উন্নয়ন শুধুমাত্র আংশিকভাবে বোঝা যায়, পরিমাপ পছন্দ গুরুত্বপূর্ণ, এবং নিরাপত্তা নীতি ধীর ও বিস্ময়কর উভয় পরিবর্তনের প্রতি দৃঢ় হওয়া উচিত।