ঝুঁকির জন্য এজিআই প্রয়োজন নেই
উন্নত এআই একজন দূষিত অভিনেতাকে সাহিত্য অনুসন্ধান, বিকল্প তুলনা, গবেষণাগার কাজে সমস্যা সমাধান, বা বিশেষায়িত জৈবিক হাতিয়ার পরিচালনায় সাহায্য করে জৈবিক ঝুঁকি বাড়াতে পারে। একটি মডেলের গুরুত্বপূর্ণ হতে চেতনা, অতিবুদ্ধিমত্তা, বা সম্পূর্ণ স্বায়ত্তশাসনের প্রয়োজন হবে না। এর শুধু ইতিমধ্যে বিপজ্জনক একটি কর্মপ্রবাহে এক বা একাধিক বাধা কমাতে হবে।
সেই প্রক্রিয়াটি যুক্তিসঙ্গত ও গুরুত্বপূর্ণ, কিন্তু এর বর্তমান মাত্রা অনিশ্চিত। ২০২৬ সালের আন্তর্জাতিক এআই নিরাপত্তা প্রতিবেদন উপসংহারে পৌঁছায় যে প্রাসঙ্গিক সক্ষমতা উন্নত হয়েছে এবং কিছু নতুন গবেষণা প্রক্সি কাজে অর্থবহ সহায়তা খুঁজে পায়, যখন আগের গবেষণায় ছোট বা পরিসংখ্যানগতভাবে অতাৎপর্যপূর্ণ প্রভাব পাওয়া গিয়েছিল। এটি ক্রমাগত বস্তুগত বাধা ও প্রধান মূল্যায়ন ফাঁকের ওপরও জোর দেয় (আন্তর্জাতিক এআই নিরাপত্তা প্রতিবেদন ২০২৬)। তাই সঠিক অবস্থান না “এআই ইতিমধ্যে একটি মহামারী তৈরি করতে পারে” না “মডেলগুলো শুধু নিরীহ ইন্টারনেট তথ্য পুনরাবৃত্তি করে”।
গবেষকরা আপলিফট বলতে কী বোঝান
একটি আপলিফট গবেষণা শুধুমাত্র ইন্টারনেট প্রবেশাধিকারের মতো একটি বেসলাইনের বিরুদ্ধে এআই সহায়তাসহ কর্মক্ষমতা তুলনা করে। ফলাফল নির্ভর করে কে অংশগ্রহণ করে, তারা কোন কাজ চেষ্টা করে, কোন মডেল ও সুরক্ষা ব্যবস্থা ব্যবহৃত হয়, কর্মক্ষমতা কীভাবে স্কোর করা হয়, এবং কাজটি একটি কাগজের পরিকল্পনা, একটি প্রক্সি অধিগ্রহণ অনুশীলন, বা প্রকৃত গবেষণাগার কাজ কিনা তার ওপর।
তথ্য একটি জৈবিক আক্রমণ শৃঙ্খলের শুধুমাত্র একটি অংশ। একজন অভিনেতার একটি এজেন্ট নির্বাচন করতে, উপকরণ অর্জন করতে, প্রচ্ছন্ন গবেষণাগার দক্ষতা অর্জন করতে, গুণমান নিয়ন্ত্রণ সম্পাদন করতে, উৎপাদন স্কেল করতে, আত্ম-ক্ষতি ও শনাক্তকরণ এড়াতে, এবং ছড়িয়ে দিতে হতে পারে। এআই একটি পর্যায়ে উল্লেখযোগ্যভাবে সাহায্য করতে পারে যখন সম্পূর্ণ অপারেশন অভিনেতার সাধ্যের বাইরে থেকে যায়। বিপরীতভাবে, সঠিক বাধায় সামান্য সহায়তা একটি অপ্রাসঙ্গিক পরীক্ষায় বড় স্কোর উন্নতির চেয়ে বেশি গুরুত্বপূর্ণ হতে পারে।
নিরাপদ গবেষণা কর্মক্ষম নির্দেশনা তৈরি এড়িয়ে চলে এবং বিশেষজ্ঞ পর্যালোচনা, নিয়ন্ত্রিত সেটিং, এবং প্রক্সি কাজ ব্যবহার করে। তবুও, বাহ্যিক বৈধতা কঠিন। অংশগ্রহণকারীরা প্রকৃত হুমকি অভিনেতাদের সাদৃশ্যপূর্ণ নাও হতে পারে। ছোট গবেষণা মাসের পর মাস সমস্যা সমাধান ধরতে পারে না। দ্রুত মডেল পরিবর্তন প্রকাশের পরপরই একটি সতর্ক ফলাফলকে পুরনো করে দিতে পারে।
প্রাথমিক শূন্য ফলাফলের পরে প্রমাণ পরিবর্তিত হয়েছে
২০২৪ সালের একটি RAND রেড-টিম গবেষণায় ভাষা-মডেল প্রবেশাধিকারসহ দল ও শুধুমাত্র ইন্টারনেট ব্যবহারকারী দলের তৈরি জৈবিক আক্রমণ পরিকল্পনার বিশেষজ্ঞ রেটিংয়ে কোনো পরিসংখ্যানগতভাবে তাৎপর্যপূর্ণ পার্থক্য পাওয়া যায়নি। RAND উপসংহারে পৌঁছেছিল যে আক্রমণ পরিকল্পনা সহায়ক হাতিয়ার হিসেবে পরীক্ষিত মডেলগুলোর সক্ষমতা সীমানার বাইরে ছিল, একইসাথে সতর্ক করে দিয়েছিল যে এটি কতদূর পরিমাপ করেনি (RAND প্রতিবেদন)। এটি সেই মডেল, অংশগ্রহণকারী, এবং পরিকল্পনা কাজ সম্পর্কে অর্থবহ প্রমাণ ছিল — সমস্ত ভবিষ্যতের সিস্টেম সম্পর্কে একটি স্থায়ী ফলাফল নয়।
পরবর্তী প্রমাণ আরও উদ্বেগজনক কিন্তু এখনও অসম্পূর্ণ। ২০২৬ সালের আন্তর্জাতিক এআই নিরাপত্তা প্রতিবেদন একটি নতুন বাস্তব-জগতের আপলিফট গবেষণা বর্ণনা করে যেখানে সুরক্ষা-ব্যবস্থাহীন সাধারণ-উদ্দেশ্য এআই ইন্টারনেট প্রবেশাধিকারের তুলনায় জৈব-অস্ত্র-অধিগ্রহণ প্রক্সি কাজে উল্লেখযোগ্য সহায়তা প্রদান করেছিল। এটি বৈজ্ঞানিক কাজ ও গবেষণাগার যন্ত্রপাতিকে সমর্থনকারী মডেলের গবেষণাও উল্লেখ করে। এই ফলাফলগুলো চিত্রটি আপডেট করে: বর্তমান সিস্টেমগুলো ব্যবহারিক বাধা অর্থবহভাবে কমায় নি বলা আর সঠিক নয়। সামগ্রিক ঝুঁকি কতটা বেড়েছে বা কোন বস্তুগত বাধা টিকে আছে তা পরিমাপ করা এখনও কঠিন।
ডেভেলপার মূল্যায়ন প্রমাণ যোগ করে কিন্তু স্বার্থের দ্বন্দ্ব থাকে এবং প্রায়ই সংবেদনশীল বিবরণ আটকে রাখে। এগুলোকে কোম্পানি স্ব-প্রতিবেদন হিসেবে লেবেল করা উচিত এবং সরকারি ও স্বাধীন কাজের সাথে ব্যাখ্যা করা উচিত।
Anthropic-এর ASL-3 সক্রিয়করণের অর্থ কী
Anthropic ২০২৫ সালে Claude Opus 4 পরিবারের জন্য ASL-3 সুরক্ষা ব্যবস্থা ঘোষণা করেছিল কারণ এটি নির্দিষ্ট রাসায়নিক, জৈবিক, তেজস্ক্রিয়, বা পারমাণবিক কর্মপ্রবাহে অর্থবহ আপলিফট বাদ দিতে পারেনি। কোম্পানিটি স্পষ্টভাবে সক্রিয়করণকে সতর্কতামূলক হিসেবে বর্ণনা করেছিল এবং বলেছিল যে এটি চূড়ান্তভাবে প্রতিষ্ঠা করেনি যে মডেলটি প্রাসঙ্গিক সক্ষমতা সীমারেখা অতিক্রম করেছে (Anthropic ASL-3 ঘোষণা)।
বেশ কয়েকটি ধারণাকে একত্রিত না করা গুরুত্বপূর্ণ। একটি এআই নিরাপত্তা স্তর নিরাপত্তা ও স্থাপনা সুরক্ষা ব্যবস্থার একটি প্যাকেজ। একটি সক্ষমতা সীমারেখা এমন প্রমাণ যা শক্তিশালী সুরক্ষা ব্যবস্থা ট্রিগার করতে পারে। Anthropic-এর নীতি অ-নতুন রাসায়নিক/জৈবিক উৎপাদন, নতুন অস্ত্র উন্নয়ন, এবং আরও পরিশীলিত প্রোগ্রামে আপলিফটকেও আলাদা করেছে। “ASL-3” একটি সার্বজনীন বৈজ্ঞানিক রেটিং নয় এবং এর অর্থ এই নয় যে মডেলটি স্বায়ত্তশাসিতভাবে প্রতিটি শ্রেণির CBRN অস্ত্র তৈরি করতে পারে।
Anthropic-এর নীতি পরিবর্তিত হতে থাকে; এর জনসাধারণের সংরক্ষণাগার আগস্ট ২০২৬ পর্যন্ত সংস্করণ ৩.৪ তালিকাভুক্ত করে (Anthropic RSP)। পাঠকদের একটি পূর্ববর্তী কাঠামো থেকে ভাষা আমদানি করার বদলে একটি মডেল সিদ্ধান্তের সাথে সংযুক্ত সংস্করণ ও তারিখ ব্যবহার করা উচিত।
সুরক্ষা ব্যবস্থার একাধিক স্তর প্রয়োজন
মডেল ও স্থাপনা নিয়ন্ত্রণ-এ অন্তর্ভুক্ত রয়েছে বিপজ্জনক সহায়তা প্রত্যাখ্যান করতে সিস্টেম প্রশিক্ষণ, ইনপুট-আউটপুট শ্রেণীবিভাজক, সন্দেহজনক বহু-ধাপ প্যাটার্নের পর্যবেক্ষণ, হার সীমা, অ্যাকাউন্ট যাচাইকরণ, এবং যাচাইকৃত গবেষকদের জন্য নিয়ন্ত্রিত প্রবেশাধিকার। এই ব্যবস্থাগুলো নৈমিত্তিক অপব্যবহার কমাতে পারে কিন্তু জেইলব্রেক, কাজ বিভাজন, কম-সুরক্ষিত মডেলে প্রবেশাধিকার, বা ওপেন ওয়েট থেকে সুরক্ষা ব্যবস্থা অপসারণের মাধ্যমে এড়ানো যেতে পারে।
মূল্যায়ন-গেটকৃত প্রকাশ পরীক্ষার ফলাফলকে সিদ্ধান্তের সাথে সংযুক্ত করে। ডেভেলপাররা প্রশিক্ষণের সময় পরীক্ষা করতে পারেন, বাইরের মূল্যায়ন নিয়োগ করতে পারেন, হাতিয়ার প্রবেশাধিকার সীমাবদ্ধ করতে পারেন, এবং প্রমাণ একটি সংজ্ঞায়িত সীমারেখা অতিক্রম করলে একটি প্রকাশনা বিলম্বিত করতে পারেন। প্রতিবেদনে অবশিষ্ট অনিশ্চয়তা বর্ণনা করা উচিত, শুধুমাত্র একটি সীমারেখা আনুষ্ঠানিকভাবে অতিক্রান্ত হয়েছিল কিনা তা নয়।
নিউক্লিক-অ্যাসিড সংশ্লেষণ স্ক্রিনিং ডিজিটাল তথ্য থেকে ভৌত উপাদানে সেতু সম্বোধন করে। প্রদানকারীরা ঝুঁকি মানদণ্ডের বিরুদ্ধে গ্রাহক ও সিকোয়েন্স অর্ডার স্ক্রিন করতে পারেন, যথাযথ গোপনীয়তা, আপিল, এবং আন্তর্জাতিক সমন্বয়সহ। স্ক্রিনিং একা যথেষ্ট নয়: যন্ত্রপাতি, রোগজীবাণু, গবেষণাগার, এবং সরবরাহ শৃঙ্খল বিশ্বব্যাপী ভিন্ন।
জনস্বাস্থ্য স্থিতিস্থাপকতা একটি প্রাদুর্ভাব প্রাকৃতিক, দুর্ঘটনাজনিত, বা ইচ্ছাকৃত কিনা তা নির্বিশেষে ক্ষতি কমায়। নজরদারি, দ্রুত নির্ণয়, অন্দর-বায়ু উন্নতি, প্রতিরক্ষামূলক সরঞ্জাম, ভ্যাকসিন প্ল্যাটফর্ম, চিকিৎসা মজুদ, এবং বিশ্বস্ত যোগাযোগ ব্যাপক প্রতিরক্ষা। নিরাপত্তা নীতি যা শুধুমাত্র মডেল প্রত্যাখ্যানের ওপর কেন্দ্রীভূত তা এই বৃহত্তর ব্যবস্থাকে মিস করে। সেই স্থিতিস্থাপকতার পারিবারিক-স্তরের সংস্করণের জন্য — রেসপিরেটর, বায়ু পরিস্রাবণ, এবং বিচ্ছিন্নতা পরিকল্পনা — দেখুন ব্যক্তিগত জৈব-নিরাপত্তার মূল বিষয়।
গবেষণাগার শাসন ও জৈব-নিরাপত্তা কেন্দ্রীয় থেকে যায়। প্রশিক্ষণ, প্রাতিষ্ঠানিক পর্যালোচনা, প্রবেশাধিকার নিয়ন্ত্রণ, ঘটনা প্রতিবেদন, এবং নিরাপত্তা সংস্কৃতি দূষিত ও দুর্ঘটনাজনিত উভয় পথ সম্বোধন করে। এআই শনাক্তকরণ, ওষুধ আবিষ্কার, এবং জৈবিক গবেষণাকে সমর্থন করে প্রতিরক্ষাকেও শক্তিশালী করতে পারে; নিয়ন্ত্রণে যেখানে সম্ভব বৈধ কাজ সংরক্ষণ করা উচিত।
চাঞ্চল্যকরণ ছাড়া কীভাবে যুক্তি করা যায়
চারটি বিবৃতিকে আলাদা করুন। প্রথমত, বর্তমান মডেলগুলো যথেষ্ট জৈবিক তথ্য প্রদান করতে পারে; এটি পর্যবেক্ষিত। দ্বিতীয়ত, কিছু মূল্যায়ন নির্বাচিত প্রক্সি কাজে ব্যবহারিক আপলিফট নির্দেশ করে; এটি সীমাবদ্ধতাসহ উদীয়মান প্রমাণ। তৃতীয়ত, একজন দূষিত অভিনেতা ভবিষ্যতের এআই-কে হাতিয়ার ও উপকরণের সাথে একত্রিত করে একটি বিপর্যয়কর প্রাদুর্ভাব ঘটাতে পারেন; এটি একটি যুক্তিসঙ্গত ঝুঁকি পথ। চতুর্থত, একটি এআই-সৃষ্ট মহামারী আসন্ন; উপলব্ধ প্রমাণ সেই পূর্বাভাস প্রতিষ্ঠা করে না।
জনসাধারণের বিশ্বাসের জন্য পার্থক্যটি গুরুত্বপূর্ণ। অতিরঞ্জন হতাশাবাদকে উৎসাহিত করতে বা সক্ষমতা বিজ্ঞাপন দিতে পারে, যখন খারিজ করা প্রতিরক্ষা বিলম্বিত করতে পারে। প্রতিবেদনে পরীক্ষিত সিস্টেম, সুরক্ষা ব্যবস্থা, বেসলাইন, অংশগ্রহণকারী, শেষবিন্দু, অনিশ্চয়তা, এবং তহবিল বর্ণনা করা উচিত। ক্ষতি সক্ষম করবে এমন কর্মক্ষম বিবরণ প্রকাশ করা উচিত নয়।
ব্যবহারিক উপসংহার
এআই-সহায়ক জৈবিক ঝুঁকি সবচেয়ে সুনির্দিষ্ট গুরুতর-ক্ষতির উদ্বেগগুলোর একটি কারণ উপযোগী বৈজ্ঞানিক সহায়তা ও বিপজ্জনক সহায়তা ওভারল্যাপ করে। প্রমাণ প্রাথমিক “কোনো উল্লেখযোগ্য আপলিফট নেই” ফলাফলের বাইরে চলে গেছে, কিন্তু এটি দেখায় না যে মডেলগুলো একটি বড়-স্কেল আক্রমণের চাহিদাসম্পন্ন ভৌত ও প্রাতিষ্ঠানিক বাধা মুছে ফেলেছে।
যুক্তিসঙ্গত প্রতিক্রিয়া হলো স্তরীভূত ও অভিযোজিত: স্বাধীন আপলিফট গবেষণা অব্যাহত রাখুন, মডেল সক্ষমতাকে প্রয়োগযোগ্য সুরক্ষা ব্যবস্থার সাথে সংযুক্ত করুন, জৈবিক সরবরাহ শৃঙ্খল সুরক্ষিত করুন, এবং জনস্বাস্থ্য শক্তিশালী করুন। সেই ব্যবস্থাগুলো এআই সময়রেখার বিস্তৃত পরিসরজুড়ে মূল্যবান থেকে যায় — এবং এগুলো একটি কোম্পানির নিরাপত্তা স্তরকে জৈবিক ঝুঁকির অবস্থার ওপর একটি রায় হিসেবে ভান না করে।