লেবেল নয়, ফাংশন দিয়ে শুরু করুন
একটি স্বায়ত্তশাসিত অস্ত্র সাধারণত এমন একটি সিস্টেম হিসেবে বোঝা হয় যা, একবার সক্রিয় হলে, একজন মানুষ প্রতিটি স্বতন্ত্র আক্রমণ অনুমোদন না করেই লক্ষ্যবস্তু নির্বাচন ও সংযুক্ত করতে পারে। সংজ্ঞাগুলো বিতর্কিত থেকে যায় কারণ স্বায়ত্তশাসন একটি একক সুইচ নয়। মানুষ মিশন এলাকা ও লক্ষ্যবস্তু শ্রেণি বেছে নিতে পারে যখন সফটওয়্যার নেভিগেট করে, একটি বস্তু শনাক্ত করে, কর্ম সুপারিশ করে, বা গুলি চালানোর সঠিক মুহূর্ত সিদ্ধান্ত নেয়।
এই বর্ণালীতে অন্তর্ভুক্ত দীর্ঘস্থায়ী সিস্টেম যেমন প্রতিরক্ষামূলক ইন্টারসেপ্টর, পাশাপাশি নতুন লোইটারিং মিউনিশন (ঘোরাফেরাকারী গোলাবারুদ), ড্রোন ঝাঁক, এআই-সহায়ক লক্ষ্যনির্ধারণ হাতিয়ার, এবং সশস্ত্র স্থল রোবট — এই ম্যানুয়ালের সামরিক মানবাকার ও স্থল রোবট পৃষ্ঠায় জরিপকৃত চাকাযুক্ত, ট্র্যাকযুক্ত, এবং পা-বিশিষ্ট প্ল্যাটফর্ম। ঝুঁকি নির্ভর করে পরিবেশ, লক্ষ্যবস্তু, সময়ের চাপ, পূর্বাভাসযোগ্যতা, যোগাযোগ, এবং ত্রুটির পরিণতির ওপর। আগত গোলাবারুদ আটকানো একটি নিবিড়ভাবে সীমাবদ্ধ সিস্টেম একটি শহরে মানুষ অনুসন্ধানকারী সিস্টেম থেকে ভিন্ন।
এআই-সহায়ক সিদ্ধান্ত সহায়তাও কঠোর পরীক্ষার যোগ্য এমনকি যখন একজন মানুষ আনুষ্ঠানিকভাবে ট্রিগার টানে। যদি একজন অপারেটর তীব্র সময়ের চাপে শত শত মেশিন-উৎপাদিত লক্ষ্যবস্তু পান, অনুমোদন একটি রাবার স্ট্যাম্প হয়ে উঠতে পারে। “মানুষ লুপে” বলার অর্থ সামান্য যদি না ব্যক্তির তথ্য, কর্তৃত্ব, সময়, এবং সিস্টেমকে চ্যালেঞ্জ করার প্রশিক্ষণ থাকে।
কী নথিভুক্ত — এবং কী এখনও বিতর্কিত
লিবিয়ার ওপর ২০২১ সালের একটি জাতিসংঘ বিশেষজ্ঞ প্যানেল প্রতিবেদন পশ্চাদপসরণকারী বাহিনীর বিরুদ্ধে ব্যবহৃত Kargu-2 লোইটারিং মিউনিশন ও অন্যান্য সিস্টেম বর্ণনা করেছিল, উল্লেখ করে যে সিস্টেমগুলো অপারেটর ও মিউনিশনের মধ্যে তথ্য সংযোগ প্রয়োজন ছাড়াই লক্ষ্যবস্তুতে আক্রমণ করার জন্য প্রোগ্রাম করা হয়েছিল (UN লিবিয়া প্রতিবেদন, অনুচ্ছেদ ৬৩)। অংশটি প্রায়ই মানুষের বিরুদ্ধে প্রথম স্বায়ত্তশাসিত-ড্রোন আক্রমণ বলা হয়। তবে, জনসাধারণের প্রতিবেদন চূড়ান্তভাবে প্রতিষ্ঠা করে না যে একটি Kargu-2 স্বাধীনভাবে একজন ব্যক্তিকে নির্বাচন ও হত্যা করেছে। বিশেষজ্ঞরা পরিচালনার মোড ও ফলাফল নিয়ে দ্বিমত পোষণ করেন। এটি একটি প্রাসঙ্গিক প্রেক্ষাপটে স্থাপনার প্রমাণ, একটি নিশ্চিত স্বায়ত্তশাসিত হত্যার প্রমাণ নয়।
সাম্প্রতিক সংঘাতে ব্যাপক ড্রোন ব্যবহার, কম্পিউটার ভিশন, স্বয়ংক্রিয় গোয়েন্দা প্রক্রিয়াকরণ, এবং এআই-সমর্থিত লক্ষ্যবস্তু সুপারিশ দেখা গেছে। জনসাধারণের প্রতিবেদনে প্রায়ই নির্ধারণ করার জন্য যথেষ্ট প্রযুক্তিগত প্রবেশাধিকারের অভাব থাকে কোন মডেল কোন ফাংশন সম্পাদন করেছে বা অপারেটররা কতটা নিয়ন্ত্রণ ধরে রেখেছিল। সামরিক দাবি, বিক্রেতা বিবরণ, এবং সংবাদ বিবরণকে একটি নিশ্চিততায় একীভূত না করে লেবেল করা উচিত।
উন্নয়নের দিক তবুও স্পষ্ট: সশস্ত্র বাহিনী এমন সিস্টেমে বিনিয়োগ করছে যা যোগাযোগ জ্যাম হলে পরিচালিত হতে পারে, সেন্সর তথ্য দ্রুত প্রক্রিয়া করতে পারে, এবং অনেক সস্তা প্ল্যাটফর্ম সমন্বয় করতে পারে। বৃহত্তর স্বায়ত্তশাসন কৌশলগতভাবে আকর্ষণীয় হতে পারে কারণ একটি ধারাবাহিক দূরবর্তী-নিয়ন্ত্রণ লিংক দুর্বল। এটি নিরাপদ নির্ভুলতা বা দ্রুততর, কম দায়বদ্ধ সহিংসতা তৈরি করে কিনা তা নকশা ও মতবাদের ওপর নির্ভর করে।
তিনটি ভিন্ন উত্তেজনা-বৃদ্ধি পথ
গতি উত্তেজনা বৃদ্ধি ঘটে যখন স্বয়ংক্রিয় সতর্কতা, লক্ষ্যনির্ধারণ, বা প্রতিক্রিয়া সিদ্ধান্তের সময় সংকুচিত করে। একটি সংকটে, নেতারা ভয় পেতে পারেন যে অপেক্ষা একজন প্রতিপক্ষের মেশিন-গতির সিস্টেমকে সুবিধা পেতে দেয়। এটি কর্ম পূর্ব-অনুমোদনের চাপ তৈরি করতে পারে। একটি মিথ্যা সেন্সর রিডিং, মডেল ত্রুটি, বা অস্পষ্ট কৌশল মানুষ বোঝার আগেই ছড়িয়ে পড়তে পারে।
স্কেল উত্তেজনা বৃদ্ধি ঘটে যখন স্বায়ত্তশাসন অনেক সিস্টেম সমন্বয় করা বা লক্ষ্যবস্তু তৈরি করা সস্তা করে তোলে। একটি মানব প্রতিষ্ঠান যা সাবধানে কয়েক ডজন সিদ্ধান্ত পর্যালোচনা করতে পারত হাজার হাজারকে অর্থবহভাবে পর্যালোচনা নাও করতে পারে। বৃহত্তর আয়তন প্রতিটি সিস্টেম ব্যক্তিগতভাবে আরও নির্ভুল হলেও দুর্ঘটনাজনিত সংঘর্ষ, বেসামরিক ক্ষতি, এবং প্রতিশোধের দাবি বাড়াতে পারে।
উপলব্ধি উত্তেজনা বৃদ্ধি ঘটে যখন রাষ্ট্রগুলো একজন প্রতিপক্ষের সিস্টেম, মতবাদ, বা নিয়ন্ত্রণের স্তর ভুল পড়ে। গোপনীয়তা জানা কঠিন করে তোলে একটি অস্ত্র প্রতিরক্ষামূলক কিনা, একটি কর্ম ইচ্ছাকৃত ছিল কিনা, বা একজন মানুষ এটি থামাতে পারে কিনা। একটি এআই-উৎপাদিত সুপারিশ একপক্ষের কাছে বস্তুনিষ্ঠ দেখাতে পারে কিন্তু অন্যপক্ষের কাছে আক্রমণাত্মক।
এগুলো যুক্তিসঙ্গত প্রক্রিয়া, প্রমাণ নয় যে এআই অনিবার্যভাবে একটি যুদ্ধ শুরু করবে। স্বয়ংক্রিয়করণ সতর্কতা উন্নত করতে, অপারেটর ওভারলোড কমাতে, হুমকি আটকাতে, এবং উত্তেজনা হ্রাসকে সমর্থন করতেও পারে। ফলাফল পরীক্ষা, যোগাযোগ, মতবাদ, এবং ভাগাভাগি সীমাবদ্ধতার ওপর নির্ভর করে।
পারমাণবিক সিস্টেমের উচ্চতর মান প্রাপ্য
এআইকে পারমাণবিক কমান্ড, নিয়ন্ত্রণ, যোগাযোগ, বা প্রাথমিক সতর্কতার সাথে সংযুক্ত করা ব্যতিক্রমী ঝুঁকি বাড়ায়। মেশিন লার্নিং বৃহৎ সেন্সর স্ট্রিম বিশ্লেষণে সাহায্য করতে পারে, কিন্তু অস্বচ্ছ ত্রুটি, প্রতিকূল ম্যানিপুলেশন, এবং বণ্টন পরিবর্তন বিপজ্জনক যেখানে মিথ্যা আত্মবিশ্বাস বিপর্যয়কর হতে পারে। ঝুঁকি অগত্যা একটি এআই স্বাধীনভাবে “পারমাণবিক অস্ত্র উৎক্ষেপণ” নয়। এতে অন্তর্ভুক্ত নেতারা মিনিটের মধ্যে সংকুচিত, দুর্বলভাবে ক্যালিব্রেটেড পরামর্শ পাচ্ছেন।
তাই পারমাণবিক-ব্যবহার সিদ্ধান্তে মানবিক দায়িত্ব বজায় রাখা প্রতীকীবাদের চেয়ে বেশি। সিস্টেমগুলোতে অনিশ্চয়তা ও উৎসতা প্রদান করা উচিত, স্বাধীন চ্যানেল সংরক্ষণ করা উচিত, স্পুফিং প্রতিরোধ করা উচিত, এবং নেতাদের যাচাই করার সময় দেওয়া উচিত। কোনো একক মডেল আউটপুট একটি নির্ধারক সূচক হয়ে ওঠা উচিত নয়। অনুশীলনে এআই ব্যর্থতা ও ইচ্ছাকৃত ম্যানিপুলেশন অন্তর্ভুক্ত করা উচিত, শুধুমাত্র যন্ত্রপাতি ভাঙ্গন নয়।
দায়বদ্ধতা অ্যালগরিদমে শেষ হতে পারে না
আন্তর্জাতিক মানবিক আইন প্রযুক্তি নির্বিশেষে প্রযোজ্য। পার্থক্যকরণ, আনুপাতিকতা, এবং আক্রমণে সতর্কতা মানবিক ও রাষ্ট্রীয় দায়িত্ব থেকে যায়। তবুও স্বায়ত্তশাসন তদন্তকে জটিল করে তোলে: একটি ক্ষতিকর ফলাফল প্রশিক্ষণ তথ্য, সেন্সর সীমাবদ্ধতা, একজন কমান্ডারের প্যারামিটার, একটি সফটওয়্যার আপডেট, বা অপারেটর অপব্যবহার জড়িত থাকতে পারে।
সেই জটিলতা একটি দায়বদ্ধতার ফাঁকের অজুহাত নয়। রাষ্ট্রগুলো ট্রেসযোগ্য লগ, আইনি পর্যালোচনা, অডিটযোগ্য পরীক্ষা, স্পষ্ট কমান্ড দায়িত্ব, এবং একটি সিস্টেম কোথায় পরিচালিত হতে পারে তার সীমা প্রয়োজন করতে পারে। ডেভেলপার ও কমান্ডারদের যুক্তিসঙ্গত ব্যর্থতা মোড ও বন্ধ করার শর্ত সংজ্ঞায়িত করা উচিত। পর্যালোচনার জন্য খুব অপ্রত্যাশিত একটি সিস্টেম শুধুমাত্র দায়িত্ব বিতরণ করা হয়েছে বলে স্থাপন করা উচিত নয়।
পক্ষপাত ও প্রেক্ষাপটও গুরুত্বপূর্ণ। পরিষ্কার চিত্রে পরীক্ষিত একটি ভিশন সিস্টেম আবহাওয়া, ধ্বংসাবশেষ, ছদ্মবেশ, বা অপরিচিত জনগোষ্ঠীতে ব্যর্থ হতে পারে। প্রতিপক্ষরা ইচ্ছাকৃতভাবে সেন্সর প্রতারণা করতে পারে। একটি পরীক্ষা সেটজুড়ে গড় নির্ভুলতা একটি নির্দিষ্ট লক্ষ্যবস্তু শ্রেণি ও পরিবেশের জন্য সিস্টেমটি নির্ভরযোগ্য কিনা তার উত্তর দেয় না।
আন্তর্জাতিক নীতি পরিদৃশ্য
রাষ্ট্রগুলো একটি বাধ্যতামূলক হাতিয়ারে সম্মত না হয়েই বছরের পর বছর নির্দিষ্ট প্রচলিত অস্ত্র কনভেনশনের মধ্যে প্রাণঘাতী স্বায়ত্তশাসিত অস্ত্র নিয়ে বিতর্ক করেছে। মার্কিন যুক্তরাষ্ট্র ২০২৩ সালে কৃত্রিম বুদ্ধিমত্তা ও স্বায়ত্তশাসনের দায়িত্বশীল সামরিক ব্যবহার সম্পর্কিত একটি অ-বাধ্যতামূলক রাজনৈতিক ঘোষণা চালু করেছিল, যা অনুমোদনকারীদের সিনিয়র তদারকি, কঠোর পরীক্ষা, এবং অপ্রত্যাশিতভাবে আচরণ করা সিস্টেমকে বিচ্ছিন্ন করার সক্ষমতাসহ নীতির প্রতি প্রতিশ্রুতিবদ্ধ করে (US স্টেট ডিপার্টমেন্ট ঘোষণা)।
ঘোষণাটি নিয়ম ও ব্যবহারিক সহযোগিতা তৈরি করতে পারে, কিন্তু অনুমোদন প্রয়োগ নয়। সুশীল সমাজ ও রাষ্ট্রীয় প্রস্তাব অর্থবহ মানবিক নিয়ন্ত্রণ ছাড়া মানুষকে লক্ষ্যবস্তু করা সিস্টেম নিষিদ্ধ করা থেকে নির্দিষ্ট ফাংশন নিয়ন্ত্রণ করা ও ইতিবাচক বাধ্যবাধকতা প্রয়োজন করা পর্যন্ত বিস্তৃত। সংজ্ঞা, যাচাইকরণ, এবং সামরিক সুবিধা নিয়ে মতভেদ অব্যাহত থাকে।
উপযোগী নিকট-মেয়াদী ব্যবস্থাগুলো একটি ব্যাপক চুক্তির জন্য অপেক্ষা করতে হয় না। রাষ্ট্রগুলো ঘটনার তথ্য বিনিময় করতে পারে, স্বায়ত্তশাসিত পারমাণবিক-উৎক্ষেপণ সিদ্ধান্ত নিষিদ্ধ করতে পারে, অস্ত্র পর্যালোচনা প্রয়োজন করতে পারে, পরীক্ষার মান নির্ধারণ করতে পারে, ব্যক্তি-লক্ষ্যনির্ধারণের ওপর মানবিক নিয়ন্ত্রণ রক্ষা করতে পারে, এবং এআই-সম্পর্কিত দুর্ঘটনার জন্য যোগাযোগ চ্যানেল প্রতিষ্ঠা করতে পারে।
অর্থবহ মানব নিয়ন্ত্রণের জন্য কী প্রয়োজন
শব্দগুচ্ছটি কর্মক্ষম হওয়া উচিত। একজন মানুষের প্রয়োজন একটি বোধগম্য উদ্দেশ্য ও লক্ষ্যবস্তু সীমানা; সিস্টেমের আত্মবিশ্বাস ও সীমাবদ্ধতা সম্পর্কে নির্ভরযোগ্য তথ্য; হস্তক্ষেপের জন্য যথেষ্ট সময়; একটি ব্যবহারযোগ্য বন্ধ প্রক্রিয়া; এবং প্রত্যাখ্যান করার আইনি কর্তৃত্ব। ইন্টারফেসগুলোতে দ্রুত নিশ্চিতকরণকে উৎসাহিত করার বদলে স্বয়ংক্রিয়করণ পক্ষপাত প্রতিরোধ করা উচিত। কর্মের পরে, রেকর্ডে তদন্ত ও প্রতিকার সমর্থন করা উচিত। এই ম্যানুয়ালের সহচর পৃষ্ঠা স্থল রোবট, মানবাকার, এবং যুদ্ধের আইন পরীক্ষা করে যে এই মানবিক-নিয়ন্ত্রণ প্রয়োজনীয়তা প্রকৃতপক্ষে কীভাবে বাস্তবায়িত হচ্ছে — বা হচ্ছে না — বর্তমানে ক্ষেত্রে থাকা সশস্ত্র স্থল রোবটে।
নিয়ন্ত্রণ একটি সংঘর্ষের আগেও শুরু হয়। রাজনৈতিক নেতারা ক্রয় ও মতবাদ সিদ্ধান্ত নেন; কমান্ডাররা প্যারামিটার নির্ধারণ করেন; প্রকৌশলীরা তথ্য ও পরীক্ষা নির্বাচন করেন। শুধুমাত্র চূড়ান্ত বোতাম চাপার ওপর মনোযোগ দেওয়া এই গুরুত্বপূর্ণ পছন্দগুলো উপেক্ষা করে।
একটি পরিমিত উপসংহার
অস্ত্রে স্বায়ত্তশাসন ইতিমধ্যে একটি নীতি ও যুদ্ধক্ষেত্র বাস্তবতা, কিন্তু নির্দিষ্ট সংঘর্ষ সম্পর্কে জনসাধারণের প্রমাণ প্রায়ই অসম্পূর্ণ। Kargu-2 প্রতিবেদনকে একটি প্রমাণিত স্বায়ত্তশাসিত হত্যায় স্ফীত করা উচিত নয়, এবং তত্ত্বাবধানকৃত লক্ষ্যনির্ধারণকে সম্পূর্ণ স্বাধীন যুদ্ধ হিসেবে ভুল লেবেল করা উচিত নয়।
বিপর্যয়কর উদ্বেগ যুক্তিসঙ্গত পথের ওপর নির্ভর করে: দ্রুততর সিদ্ধান্ত, ব্যাপক সমন্বয়, ভঙ্গুর মানবিক পর্যালোচনা, এবং কৌশলগত সতর্কতা সিস্টেমের সাথে মিথস্ক্রিয়া। কোনোটিই উত্তেজনা বৃদ্ধিকে অনিবার্য করে না। শক্তিশালী মানবিক কর্তৃত্ব, অডিটযোগ্য নকশা, আইনি দায়বদ্ধতা, ভাগাভাগি নিয়ম, এবং পারমাণবিক ও ব্যক্তি-লক্ষ্যনির্ধারণ ফাংশনের চারপাশে স্পষ্ট সীমা প্রমাণ বিকশিত হওয়ার সময় ঝুঁকি কমাতে পারে।