প্রকৌশলীকৃত মহামারী ও জৈব-অস্ত্র ঝুঁকি এআই-বায়ো আপলিফট গবেষণা কী দেখায়, কী দেখায় না, এবং তথ্য সুরক্ষা ব্যবস্থা প্রকৃত জৈব-প্রতিরক্ষার সাথে কীভাবে সংযুক্ত, Anthropic-এর ২০২৫ সালের ASL-3 আহ্বানসহ।
উৎস-যাচাইকৃত 5 min
07 প্রক্রিয়া
সবচেয়ে খারাপ পরিণতির পেছনের প্রক্রিয়াসমূহ
অধ্যায় 02 সাধারণ নিয়ন্ত্রণ-হারানোর প্রক্রিয়া নিয়ে আলোচনা করে। এই অধ্যায় হলো নির্দিষ্ট, চিহ্নিত পথগুলোর নিবন্ধ যা গবেষকরা প্রকৃতপক্ষে অধ্যয়ন করেন—কারণ একটি প্রতিরোধ করে এমন হস্তক্ষেপ অন্যটি প্রতিরোধ নাও করতে পারে।
এটি কেন একটি একক দৃশ্যকল্প নয়
«এআই সবাইকে হত্যা করতে পারে» কথাটি বেশ কয়েকটি কাঠামোগতভাবে ভিন্ন ব্যর্থতা-পদ্ধতিকে একটি একক চিত্রে সংকুচিত করে। সেই সংকোচন একটি শিরোনামের জন্য কার্যকর এবং প্রতিরোধের জন্য অকেজো, কারণ একটি প্রক্রিয়াকে মোকাবিলা করা কারিগরি ও নীতিগত হস্তক্ষেপ অন্যটির জন্য সামান্যই করতে পারে—উদাহরণস্বরূপ, একটি বড় প্রশিক্ষণ-রানের ওপর নিয়ন্ত্রণ নিজে থেকে ইতিমধ্যে-স্থাপিত একটি মডেলের অপব্যবহার প্রতিরোধ করে না। বেশ কয়েকটি বড় ল্যাবের সঙ্গে যুক্ত ব্যক্তিসহ 350 জনেরও বেশি গবেষক ও নির্বাহী 2023 সালে একটি এক-বাক্যের বিবৃতিতে স্বাক্ষর করেছিলেন, যাতে নীতিনির্ধারকদের বিলুপ্তির ঝুঁকিকে একটি বৈশ্বিক অগ্রাধিকার হিসেবে বিবেচনা করার আহ্বান জানানো হয়েছিল। এটি বিশিষ্ট স্বাক্ষরকারীদের একটি অবস্থান নথিভুক্ত করে; এটি ক্ষতির সম্ভাবনা পরিমাপ করে না:
Signatories to the Statement on AI Risk hold that mitigating the risk of extinction from AI should be a global priority alongside pandemics and nuclear war.
safe.ai, Signed statement
তিনটি বিস্তৃত পরিবার
2026 সালের আন্তর্জাতিক এআই নিরাপত্তা প্রতিবেদন তিনটি বিস্তৃত পরিবার ব্যবহার করে। দূরভিসন্ধিমূলক ব্যবহার হলো একজন মানুষ ইচ্ছাকৃতভাবে এআই সক্ষমতাকে ব্যাপক ক্ষতির দিকে পরিচালিত করা—প্রকৌশলকৃত মহামারি, অবকাঠামো আক্রমণ, বা স্বায়ত্তশাসিত অস্ত্র। ত্রুটি-র মধ্যে রয়েছে নির্ভরযোগ্যতার ব্যর্থতা এবং সম্ভাব্য নিয়ন্ত্রণ-হারানোর দৃশ্যকল্প, যেখানে সিস্টেমগুলো কারো নিয়ন্ত্রণের বাইরে পরিচালিত হয়। সিস্টেমিক ঝুঁকি ব্যাপক স্থাপনা এবং প্রাতিষ্ঠানিক পারস্পরিক ক্রিয়ার মাধ্যমে উদ্ভূত হয়, যার মধ্যে রয়েছে কেন্দ্রীকরণ, শ্রম বিঘ্ন এবং ধীরে ধীরে মানব-ক্ষমতাহীনতা। শ্রেণিগুলো ওভারল্যাপ করতে পারে, এবং প্রক্রিয়াভেদে প্রমাণের শক্তি ভিন্ন। প্রতিবেদনের সভাপতি প্রকাশ্যে নিয়ন্ত্রণ হারানোর ওপর জোর দিয়েছেন:
Yoshua Bengio warned that future systems exhibiting self-preservation behavior could create a loss-of-control risk.
AFP, via TechXplore, Secondary coverage
জিওফ্রি হিন্টনও একটি ব্যক্তিগত সম্ভাব্যতা অনুমান দিয়েছেন। এটি অনিশ্চয়তার অধীনে একটি বিশেষজ্ঞের রায়, কোনো পরিমাপকৃত হার নয়:
Geoffrey Hinton said in a December 2024 BBC interview that he put the chance of AI causing human extinction within thirty years at 10–20%.
BBC Radio 4, reported by The Guardian, Secondary coverage
এই অধ্যায় যা করে না
সম্পাদকীয় সীমারেখা
প্রতিটি পাতা নথিভুক্ত প্রমাণকে পূর্বাভাস ও তত্ত্ব থেকে আলাদা করে, পাশাপাশি গবেষকরা যেসব প্রশমন প্রস্তাব করেন তা উল্লেখ করে। কোনোটিই সংশ্লেষণ, শোষণ, বা আক্রমণের খুঁটিনাটি বর্ণনা করে না—সেই তথ্য কোনো পাঠককে নিরাপদ করবে না, এবং তা প্রকাশ করা অবগত প্রস্তুতির জন্য প্রয়োজনীয় নয়। তাৎপর্যপূর্ণ দাবিগুলো কীভাবে শ্রেণিবদ্ধ ও পর্যালোচিত হয়, তার জন্য উৎস-মান দেখুন।
এই অধ্যায়ে
অবকাঠামোতে এআই-সক্ষম সাইবার আক্রমণ সাইবার অপারেশনে এআই কী পরিবর্তন করছে, কেন অবকাঠামো উন্মুক্ত, এবং কেন আক্রমণ-প্রতিরক্ষা ভারসাম্য অনিশ্চিত, ২০২৫ সালের একটি এআই-গুপ্তচরবৃত্তি প্রতিবেদনসহ।
উৎস-যাচাইকৃত 5 min
স্বায়ত্তশাসিত অস্ত্র ও সামরিক উত্তেজনা বৃদ্ধি অস্ত্রে স্বায়ত্তশাসন কী বোঝায়, সংঘাতে কী নথিভুক্ত হয়েছে, এবং এআই কীভাবে উত্তেজনা ও দায়বদ্ধতা পরিবর্তন করতে পারে, লিবিয়ার বিতর্কিত Kargu-2 কেসসহ।
উৎস-যাচাইকৃত 6 min
ধীর ক্ষমতাহীনতা একটি তাত্ত্বিক পথ যেখানে এআই-এর ওপর সঞ্চিত নির্ভরতা কোনো নাটকীয় দখল ছাড়াই মানব নিয়ন্ত্রণকে ক্ষয় করে, অর্থনীতি, রাষ্ট্র, এবং সংস্কৃতিজুড়ে আনুষ্ঠানিকীকৃত।
উৎস-যাচাইকৃত 6 min
পুরস্কার-হ্যাকিং ও স্পেসিফিকেশন গেমিং অপ্টিমাইজাররা কীভাবে অসম্পূর্ণ উদ্দেশ্য শোষণ করে, কী পর্যবেক্ষিত হয়েছে, এবং কেন বর্তমান উদাহরণগুলো নিজেরাই ভবিষ্যতের নিয়ন্ত্রণ-ক্ষয় প্রমাণ করে না।
উৎস-যাচাইকৃত 6 min
গণ-প্ররোচনা ও জ্ঞানতাত্ত্বিক ম্যানিপুলেশন এআই প্ররোচনা সম্পর্কে পরীক্ষাগুলো কী দেখায়, বাস্তব-জগতের প্রমাণ এখনও কী প্রতিষ্ঠা করে না, এবং স্কেল ঝুঁকি কীভাবে পরিবর্তন করতে পারে, ৭৬,৯৭৭-জনের ২০২৬ গবেষণা অনুযায়ী।
উৎস-যাচাইকৃত 5 min
বহু-মেরু ও বহু-এজেন্ট বিপর্যয়কর গতিবিদ্যা প্রতিটি অংশগ্রহণকারী বিপর্যয় এড়াতে পছন্দ করলেও রাষ্ট্র, কোম্পানি, এবং স্বায়ত্তশাসিত এআই এজেন্টের মধ্যে প্রতিযোগিতা কীভাবে বিপর্যয়কর ফলাফল তৈরি করতে পারে।
উৎস-যাচাইকৃত 6 min
এআই ঝুঁকি অনুমান ও বিশেষজ্ঞ মতভেদ ঐকমত্য তৈরি না করে বা অনিশ্চয়তা খারিজ না করে জরিপ, পূর্বাভাস, এবং সম্ভাব্যতা অনুমান কীভাবে ব্যাখ্যা করবেন, ২,৭৭৮-জনের একটি জরিপের ভিত্তিতে।
উৎস-যাচাইকৃত 6 min
এআই, পারমাণবিক কমান্ড, এবং সংকট স্থিতিশীলতা লঞ্চ কর্তৃত্ব ছাড়াও এআই সিদ্ধান্ত সহায়তা কীভাবে পারমাণবিক সংকট প্রভাবিত করতে পারে, এবং কোন সুরক্ষা ব্যবস্থা উত্তেজনা-বৃদ্ধির ঝুঁকি কমায়, স্বয়ংক্রিয়করণ পক্ষপাতসহ।
উৎস-যাচাইকৃত 6 min
প্রতারণা, স্যান্ডব্যাগিং, স্ব-প্রতিলিপন, এবং এক্সফিল্ট্রেশন চারটি স্বতন্ত্র ফ্রন্টিয়ার-মডেল মূল্যায়ন কী পরীক্ষা করে, পরীক্ষাগারগুলো কী পর্যবেক্ষণ করেছে, এবং কেন কোনোটিই একা বিপর্যয়কর নিয়ন্ত্রণ-ক্ষয় প্রদর্শন করে না।
উৎস-যাচাইকৃত 6 min
খাদ্য ব্যবস্থার ক্যাসকেড ব্যর্থতা প্রায় প্রতিটি বিলুপ্তি-সংলগ্ন দৃশ্যকল্প খাদ্যের মধ্য দিয়ে যায়, সরাসরি সহিংসতা নয়। খাদ্য ব্যবস্থা কীভাবে ক্যাসকেডে ব্যর্থ হয়, এবং প্রকৃতপক্ষে এটি কী ভাঙবে।
উৎস-যাচাইকৃত 5 min
অবকাঠামোগত ভঙ্গুরতা ও একক ব্যর্থতা বিন্দু আধুনিক জীবন কতটা এমন উপাদানের ওপর নির্ভর করে যা প্রতিস্থাপন করতে দিন, মাস, বা বছর লাগে — এবং কেন প্রতিটি বিপর্যয়কর দৃশ্যকল্প একই স্তরের ওপর কাজ করে।
উৎস-যাচাইকৃত 5 min