07 প্রক্রিয়া
সবচেয়ে খারাপ পরিণতির পেছনের প্রক্রিয়াসমূহ
অধ্যায় 02 সাধারণ নিয়ন্ত্রণ-হারানোর প্রক্রিয়া নিয়ে আলোচনা করে। এই অধ্যায় হলো নির্দিষ্ট, চিহ্নিত পথগুলোর নিবন্ধ যা গবেষকরা প্রকৃতপক্ষে অধ্যয়ন করেন—কারণ একটি প্রতিরোধ করে এমন হস্তক্ষেপ অন্যটি প্রতিরোধ নাও করতে পারে।
এটি কেন একটি একক দৃশ্যকল্প নয়
«এআই সবাইকে হত্যা করতে পারে» কথাটি বেশ কয়েকটি কাঠামোগতভাবে ভিন্ন ব্যর্থতা-পদ্ধতিকে একটি একক চিত্রে সংকুচিত করে। সেই সংকোচন একটি শিরোনামের জন্য কার্যকর এবং প্রতিরোধের জন্য অকেজো, কারণ একটি প্রক্রিয়াকে মোকাবিলা করা কারিগরি ও নীতিগত হস্তক্ষেপ অন্যটির জন্য সামান্যই করতে পারে—উদাহরণস্বরূপ, একটি বড় প্রশিক্ষণ-রানের ওপর নিয়ন্ত্রণ নিজে থেকে ইতিমধ্যে-স্থাপিত একটি মডেলের অপব্যবহার প্রতিরোধ করে না। বেশ কয়েকটি বড় ল্যাবের সঙ্গে যুক্ত ব্যক্তিসহ 350 জনেরও বেশি গবেষক ও নির্বাহী 2023 সালে একটি এক-বাক্যের বিবৃতিতে স্বাক্ষর করেছিলেন, যাতে নীতিনির্ধারকদের বিলুপ্তির ঝুঁকিকে একটি বৈশ্বিক অগ্রাধিকার হিসেবে বিবেচনা করার আহ্বান জানানো হয়েছিল। এটি বিশিষ্ট স্বাক্ষরকারীদের একটি অবস্থান নথিভুক্ত করে; এটি ক্ষতির সম্ভাবনা পরিমাপ করে না:
Signatories to the Statement on AI Risk hold that mitigating the risk of extinction from AI should be a global priority alongside pandemics and nuclear war.
safe.ai, Signed statement
তিনটি বিস্তৃত পরিবার
2026 সালের আন্তর্জাতিক এআই নিরাপত্তা প্রতিবেদন তিনটি বিস্তৃত পরিবার ব্যবহার করে। দূরভিসন্ধিমূলক ব্যবহার হলো একজন মানুষ ইচ্ছাকৃতভাবে এআই সক্ষমতাকে ব্যাপক ক্ষতির দিকে পরিচালিত করা—প্রকৌশলকৃত মহামারি, অবকাঠামো আক্রমণ, বা স্বায়ত্তশাসিত অস্ত্র। ত্রুটি-র মধ্যে রয়েছে নির্ভরযোগ্যতার ব্যর্থতা এবং সম্ভাব্য নিয়ন্ত্রণ-হারানোর দৃশ্যকল্প, যেখানে সিস্টেমগুলো কারো নিয়ন্ত্রণের বাইরে পরিচালিত হয়। সিস্টেমিক ঝুঁকি ব্যাপক স্থাপনা এবং প্রাতিষ্ঠানিক পারস্পরিক ক্রিয়ার মাধ্যমে উদ্ভূত হয়, যার মধ্যে রয়েছে কেন্দ্রীকরণ, শ্রম বিঘ্ন এবং ধীরে ধীরে মানব-ক্ষমতাহীনতা। শ্রেণিগুলো ওভারল্যাপ করতে পারে, এবং প্রক্রিয়াভেদে প্রমাণের শক্তি ভিন্ন। প্রতিবেদনের সভাপতি প্রকাশ্যে নিয়ন্ত্রণ হারানোর ওপর জোর দিয়েছেন:
Yoshua Bengio warned that future systems exhibiting self-preservation behavior could create a loss-of-control risk.
AFP, via TechXplore, Secondary coverage
জিওফ্রি হিন্টনও একটি ব্যক্তিগত সম্ভাব্যতা অনুমান দিয়েছেন। এটি অনিশ্চয়তার অধীনে একটি বিশেষজ্ঞের রায়, কোনো পরিমাপকৃত হার নয়:
Geoffrey Hinton said in a December 2024 BBC interview that he put the chance of AI causing human extinction within thirty years at 10–20%.
BBC Radio 4, reported by The Guardian, Secondary coverage
এই অধ্যায় যা করে না
প্রতিটি পাতা নথিভুক্ত প্রমাণকে পূর্বাভাস ও তত্ত্ব থেকে আলাদা করে, পাশাপাশি গবেষকরা যেসব প্রশমন প্রস্তাব করেন তা উল্লেখ করে। কোনোটিই সংশ্লেষণ, শোষণ, বা আক্রমণের খুঁটিনাটি বর্ণনা করে না—সেই তথ্য কোনো পাঠককে নিরাপদ করবে না, এবং তা প্রকাশ করা অবগত প্রস্তুতির জন্য প্রয়োজনীয় নয়। তাৎপর্যপূর্ণ দাবিগুলো কীভাবে শ্রেণিবদ্ধ ও পর্যালোচিত হয়, তার জন্য উৎস-মান দেখুন।