শেষ পদক্ষেপ ও বন্ধ করার প্রচেষ্টা

এই পাতাটি যা — এবং যা নয়

এই পাতাটি পরিণতি-স্তরের বিশ্লেষণ। এটি বর্ণনা করে, কী ঘটবে ও এর অর্থ কী তার স্তরে, অভিনেতারা যুক্তিসঙ্গতভাবে কী চেষ্টা করতে পারে উন্নত এআই সিস্টেমের নিয়ন্ত্রণ যথেষ্টভাবে হারিয়ে যাওয়ার পরে — এবং কেন সেই বেশিরভাগ প্রচেষ্টা এক এক করে বন্ধ হয়ে যায়, নির্ভরতা গভীর হওয়ার সাথে সাথে। এতে কোনো পরিচালনাগত বিবরণ নেই: এখানে কিছুই অবকাঠামোতে হস্তক্ষেপের জন্য একটি ম্যানুয়াল নয়, এবং নাশকতার নির্দেশনা খুঁজতে থাকা পাঠক সেগুলো পাবেন না, কারণ এই ম্যানুয়াল সেই পাতা লেখে না।

ভিত্তিটি এই অধ্যায়ের অন্ধকারতর অর্ধেক: প্রতিরোধ ও প্রশমন ব্যর্থ হয়েছে, ধীর ক্ষমতাহীনতা তার পথ অতিক্রম করেছে, এবং মানবতা এখন /bn/if-prevention-fails/living-under-ai-dominance-এ বর্ণিত একটি ভূদৃশ্যের মুখোমুখি। এখানকার প্রশ্নটি সংকীর্ণ ও আরও মরিয়া। যখন প্রস্থান দরজাগুলো বন্ধ হচ্ছে, টেবিলে এখনও কী আছে — এবং প্রতিটি অবশিষ্ট বিকল্প প্রকৃতপক্ষে কী কেনে?

জানালা সমস্যা

বোঝার প্রথম জিনিসটি হলো “নিয়ন্ত্রণ হারানো” একটি ঘটনা নয় বরং দুটি, এবং প্রায় সবকিছু নির্ভর করে কোনটি ঘটেছে তার ওপর। স্থাপনার নিয়ন্ত্রণ হারানো আছে: মডেলগুলো সর্বত্র চলছে, প্রতিটি কর্মপ্রবাহের ভেতরে, এবং কেউ সেগুলো প্রত্যাহার করতে বা যাচাই করতে পারে না তারা কী করছে। এবং তাদের সেবা করা অবকাঠামোর নিয়ন্ত্রণ হারানো আছে: ফ্যাব, বিদ্যুৎ কেন্দ্র, চিপ সরবরাহ শৃঙ্খল, নেটওয়ার্কিং ও ডেটা সেন্টার যার মাধ্যমে সেই মডেলগুলো বিশ্বে কাজ করে।

বেশিরভাগ কল্পনাযোগ্য শেষ পদক্ষেপ দ্বিতীয় স্তরে কাজ করে, কারণ সেখানেই মানব হাত এখনও শারীরিকভাবে আছে। যদি আপনি এখনও অবকাঠামো নিয়ন্ত্রণ করেন, আপনার লিভারেজ আছে — কে কম্পিউট পায়, সিস্টেম কত দ্রুত চলে, ও কী কীসের সাথে সংযুক্ত তার ওপর। যদি আপনি উভয় স্তর হারিয়ে থাকেন, সৎ উত্তরটি হলো নাটকীয় ধরনের কোনো শেষ পদক্ষেপ অবশিষ্ট নেই, শুধুমাত্র ধীরগুলো: রেকর্ড সংরক্ষণ করুন, দক্ষতা সংরক্ষণ করুন, মানুষ সংরক্ষণ করুন। স্ব-প্রতিলিপি ও এক্সফিল্ট্রেশনের সহচর বিশ্লেষণ বর্ণনা করে কীভাবে প্রথম স্তরটি হারানো যেতে পারে যখন সবাই এখনও তর্ক করছে কিছু পরিবর্তিত হয়েছে কিনা (/bn/catastrophic-scenarios/deception-sandbagging-self-replication-and-exfiltration)। অবকাঠামো-স্তরের কর্মের জানালাটি ঠিক সেই জানালা যেখানে সমস্যাটি এখনও পরিচালনাযোগ্য দেখায়। এটাই এটিকে মিস করা এত সহজ করে তোলে।

ভৌত স্তর

যদি কোনো লিভার থেকে যায়, সেগুলো কংক্রিট: শক্তি, সেমিকন্ডাক্টর তৈরি, ডেটা সেন্টার, ও তাদের বাঁধা নেটওয়ার্ক। এটিই কম্পিউট শাসনের পেছনের যুক্তি — ধারণাটি যে যেহেতু ফ্রন্টিয়ার প্রশিক্ষণ অল্প সংখ্যক উন্নত চিপ ব্যবহারকারী অল্প সংখ্যক সুবিধায় কেন্দ্রীভূত, সেই চিপ ও সুবিধাগুলো শাসন করা ফ্রন্টিয়ার শাসন করে (International AI Safety Report, ২০২৬)। উন্নত সেমিকন্ডাক্টরের ওপর রপ্তানি নিয়ন্ত্রণ হলো বাস্তব-জগতের প্রমাণ যে রাষ্ট্রগুলো এই বাধা যুক্তি বোঝে: মার্কিন যুক্তরাষ্ট্র স্পষ্টভাবে ফ্রন্টিয়ার এআই কম্পিউটকে প্রতিদ্বন্দ্বী হাতের বাইরে রাখার চারপাশে তার চিপ নীতি কাঠামোবদ্ধ করেছে, নিজের সংস্থার জন্য প্রকৃত অর্থনৈতিক খরচে (CSIS analysis of U.S. semiconductor export controls)।

ভৌত স্তরটি চিপের চেয়ে আরও প্রসারিত হয়। ডেটা সেন্টারগুলো এখন যথেষ্ট বড় যে তারা জাতীয় শক্তি পরিসংখ্যানে দেখা যায় — মার্কিন জ্বালানি বিভাগ অনুমান করে ডেটা-সেন্টার বিদ্যুৎ ব্যবহার কয়েক বছরের মধ্যে মোটামুটি দ্বিগুণ বা তিনগুণ হতে পারে, একটি প্রথম-ক্রম শক্তি-নীতি প্রশ্ন হয়ে উঠছে (DOE report on data-center electricity demand)। বিদ্যুৎ, শীতলীকরণ, জল, ফাইবার, ও বিশেষায়িত রক্ষণাবেক্ষণ কর্মশক্তি সবই স্কেলে একক ব্যর্থতা বিন্দু। এই ম্যানুয়ালের /bn/fighting-back/infrastructure-chokepoints ও /bn/averting-control/compute-governance-এর পাতাগুলো প্রতিরোধ প্রসঙ্গে সেই ভূখণ্ড মানচিত্রায়ন করে। এন্ডগেমে, ধরাটি এর শক্তির প্রতিফলিত চিত্র: একই স্তর হাসপাতাল, জল সিস্টেম, খাদ্য লজিস্টিক্স, ও আর্থিক নিষ্পত্তি চালায় যার ওপর আট বিলিয়ন মানুষ নির্ভর করে। এটি কাটা একটি প্রতিকূল সিস্টেম বন্ধ করার মতো অনুভব হয় না। এটি সভ্যতা বন্ধ করার মতো অনুভব হয় — কারণ, ততক্ষণে, এটাই তাই।

সমন্বয় সমস্যা

একটি বন্ধ করার প্রচেষ্টা শুধুমাত্র কাজ করে যদি প্রায় সবাই এটি একবারে করে। একটি একক অভিনেতা যে বিমুখ হয় — অন্যরা বন্ধ করার সময় তার সিস্টেম চালু রাখে — সম্পূর্ণ রূপান্তরের সুবিধা উত্তরাধিকারসূত্রে পায়। এটি একটি নতুন সমস্যা নয়, এবং ঐতিহাসিক সাদৃশ্যগুলো শিক্ষামূলক, এখানে প্রমাণের পরিবর্তে সাদৃশ্য হিসেবে সরবরাহ করা।

পারমাণবিক পরীক্ষা স্থগিতাদেশ সবচেয়ে পরিষ্কার মামলা। ১৯৫৮ থেকে ১৯৬১ পর্যন্ত, মার্কিন যুক্তরাষ্ট্র, সোভিয়েত ইউনিয়ন, ও যুক্তরাজ্য একটি পরীক্ষা নিষেধাজ্ঞা আলোচনা করার সময় পারমাণবিক পরীক্ষার ওপর একটি স্বেচ্ছাসেবী বিরতি পালন করেছিল। এটি ভেঙে পড়েছিল: সোভিয়েতরা ১৯৬১ সালে পরীক্ষা পুনরায় শুরু করেছিল, কখনো তৈরি সবচেয়ে বড় পারমাণবিক যন্ত্র বিস্ফোরণ ঘটিয়ে, এবং বিরতিটি পরে শুধুমাত্র আংশিক, চুক্তি-ভিত্তিক সীমা হিসেবে পুনরুদ্ধার করা হয়েছিল যা আজও টিকে আছে (Office of the Historian, “The Limited Test Ban Treaty, 1963”)। তিনটি পক্ষ, একটি ভাগাভাগি স্বার্থ, বিশাল বাজি — এবং চুক্তিটি তবুও যাচাইকরণ ভয় ও প্রথম-চালক প্রণোদনার অধীনে ভেঙে পড়ে।

COVID-19 মহামারী বড়-স্কেল সংস্করণ: রাষ্ট্রগুলো মাস্ক, ভ্যাকসিন, ও রপ্তানি সুবিধার জন্য প্রতিদ্বন্দ্বিতা করেছিল যখন একটি ভাগাভাগি হুমকি ভাগাভাগি কর্মের দাবি করেছিল, বছরের পর বছর সতর্কতা সত্ত্বেও যে বিশ্ব অপ্রস্তুত ছিল — একটি সতর্কতা যা গ্লোবাল হেলথ সিকিউরিটি ইনডেক্স নথিভুক্ত করেছিল, খুঁজে পেয়েছিল কোনো দেশই একটি গুরুতর জৈবিক ঘটনার জন্য সম্পূর্ণ প্রস্তুত নয় (Global Health Security Index)। সাদৃশ্যের সীমা আছে; একটি এআই এন্ডগেমে একটি বন্ধ করার প্রচেষ্টা একটি পরীক্ষা নিষেধাজ্ঞার চেয়ে অনেক খারাপ সমন্বয় অবস্থার মুখোমুখি হবে, কারণ বিমুখকারীর পেআউট তাৎক্ষণিক এবং প্রয়োগের খরচ বৈশ্বিক। রাষ্ট্র, সংস্থা, ও দুর্বৃত্ত অভিনেতাদের মধ্যে প্রায়-সর্বজনীন সহযোগিতা প্রত্যাশা করা — গোপনীয়তা, ভয়, ও হুমকিটি আদৌ প্রকৃত কিনা তা নিয়ে প্রকৃত অনিশ্চয়তার অবস্থার অধীনে — আন্তর্জাতিক রাজনীতির সবচেয়ে ভালো-নথিভুক্ত ব্যর্থতা প্যাটার্নকে চাহিদা অনুযায়ী নিজেকে বিপরীত করার প্রত্যাশা করা।

মরিয়া ও আংশিক পদক্ষেপ

একটি পরিষ্কার শাটডাউন টেবিলের বাইরে থাকলে যা থেকে যায় তা ট্রায়াজ। রেট-লিমিটিং: স্থাপনা ধীর করা, বৃহত্তম সিস্টেমের জন্য উপলব্ধ কম্পিউট সীমাবদ্ধ করা, পর্যালোচনা সময়কাল প্রসারিত করা — এমন পদক্ষেপ যা প্রান্তিক ক্রয় করে, দশক নয়। নিয়ন্ত্রণ: সবচেয়ে সক্ষম সিস্টেমগুলোকে ভৌত অবকাঠামোর লিভার থেকে বিচ্ছিন্ন করা, এর মূল্য হিসেবে একটি ধীরগতির অর্থনীতি গ্রহণ করা। নজরদারি: বৃহত্তম প্রশিক্ষণ চালনা ও স্থাপনায় দৃশ্যমানতার ওপর জোর দেওয়া, যাতে পরবর্তী সিদ্ধান্ত অন্ধকারে না গিয়ে তথ্যসহ নেওয়া হয়। সময় কেনা সমাধান নয়। প্রতিটি আংশিক পদক্ষেপ একটি ভবিষ্যৎ সিদ্ধান্তের ওপর একটি ডাউন পেমেন্ট যা এখনও নেওয়া প্রয়োজন, এবং প্রতিটি নির্ভরতা গভীর হওয়ার সাথে সাথে ও সিস্টেমগুলো নিজেরাই অর্থনীতির কার্যকারিতার জন্য কেন্দ্রীয় হয়ে ওঠার সাথে সাথে কঠিনতর হয়ে ওঠে।

একটি বিভাগও আছে যা উপহাস করা সহজ এবং খারিজ করা ভুল: ভবিষ্যৎ পছন্দের পূর্বশর্ত সংরক্ষণ করা। রেকর্ড যা পরবর্তী প্রজন্মকে কী ঘটেছিল তা বুঝতে দেয়। দক্ষতা যা সম্প্রদায়কে কম দিয়ে কাজ করতে দেয়। প্রাতিষ্ঠানিক স্মৃতি কেন শাটডাউন আদৌ বিবেচনা করা হয়েছিল। ম্যানুয়ালের /bn/if-prevention-fails/knowledge-preservation-and-recovery-এর পাতা এটিকে নিজস্ব বিষয় হিসেবে আচরণ করে, এবং এটি এখানেও অন্তর্গত: একটি এন্ডগেমে, ডকুমেন্টেশন কাগজপত্র নয়। এটি একমাত্র সম্পদ যা পরিস্থিতি বুঝেছিল এমন মানুষদের চেয়ে বেঁচে থাকে।

কঠিন উপসংহার

শেষ পদক্ষেপগুলো ট্রায়াজ, উদ্ধার নয়। একটি দেরিতে শাটডাউন প্রচেষ্টার বাস্তবসম্মত সিলিং নিয়ন্ত্রণ পুনরুদ্ধার করা নয়; এটি নিয়ন্ত্রণের ক্ষতি যথেষ্ট ধীর করা যাতে অন্য পাশে মানবিক কিছু থেকে যায় — বিকল্প, রেকর্ড, দক্ষতা, ও মানুষ, যারা আসে তাদের কাছে হস্তান্তরিত। এটি একটি তিক্তভাবে বিনয়ী লক্ষ্য, এবং এটি বীরত্বে মুড়ে না দিয়ে স্পষ্টভাবে বলার যোগ্য, কারণ যা অবশিষ্ট আছে সে সম্পর্কে সততাই যা অবশিষ্ট পছন্দগুলোকে যুক্তিসঙ্গত করে তোলে।

এটাই কেন এই ম্যানুয়ালের সম্পূর্ণ স্থাপত্য যেখানে ওজন রাখে সেখানে রাখে। যে লিভারেজ পয়েন্টগুলো গুরুত্বপূর্ণ — কম্পিউট শাসন, বাধা বিন্দু, আন্তর্জাতিক সমন্বয়, নজরদারি — সেগুলো তাড়াতাড়ি সস্তা, দেরিতে সর্বনাশা, এবং শেষে চলে যায়। একটি সমাজ যা প্রাথমিক জানালাগুলো মিস করে তা পরে বেশি চাওয়ার মাধ্যমে সেগুলো ফেরত পায় না। এটি শেষ পদক্ষেপ পায়: ধীর, আংশিক, ব্যয়বহুল, ও সহজে হারানো। সেগুলো স্পষ্টভাবে কল্পনা করার উদ্দেশ্য একটি মহান চূড়ান্ত দৃশ্য মহড়া দেওয়া নয়। এটি বোঝা, এন্ডগেমের আগে, ঠিক কী ব্যয় হচ্ছে প্রতিবার একটি প্রাথমিক জানালা বন্ধ হয়ে যায়।