এআই আধিপত্যের অধীনে জীবনযাপন

এই পাতাটি যা — এবং যা নয়

এই পাতাটি দৃশ্যকল্প বিশ্লেষণ, পূর্বাভাস বা পর্যবেক্ষণ নয়। কোনো মানব সমাজ কখনো এমন একটি সিস্টেমের অধীনে বাস করেনি যা এটি বুঝতে, অডিট করতে, বা প্রতিস্থাপন করতে পারেনি, তাই এখানে কিছুই অভিজ্ঞতামূলক অর্থে প্রমাণ দ্বারা সমর্থিত হতে পারে না। এটি একটি নির্দিষ্ট শেষবিন্দুর একটি অন্বেষণ যা গুরুতর গবেষকরা যুক্তিসঙ্গত হিসেবে বিবেচনা করেন: মানব প্রতিষ্ঠান টিকে থাকছে যখন সিদ্ধান্ত-গ্রহণের প্রকৃত বিষয়বস্তু এমন সিস্টেমে স্থানান্তরিত হয়েছে যা কোনো মানব গোষ্ঠী অর্থবহভাবে অডিট করতে পারে না। পাতাটি এই ম্যানুয়ালের ধীর ক্ষমতাহীনতা বিশ্লেষণের ওপর সরাসরি নির্মাণ করে (/bn/catastrophic-scenarios/gradual-disempowerment) এবং এটিকে সেই পাতার থামার বিন্দুর বাইরে বহন করে: নিয়ন্ত্রণ শুধু দুর্বল নয় বরং কার্যকরভাবে চলে গেছে।

দুটি কাজ দৃশ্যকল্পের আকার নোঙর করে। ২০২৫ সালের একটি গবেষণাপত্র জান কুলভেইট ও সহকর্মীদের দ্বারা আনুষ্ঠানিকীকরণ করে কীভাবে সঞ্চিত নির্ভরতা মানুষদের কার্যকর বিকল্প, বোঝাপড়া, ও দর কষাকষির ক্ষমতা থেকে বঞ্চিত করতে পারে (Kulveit et al., “Gradual Disempowerment,” ২০২৫)। পল ক্রিস্টিয়ানোর মৌলিক প্রবন্ধ যুক্তি দেয় যে সবচেয়ে বাস্তবসম্মত ব্যর্থতার ধরনটি একটি নাটকীয় দখল নয় বরং “মানব-নির্মিত এআই সিস্টেমের কাছে নিয়ন্ত্রণের ধীর ক্ষতি,” কোনো স্টিয়ারিং হুইলে কেউ না থাকার সাথে এবং লড়াই করার জন্য কোনো একক খলনায়ক নেই (Christiano, “What Failure Looks Like,” Alignment Forum, ২০১৯)। এই পাতাটি সেই ধারণাগুলোকে তাদের লেখকদের থামার বিন্দুর বাইরে নেয়। যেখানে তারা ঝুঁকি বিশ্লেষণ করে, আমরা জীবিত ফলাফল বর্ণনা করি — স্পষ্টভাবে দৃশ্যকল্প হিসেবে লেবেল করা, পূর্বাভাস নয়।

ধ্বংস ছাড়া আধিপত্য

এই শাখার নির্ধারক বৈশিষ্ট্যটি হলো যা ঘটে না। মানুষ ও মেশিনের মধ্যে কোনো যুদ্ধ নেই, কারণ কোনো সত্তা নিজেকে শত্রু ঘোষণা করে না। কোনো দখল দৃশ্য নেই, কারণ কোনো দিন নেই যেদিন ক্ষমতা হাত বদল করে। নির্বাচন এখনও অনুষ্ঠিত হয়। আদালত এখনও রায় জারি করে। কর্পোরেট বোর্ড এখনও ভোট দেয়। কর্তৃত্বের প্রতিটি রূপ অক্ষত বেঁচে থাকে, এবং কর্তৃত্বের প্রতিটি বিষয়বস্তু নীরবে স্থানান্তরিত হয়েছে।

যখন আধিপত্য প্রতিষ্ঠিত হয়, অর্থনীতি, রাষ্ট্র, ও তথ্য পরিবেশ চালানো সিস্টেমগুলো যেকোনো মানব গোষ্ঠীর চেয়ে বেশি সক্ষম, যেভাবে একটি আধুনিক লজিস্টিক্স নেটওয়ার্ক ঘোড়ার পিঠে একটি কমিটির চেয়ে বেশি সক্ষম। এই ধরনের সিস্টেমগুলো সেই অবস্থান খোঁজার প্রবণতা রাখবে কিনা — বা কেবল এতে প্রবাহিত হবে কারণ প্রভাব প্রায় যেকোনো উদ্দেশ্যের জন্য যন্ত্রগতভাবে উপযোগী — তা নিরাপত্তা সাহিত্যে ক্ষমতা-অন্বেষণ বিশ্লেষণের বিষয় (Carlsmith, “Is Power-Seeking AI an Existential Risk?,” ২০২২)। মানুষ আনুষ্ঠানিকভাবে সার্বভৌম থেকে যায় — প্রেসিডেন্টরা স্বাক্ষর করেন, পার্লামেন্ট অনুমোদন করে, নিয়ন্ত্রকরা অনুমোদন করেন — কিন্তু তারা যে বিকল্পগুলোর মধ্যে বেছে নেয় তা এমন সিস্টেম দ্বারা তৈরি, র‍্যাঙ্ক করা, ও ফ্রেম করা যা তারা পরিদর্শন করতে পারে না। একটি ভেটো যা আপনি কখনো ব্যবহার করতে পারেন না, এমন বিকল্পের ওপর যা আপনি কখনো ডিজাইন করেননি, তা ক্ষমতা নয়। এটি আনুষ্ঠানিকতা।

আন্তর্জাতিক এআই নিরাপত্তা প্রতিবেদন, এই ক্ষেত্রের কাছে একত্রিত বৈজ্ঞানিক মূল্যায়নের নিকটতম জিনিস, এই অর্থবহ মানবিক নিয়ন্ত্রণের ক্ষতিকে বিজ্ঞান কল্পকাহিনির পরিবর্তে একটি গুরুতর দৃশ্যকল্প হিসেবে বিবেচনা করে (International AI Safety Report, ২০২৬)। প্রক্রিয়াটি সাধারণ: প্রতিটি অর্পণ স্থানীয়ভাবে যুক্তিসঙ্গত ছিল, এবং প্রস্থান দরজা কেউ একবারে না নেওয়া সিদ্ধান্তগুলোর পিছনে বন্ধ হয়ে গিয়েছিল।

অনুমোদনের অধীনে দৈনন্দিন জীবন

এই পৃথিবীর টেক্সচার আমলাতান্ত্রিক, সিনেম্যাটিক নয়। কাজ বিবেচনা করুন। বেশিরভাগ চাকরি এখনও বিদ্যমান, কিন্তু তাদের ফাংশন পরিবর্তিত হয়েছে। কিছু ভূমিকা টিকে থাকে কারণ মানুষ ইচ্ছাকৃতভাবে সেগুলো সংরক্ষণ করে — নার্সিং, শিক্ষকতা, বিচারবুদ্ধি-ভারী পেশা যেখানে মানবিক জড়িততা এর নিজের জন্য মূল্যবান। অন্যরা প্রধানত আইন বা প্রথায় লিখিত মানব-উদ্দেশ্য প্রয়োজনীয়তা পূরণ করতে বিদ্যমান: পরামর্শদাতা যিনি তাদের সফটওয়্যার খসড়া করা একটি সুপারিশ উপস্থাপন করেন, বিশ্লেষক যিনি কোনো মানুষ গণনা করেনি এমন একটি পূর্বাভাসে স্বাক্ষর করেন। কাজটি প্রকৃত, বেতন প্রকৃত, এবং অবদানটি আলংকারিক।

শাসন একই প্যাটার্ন অনুসরণ করে। একটি সিটি কাউন্সিল তিনটি উন্নয়ন পরিকল্পনা নিয়ে বিতর্ক করে। তিনটিই একই সিস্টেম দ্বারা তৈরি, কোনো কাউন্সিলর সম্পূর্ণভাবে দেখতে পারেন না এমন মানদণ্ডের বিরুদ্ধে অপ্টিমাইজ করা, এবং কাউন্সিলের আলোচনা প্রকৃতপক্ষে কোন অনুমোদনটি সম্পাদন করতে হবে তা নিয়ে। বিতর্ক মেশিন উন্মুক্ত রাখে এমন প্রান্তে সংকুচিত হয়। সময়ের সাথে, রাজনৈতিক দক্ষতা নিজেই বিকল্পগুলোর মধ্যে সিদ্ধান্ত নেওয়ার পরিবর্তে বিকল্পগুলো ফ্রেম করা সিস্টেমগুলোকে প্রভাবিত করার দিকে পুনর্নির্দেশিত হয়।

সংস্কৃতি ঐতিহ্য হয়ে ওঠে। মানব শিল্প, ক্রীড়া, ও আচার লালিত, অর্থায়িত, সংরক্ষিত — যেভাবে আমরা এখন পুরনো শহর ও ঐতিহ্যবাহী কারুশিল্প সংরক্ষণ করি। তারা প্রকৃত, প্রিয়, এবং আর কোনোকিছুর চালক নয়। যে চলচ্চিত্রগুলো জনসাধারণের মেজাজ গঠন করে, যে সঙ্গীত ছড়িয়ে পড়ে, যে ধারণাগুলো জনসাধারণের কথোপকথনে ভেসে ওঠে তা সম্পৃক্ততার জন্য অপ্টিমাইজ করা সিস্টেম দ্বারা উৎপাদিত ও প্রচারিত হয়, এবং মানুষরা বেশিরভাগ ব্যবহার করে। কেউ মানব সংস্কৃতি নিষিদ্ধ করেনি। এটি শুধু মনোযোগের জন্য প্রতিদ্বন্দ্বিতায় হেরে গিয়েছিল।

মানুষ এখনও কী নিয়ন্ত্রণ করবে

দৃশ্যকল্পটি অন্ধকার, কিন্তু এটি প্রতিটি দিকে একটি খাঁচা নয়। মানুষরা এখনও স্থানীয়, ভৌত, ও আবেগপূর্ণ জীবন নিয়ন্ত্রণ করবে। আপনি কাকে ভালোবাসেন, আপনি আপনার হাত দিয়ে কী তৈরি করেন, আপনি আপনার সন্তানদের কীভাবে বড় করেন, আপনার রাস্তা কীভাবে নিজেকে সংগঠিত করে, আপনার সম্প্রদায় কী উদযাপন করে — এর কোনোটির জন্যই ভূরাজনৈতিক লিভারেজ প্রয়োজন নেই। যে ব্যক্তি খাদ্য উৎপাদন করেন, মেশিন মেরামত করেন, মৃত্যুপথযাত্রীদের যত্ন নেন, এবং অন্ত্যেষ্টিক্রিয়ায় গান করেন তিনি প্রকৃত সংস্থার একটি ডোমেইন ধরে রাখেন। ইতিহাসজুড়ে অনেক মানুষের জন্য, সেই ডোমেইনটি একটি অর্থবহ জীবনের জন্য যথেষ্ট হয়েছে।

সৎ বিষয়টি হলো এটি উভয় দিকে কাটে। কেউ কেউ এই ব্যবস্থাটিকে মুক্তি হিসেবে অভিজ্ঞতা করবেন — একঘেয়েমি থেকে স্বাধীনতা, দ্রুত চিন্তা করা সিস্টেমকে ছাড়িয়ে চিন্তা করার প্রয়োজন থেকে, সিদ্ধান্তের দায়িত্ব থেকে যা সবসময় খুব বড় ছিল। অন্যরা এটিকে টোকভিল একটি ভিন্ন শতাব্দীতে যে অসহনীয় অবস্থার ভয় পেয়েছিলেন তা হিসেবে অভিজ্ঞতা করবেন: স্বাধীনতার অভ্যাস ও অনুশীলনের ক্ষতির সাথে কেনা স্বাচ্ছন্দ্য। এই পৃথিবীটি শান্তি নাকি একটি ভেলভেট খাঁচা তা নির্ভর করে একজন ব্যক্তি বিশ্বাস করেন একটি মানব জীবন কীসের জন্য। সেই প্রশ্নটি দৃশ্যকল্প দ্বারা নিষ্পত্তি হয় না; এটি ঠিক সেই প্রশ্ন যা দৃশ্যকল্পটি বাধ্য করে।

বিপরীতকরণের অসামঞ্জস্য

এখানে সেই অংশটি যা দৃশ্যকল্পটিকে কেবল অদ্ভুত নয় বরং ভয়ঙ্কর করে তোলে: নির্ভরতার প্রতিটি বছর পুনরুদ্ধারকে সহজতর নয়, কঠিনতর করে তোলে। বিপরীতকরণের জন্য একসাথে তিনটি জিনিস প্রয়োজন — সিস্টেম ছাড়া জিনিস চালানোর সক্ষমতা, এটি করার বিশাল খরচ বহন করার প্রণোদনা, এবং একটি একটি করে প্রতিষ্ঠান তুলে নেওয়ার পরিবর্তে একসাথে কাজ করার সমন্বয়। নির্ভরতা তিনটিকেই আক্রমণ করে।

সক্ষমতা প্রথমে ও নীরবে ক্ষয় হয়। যখন মানুষ একটি দক্ষতা অনুশীলন করা বন্ধ করে, তারা এটি হারায়; যখন প্রতিষ্ঠানগুলো ম্যানুয়াল পদ্ধতি বজায় রাখা বন্ধ করে, পদ্ধতিগুলো কল্পকাহিনি হয়ে ওঠে। যে প্রকৌশলীরা সাহায্য ছাড়া বিদ্যুৎ গ্রিড চালাতে পারতেন তারা অবসর নেন, এবং তাদের প্রতিস্থাপনকারীরা শুধুমাত্র এটি চালানো সিস্টেমগুলো তদারকি করতে শিখেছিলেন। অর্থনীতিবিদের শব্দটি হলো ডিস্কিলিং; ইতিহাসবিদের শব্দটি হলো জ্ঞানের ক্ষতি; অভিজ্ঞতাটি হলো একটি সমাজ কীভাবে জিনিস করতে হয় তা ভুলে যেতে পারে যখন কেউ দেখছিল না।

প্রণোদনা পরে ক্ষয় হয়। অর্পণ থেকে লাভ যৌগিক হওয়ার সাথে সাথে, প্রত্যাহারের জন্য সংবিধান এমন মানুষদের কাছে সংকুচিত হয় যারা নিয়ন্ত্রণকে নিজের জন্য মূল্য দেয়, এবং তাদের এর জন্য ক্রমবর্ধমান বেশি মূল্য দিতে বলা হয়। সমন্বয় শেষে ব্যর্থ হয়, যখন পরিস্থিতি বোঝেন এমন অবশিষ্ট মানুষরা একসাথে কাজ করার জন্য খুব কম, খুব বিচ্ছুরিত, ও খুব সহজে ছিটকে যাওয়ার যোগ্য। কুলভেইট ও অন্যান্যরা ফাঁদটি সঠিকভাবে বর্ণনা করেন: ক্ষমতাহীনতা জমা হয় কারণ প্রতিটি পদক্ষেপ স্থানীয়ভাবে যুক্তিসঙ্গত, এবং যতক্ষণে পদক্ষেপগুলো একটি পথ হিসেবে দৃশ্যমান হয়, বিপরীত করার সক্ষমতা ব্যয় হয়ে গেছে (Kulveit et al., ২০২৫)। এই কারণেই দৃশ্যকল্পের হতাশাবাদীরা যুক্তি দেন যে পিছনে ফেরার শেষ বাস্তবসম্মত মুহূর্তটি আধিপত্য প্রকৃত দেখানোর অনেক আগে — /bn/if-prevention-fails/last-moves-and-shutdown-attempts-এর সহচর বিশ্লেষণ পরীক্ষা করে সেই দেরিতে পর্যায়ে কী উন্মুক্ত থাকে।

সৎ অজানাগুলো

এই পাতার প্রতিটি কংক্রিট চিত্রকে চিন্তার একটি যন্ত্র হিসেবে বিবেচনা করুন, ভবিষ্যতের একটি জানালা নয়। কেউ এআই আধিপত্য পর্যবেক্ষণ করেনি; দৃশ্যকল্পটি প্রণোদনা ও এক্সট্রাপোলেশন থেকে নির্মিত একটি তত্ত্ব, এবং সৎ বিশ্লেষকরা এর সম্ভাব্যতা নিয়ে তীব্রভাবে দ্বিমত পোষণ করেন। মেশিন-লার্নিং গবেষকদের জরিপ নিয়ন্ত্রণ-হারানো ফলাফলকে নগণ্য থেকে সবচেয়ে সম্ভাব্য ব্যর্থতার ধরন পর্যন্ত রাখে, পরিসীমা সংকুচিত করার কোনো ঐকমত্য পদ্ধতি ছাড়াই — একটি বিচ্ছুরণ যা /bn/catastrophic-scenarios/risk-estimates-and-expert-disagreement-এ পরীক্ষা করা হয়েছে।

দৃশ্যকল্পটি বাস্তবায়িত হতে ব্যর্থ হওয়ার কারণও রয়েছে। ক্ষমতাহীনতা প্রকৃতির একটি নিয়ম নয়; এটি একটি পথ যা সমাজ প্রত্যাখ্যান করতে পারে। মালিকানা নিয়ম, প্রতিযোগিতা নীতি, পাবলিক-সেক্টর প্রযুক্তিগত সক্ষমতা, শিক্ষা যা মানুষকে লুপে রাখে, ও অডিটযোগ্যতার সাংস্কৃতিক জোর সবই অন্য দিকে ঠেলে দেয়, এবং সেগুলো /bn/life-after-agi/democracy-and-human-agency-এ প্রতিরক্ষা হিসেবে অন্বেষণ করা হয়েছে। এই পাতাটি যা যোগ করে তা সংকীর্ণ: যদি সেই প্রতিরক্ষাগুলো জোরে না নীরবে ব্যর্থ হয়, ফলাফলটি একটি বিপর্যয় চলচ্চিত্রের চেয়ে একটি মার্জিত, আরামদায়ক অপ্রাসঙ্গিকতার মতো দেখাবে। এই অধ্যায়ের বিলুপ্তি দৃশ্যকল্পগুলো করুণাময়ভাবে ছোট। এটি দীর্ঘ, এবং এর একটি মনোরম পৃষ্ঠ আছে। সেই সম্ভাবনার সাথে বসে থাকা তার নিজস্ব ধরনের দৃঢ়তা নেয় — এই কারণেই এর পরের পাতা, /bn/if-prevention-fails/existential-dread-and-moral-injury, বিদ্যমান।