একটি শতাংশ একটি রায়, একটি পরিমাপ নয়
যখন একজন গবেষক বলেন উন্নত এআই মানব বিলুপ্তি ঘটানোর ১০ শতাংশ সম্ভাবনা রয়েছে, সংখ্যাটি পুনরাবৃত্ত ইতিহাসজুড়ে পরিমাপ করা একটি ফ্রিকোয়েন্সি নয়। এটি সক্ষমতা, স্থাপনা, প্রতিষ্ঠান, সংঘাত, এবং অনেক অনিশ্চিত ধাপ সম্পর্কে বিশ্বাসের একটি বিষয়গত সম্ভাব্যতা সারাংশ। অন্য একজন বিশেষজ্ঞ “অস্তিত্ব-ঝুঁকি” স্থায়ী মানব ক্ষমতাহীনতা অন্তর্ভুক্ত করতে ব্যবহার করতে পারেন, যখন একটি শিরোনাম শুধুমাত্র বিলুপ্তি রিপোর্ট করে।
এই ধরনের অনুমান সিদ্ধান্তকে অবহিত করতে পারে, বিশেষত যখন পরিণতি বিশাল, কিন্তু এগুলোকে প্রতিষ্ঠিত বৈজ্ঞানিক ধ্রুবক হিসেবে উপস্থাপন করা উচিত নয়। বক্তা, তারিখ, সঠিক প্রশ্ন, সময় দিগন্ত, ফলাফলের সংজ্ঞা, প্রমাণ, এবং অনিশ্চয়তা সবই গুরুত্বপূর্ণ। একজন বিখ্যাত বিজ্ঞানীর ব্যক্তিগত অনুমান একটি ব্যক্তিগত অনুমান থেকে যায়।
তুলনা করার আগে ফলাফল সংজ্ঞায়িত করুন
অন্তত চারটি ফলাফল সাধারণত মিশ্রিত হয়:
- গুরুতর ক্ষতি: বড় হতাহত, অর্থনৈতিক ক্ষতি, বা অধিকার লঙ্ঘন;
- বৈশ্বিক বিপর্যয়: মানবতার অনেকাংশ বা মৃত্যুর একটি নির্দিষ্ট ভগ্নাংশকে প্রভাবিত করা ক্ষতি;
- মানব বিলুপ্তি: কোনো টিকে থাকা মানব জনসংখ্যা নেই;
- অস্তিত্ব-বিপর্যয়: বিলুপ্তি বা মানবতার দীর্ঘমেয়াদী সম্ভাবনার অপরিবর্তনীয় ধ্বংস, কখনও কখনও স্থায়ী গুরুতর ক্ষমতাহীনতা অন্তর্ভুক্ত করে।
পূর্বাভাস জিজ্ঞাসা করতে পারে এআই ফলাফল ঘটায় কিনা, একটি প্রয়োজনীয় অবদানকারী কিনা, বা শুধুমাত্র শৃঙ্খলে কোথাও উপস্থিত হয় কিনা। এগুলো দশ বছর, ২১০০ সাল, বা সমস্ত ভবিষ্যৎ সময় কভার করতে পারে। দশ বছরের একটি এক-শতাংশ অনুমান একশ বছরের একটি পাঁচ-শতাংশ অনুমানের সাথে সরাসরি তুলনা করা যায় না।
প্রযুক্তির সংজ্ঞাও পরিবর্তিত হয়: বর্তমান সাধারণ-উদ্দেশ্য এআই, “উচ্চ-স্তরের মেশিন বুদ্ধিমত্তা,” এজিআই, অতিবুদ্ধিমত্তা, বা যেকোনো ভবিষ্যতের এআই। সবসময় মূল শব্দচয়ন সংরক্ষণ করুন।
বৃহৎ গবেষক জরিপ কী খুঁজে পেয়েছিল
২০২৩ সালের এআই-তে অগ্রগতি সংক্রান্ত বিশেষজ্ঞ জরিপ শীর্ষস্থানীয় এআই ভেন্যু থেকে লেখকদের আমন্ত্রণ জানিয়েছিল এবং ২,৭৭৮ জন গবেষকের কাছ থেকে উত্তর পেয়েছিল। এর প্রকাশিত বিশ্লেষণ সময়রেখা ও প্রভাবের ওপর ব্যাপক মতভেদ খুঁজে পেয়েছিল। বেশিরভাগ উত্তরদাতা অতিমানবীয় এআই থেকে ভালো ফলাফলকে খারাপের চেয়ে বেশি সম্ভাব্য বলে আশা করেছিলেন, তবুও অনেকে অত্যন্ত খারাপ ফলাফলে অতুচ্ছ সম্ভাব্যতা বরাদ্দ করেছিলেন। গবেষণাপত্রটি এটাও খুঁজে পেয়েছিল যে প্রশ্নের ফ্রেমিংয়ের সাথে উত্তর পরিবর্তিত হয়েছে (Grace et al., “এআই-এর ভবিষ্যৎ নিয়ে হাজার হাজার এআই লেখক”)।
এটি “এআই বিশেষজ্ঞরা একমত যে বিলুপ্তি সম্ভাব্য” সমর্থন করে না। এটি একটি সংকীর্ণ দাবি সমর্থন করে: জরিপকৃত গবেষকদের একটি উল্লেখযোগ্য অংশ চরম ফলাফলকে যথেষ্ট যুক্তিসঙ্গত বলে বিবেচনা করেছিলেন যে তারা অর্থবহ সম্ভাব্যতা বরাদ্দ করেছিলেন, আশাবাদ ও ব্যাপক বিচ্ছুরণসহ। এই জরিপ ও অন্যদের মধ্যে বিলুপ্তি-নির্দিষ্ট প্রতিক্রিয়া কেন এত ব্যাপকভাবে ভিন্ন হয় তার একটি ঘনিষ্ঠ পরীক্ষার জন্য, দেখুন কেন বিশেষজ্ঞ বিলুপ্তি অনুমান এত ব্যাপকভাবে ভিন্ন।
জরিপের সীমাবদ্ধতার মধ্যে রয়েছে অ-প্রতিক্রিয়া, ঝুঁকি বিশ্লেষণে ভিন্ন দক্ষতা, অস্থির সংজ্ঞা, এবং স্বজ্ঞাত উদ্বেগকে ক্যালিব্রেটেড সম্ভাব্যতায় অনুবাদ করার অসুবিধা। একটি শীর্ষ এআই কনফারেন্সে প্রকাশনা প্রযুক্তিগত অভিজ্ঞতা প্রতিষ্ঠা করে, ভূরাজনীতি বা শতাব্দী-স্কেল সামাজিক পরিবর্তন সম্পর্কে পূর্বাভাস দক্ষতা নয়। মধ্যমা উত্তরও মেরুকরণ ও উত্তরদাতাদের মধ্যে সহসম্পর্ক আড়াল করে।
পূর্বাভাস প্রতিযোগিতা আরেকটি মতভেদ প্রকাশ করে
অস্তিত্ব-ঝুঁকি প্ররোচনা প্রতিযোগিতা ৮০ জন বিষয়-বিশেষজ্ঞ ও স্বল্প-মেয়াদী পূর্বাভাসে রেকর্ডসহ ৮৯ জন সুপারফোরকাস্টারকে একত্রিত করেছিল। অংশগ্রহণকারীরা সাধারণ সংজ্ঞার অধীনে এআই, পারমাণবিক, জৈবিক, এবং অন্যান্য ঝুঁকি অনুমান করেছিলেন, যুক্তি বিনিময় করেছিলেন, এবং আপডেট করেছিলেন (পূর্বাভাস গবেষণা ইনস্টিটিউট XPT)।
ফলস্বরূপ পিয়ার-পর্যালোচিত বিশ্লেষণ ডোমেইন বিশেষজ্ঞ ও সুপারফোরকাস্টারদের মধ্যে বড় পার্থক্য খুঁজে পেয়েছিল, বিশেষত এআই-এর জন্য (Karger et al., International Journal of Forecasting)। এটি মিথ্যা ঐকমত্যের বিরুদ্ধে মূল্যবান প্রমাণ। এটি নিম্ন বা উচ্চতর গোষ্ঠী সঠিক প্রমাণ করে না।
সুপারফোরকাস্টাররা অনেক সমাধানযোগ্য, স্বল্প-দিগন্তের প্রশ্নে ক্যালিব্রেশন প্রদর্শন করেছেন। শতাব্দী-স্কেল বিলুপ্তি প্রশ্ন অংশগ্রহণকারীদের ক্যারিয়ারের মধ্যে স্কোর করা যায় না, এবং এক শতাংশের নিচের দুর্লভ সম্ভাব্যতা বৈধ করা বিশেষভাবে কঠিন। ডোমেইন বিশেষজ্ঞরা প্রক্রিয়া আরও ভালো বুঝতে পারেন কিন্তু উদ্বেগের কারণে একটি ক্ষেত্রে নির্বাচিত হতে পারেন এবং পূর্বাভাস ক্যালিব্রেশনের অভাব থাকতে পারে। গোষ্ঠীগুলো ভিন্ন শক্তি ও পক্ষপাত নিয়ে আসে।
কেন বিশেষজ্ঞরা দ্বিমত পোষণ করেন
সক্ষমতা অনুমান: বর্তমান পদ্ধতিগুলো কি দৃঢ় স্বায়ত্তশাসন, বৈজ্ঞানিক আবিষ্কার, এবং কৌশলগত পরিকল্পনা তৈরি করবে, নাকি নির্ভরযোগ্যতা ও দেহায়ন কঠিন থেকে যাবে?
সময়রেখা অনুমান: পরিবর্তনশীল সক্ষমতা পাঁচ বছরে না পঞ্চাশ বছরে আসে তার ওপর ঝুঁকি ভিন্নভাবে জমা হয়। ধীর অগ্রগতির অধীনে প্রতিষ্ঠানগুলোর অভিযোজনের জন্য বেশি সময় থাকে, কিন্তু আরও বেশি অভিনেতা প্রবেশাধিকার অর্জন করতে পারে।
প্রান্তিককরণ অনুমান: গবেষকরা দ্বিমত পোষণ করেন উন্নত সিস্টেম স্থায়ী লক্ষ্য বিকশিত করবে কিনা, বর্তমান প্রশিক্ষণ তাদের নিয়ন্ত্রণ করবে কিনা, এবং কতটা পর্যবেক্ষণযোগ্য পূর্বসূরি প্রমাণ পূর্বাভাস স্থানান্তরিত করা উচিত।
ক্ষমতা ও স্থাপনা অনুমান: হাতিয়ার বা কর্তৃত্ব ছাড়া একটি সক্ষম মডেল অর্থ, কোড, গবেষণাগার, বা অবকাঠামো নিয়ন্ত্রণকারী একটি ব্যাপকভাবে স্থাপিত এজেন্ট থেকে ভিন্ন।
শাসন অনুমান: প্রতিযোগিতা, সামরিক সংঘাত, কেন্দ্রীভূত মালিকানা, নিয়ন্ত্রণ, এবং আন্তর্জাতিক সমন্বয় প্রযুক্তিগত অনিশ্চয়তার ওপর প্রাধান্য পেতে পারে।
নৈতিক সংজ্ঞা: মানব নিয়ন্ত্রণের স্থায়ী ক্ষতি একজন পূর্বাভাসকারীর জন্য অস্তিত্ব-ক্ষতি হিসেবে গণ্য হতে পারে এবং অন্যজনের জন্য নয়।
একটি শিরোনাম সংখ্যা এই সম্পূর্ণ মডেলকে সংকুচিত করে। ভালো প্রতিবেদন এটিকে আবার প্রসারিত করে।
ক্যালিব্রেশন কঠিন কিন্তু ঐচ্ছিক নয়
একজন ক্যালিব্রেটেড পূর্বাভাসকারী যিনি অনেক ঘটনায় ২০ শতাংশ বরাদ্দ করেন তার সময়ের এক-পঞ্চমাংশ সঠিক হওয়া উচিত। ক্যালিব্রেশন শুধুমাত্র তুলনীয়, সমাধানকৃত প্রশ্নের একটি সেটজুড়ে পরিমাপ করা যায়। আমরা আজ ২১০০ সালের মধ্যে বিলুপ্তির একটি পূর্বাভাস সরাসরি ক্যালিব্রেট করতে পারি না।
পূর্বাভাসকারীরা এখনও পথকে নিকটতর, পর্যবেক্ষণযোগ্য প্রশ্নে বিভক্ত করে শৃঙ্খলা উন্নত করতে পারেন: মডেল স্বায়ত্তশাসন, গবেষণা স্বয়ংক্রিয়করণ, সুরক্ষা-ব্যবস্থা ব্যর্থতা, স্থাপনার স্কেল, ঘটনার হার, এবং শাসন গ্রহণ। সেই পূর্বাভাসগুলো তাড়াতাড়ি সমাধান হতে পারে এবং প্রকাশ করতে পারে কোন অনুমানগুলো ভুল ছিল।
মূল হার সাবধানে ব্যবহার করুন। মানবতার এজিআই রূপান্তরের কোনো ঐতিহাসিক নমুনা নেই। পারমাণবিক অস্ত্র, মহামারী, সাইবার নিরাপত্তা, শিল্প দুর্ঘটনা, বা সফটওয়্যার গ্রহণের সাদৃশ্য আংশিক প্রমাণ প্রদান করে, একটি সরাসরি রেফারেন্স শ্রেণি নয়। যান্ত্রিক মডেলও নির্ভরশীল ধাপজুড়ে অনুমানমূলক সম্ভাব্যতা যৌগিক করার ঝুঁকি নেয়।
বৈজ্ঞানিক সংশ্লেষণ একটি সম্ভাব্যতা নির্ধারণ করে না
২০২৬ সালের আন্তর্জাতিক এআই নিরাপত্তা প্রতিবেদন, একটি আন্তর্জাতিক বিশেষজ্ঞ প্রক্রিয়ার মাধ্যমে লিখিত, নথিভুক্ত দূষিত ব্যবহার ও নির্ভরযোগ্যতা ব্যর্থতাকে অনুমানকৃত নিয়ন্ত্রণ-ক্ষয় দৃশ্যকল্প থেকে আলাদা করে। এটি বলে যে বর্তমান সিস্টেমগুলোর নিয়ন্ত্রণ-ক্ষয়ের জন্য প্রয়োজনীয় সক্ষমতার অভাব রয়েছে, প্রাসঙ্গিক দক্ষতা উন্নত হচ্ছে, এবং বিশেষজ্ঞরা সম্ভাব্যতা ও তীব্রতা নিয়ে যথেষ্ট মতভেদ করেন (আন্তর্জাতিক এআই নিরাপত্তা প্রতিবেদন ২০২৬)।
এটি একটি “ঐকমত্য সম্ভাব্যতা” নয়। এটি একটি ঐকমত্য যে প্রমাণে গুরুতর ঝুঁকি ও বড় অনিশ্চয়তা রয়েছে। বৈজ্ঞানিক মূল্যায়ন একটি একক বিপর্যয়ের সম্ভাবনা জানার ভান না করে প্রক্রিয়া, পর্যবেক্ষণ, ফাঁক, এবং সুরক্ষা ব্যবস্থা চিহ্নিত করতে পারে।
কীভাবে একটি জনসাধারণের অনুমান উপস্থাপন করবেন
একটি দায়িত্বশীল এন্ট্রি এমন দেখতে হবে:
[তারিখে], [ব্যক্তি বা গোষ্ঠী] [সময়ের মধ্যে] [সঠিক ফলাফলের] জন্য [প্রযুক্তি সংজ্ঞার] অধীনে [সম্ভাব্যতা বা পরিসীমা] বরাদ্দ করেছেন, [প্রধান কারণের] ভিত্তিতে। এটি [ব্যক্তিগত রায়, জরিপ সমষ্টি, বা কাঠামোবদ্ধ পূর্বাভাস], একটি পর্যবেক্ষিত ফ্রিকোয়েন্সি নয়।
সম্ভব হলে বণ্টন অন্তর্ভুক্ত করুন। জরিপের জন্য প্রতিক্রিয়া হার ও নমুনা নির্বাচন রিপোর্ট করুন। গড়কে মধ্যমা থেকে এবং শর্তসাপেক্ষকে শর্তহীন সম্ভাব্যতা থেকে আলাদা করুন। সংশোধন সংরক্ষণ করুন যাতে পূর্বাভাস নীরবে ওভাররাইট হওয়ার বদলে মূল্যায়ন করা যায়।
বেমানান প্রশ্নের গড় করবেন না। একটি জরিপের “স্থায়ী ক্ষমতাহীনতা” অনুমানকে একটি প্রতিযোগিতার “১,০০০-এর নিচে জনসংখ্যা” অনুমানের সাথে একত্রিত করা কোনো সুসংগত অর্থহীন একটি সংখ্যা তৈরি করে।
মতভেদের অধীনে সিদ্ধান্ত গ্রহণ
নীতির জন্য নিশ্চয়তা প্রয়োজন নেই। কম-সম্ভাব্যতা, উচ্চ-পরিণতি ঝুঁকি গবেষণা, পর্যবেক্ষণ, স্থিতিস্থাপকতা, এবং প্রত্যাবর্তনযোগ্য সুরক্ষা ব্যবস্থাকে ন্যায্যতা দিতে পারে যখন সেই ব্যবস্থাগুলোর দৃশ্যকল্পজুড়ে সুবিধা রয়েছে। হস্তক্ষেপের খরচ ও পার্শ্বপ্রতিক্রিয়াও গুরুত্বপূর্ণ। একটি সতর্কতা যা একচেটিয়াত্বকে দৃঢ় করে, বৈধ বিজ্ঞানকে দমন করে, বা ভূরাজনৈতিক অস্থিরতা বাড়ায় তা অন্যান্য ঝুঁকি বাড়াতে পারে।
দৃঢ় ব্যবস্থার মধ্যে রয়েছে স্বাধীন মূল্যায়ন, ঘটনা প্রতিবেদন, মডেল নিরাপত্তা, জরুরি প্রতিক্রিয়া, জৈবিক প্রতিরক্ষা, সাইবার নিরাপত্তা, পারমাণবিক ব্যবহারের ওপর মানবিক নিয়ন্ত্রণ, এবং স্পষ্ট দায়বদ্ধতা। এগুলো বিস্তৃত সম্ভাব্যতা পরিসরজুড়ে উপযোগী থেকে যায়।
ভিন্ন ঝুঁকি সহনশীলতা বৈধ রাজনৈতিক প্রশ্ন। বিশেষজ্ঞরা প্রমাণকে অবহিত করতে পারেন কিন্তু একা সমাজ কীভাবে উদ্ভাবন, স্বাধীনতা, বণ্টন, নিরাপত্তা, এবং অনিশ্চিত ভবিষ্যৎ ক্ষতির বিনিময় করে তা সিদ্ধান্ত নিতে পারেন না।
একটি গোষ্ঠীকে রক্ষা করার বদলে আপডেট করা
প্রমাণ পরিবর্তিত হলে পূর্বাভাস পরিবর্তিত হওয়া উচিত। প্রাসঙ্গিক আপডেটের মধ্যে রয়েছে টেকসই দীর্ঘ-কাজ স্বায়ত্তশাসন, বৈধ এআই-উৎপাদিত গবেষণা অগ্রগতি, বাস্তব-জগতের সুরক্ষা-ব্যবস্থা ব্যর্থতা, সফল তত্ত্বাবধান, বড় আইন, বা স্থায়ী সক্ষমতা মালভূমি। একজন পূর্বাভাসকারীর বলা উচিত কী অনুমান ওপরে বা নিচে সরাবে।
বুদ্ধিবৃত্তিক বৈচিত্র্য মূল্যায়ন উন্নত করে। প্রযুক্তিগত সংশয়বাদী, নিরাপত্তা গবেষক, সামাজিক বিজ্ঞানী, পূর্বাভাসকারী, ডোমেইন বিশেষজ্ঞ, প্রভাবিত সম্প্রদায়, এবং নীতিনির্ধারকদের অন্তর্ভুক্ত করুন। মতভেদকে “আশাবাদী” ও “সর্বনাশবাদী”-তে হ্রাস না করে অনুমান অনুযায়ী মানচিত্রিত করা উচিত।
ব্যবহারিক উপসংহার
বিশেষজ্ঞ অনুমান দেখায় যে বিপর্যয়কর এআই ঝুঁকি অনেক যোগ্য মানুষ দ্বারা গুরুত্বের সাথে নেওয়া হয় এবং অন্যদের দ্বারা সন্দেহ করা হয়। এগুলো একটি পরিমাপকৃত সম্ভাব্যতা বা সর্বসম্মত বৈজ্ঞানিক দৃষ্টিভঙ্গি প্রতিষ্ঠা করে না। জরিপ বিশ্বাস প্রকাশ করে; প্রতিযোগিতা পূর্বাভাস শৃঙ্খলা আরোপ করে; তত্ত্ব পথ ব্যাখ্যা করে; মূল্যায়ন উপাদান পরীক্ষা করে; স্থাপনা বাস্তব-জগতের প্রমাণ সরবরাহ করে।
সবচেয়ে সৎ জনসাধারণের অবস্থান হলো কাঠামোবদ্ধ অনিশ্চয়তা: ফলাফল সংজ্ঞায়িত করুন, পরিসীমা দেখান, অনুমান প্রকাশ করুন, সম্ভব হলে ক্যালিব্রেশন ট্র্যাক করুন, এবং এমন সুরক্ষা ব্যবস্থা বেছে নিন যা বেশ কয়েকটি যুক্তিসঙ্গত ভবিষ্যতের অধীনে মূল্যবান থাকে।