कोई प्रतिशत एक निर्णय है, कोई माप नहीं
जब कोई शोधकर्ता कहता है कि उन्नत AI के मानव-विलुप्ति का कारण बनने की 10 प्रतिशत संभावना है, तो वह संख्या दोहराए गए इतिहासों में मापी गई कोई आवृत्ति नहीं है। यह एक व्यक्तिपरक संभावना है जो क्षमता, तैनाती, संस्थाओं, संघर्ष, और कई अनिश्चित चरणों के बारे में विश्वासों को संक्षेप में बताती है। कोई अन्य विशेषज्ञ स्थायी मानवीय सत्ता-हीनता को शामिल करने के लिए “अस्तित्वगत जोखिम” इस्तेमाल कर सकता है, जबकि कोई सुर्खी केवल विलुप्ति की रिपोर्ट करती है।
ऐसे अनुमान फ़ैसलों को सूचित कर सकते हैं, ख़ासकर जब परिणाम विशाल हों, लेकिन इन्हें स्थापित वैज्ञानिक स्थिरांक के रूप में प्रस्तुत नहीं किया जाना चाहिए। बोलने वाला, तारीख़, सटीक सवाल, समय-सीमा, परिणाम-परिभाषा, सबूत, और अनिश्चितता सब मायने रखते हैं। किसी मशहूर वैज्ञानिक का व्यक्तिगत अनुमान एक व्यक्तिगत अनुमान ही रहता है।
संख्याओं की तुलना करने से पहले परिणाम परिभाषित करें
कम-से-कम चार परिणाम आमतौर पर मिला दिए जाते हैं:
- गंभीर नुकसान: बड़ी संख्या में हताहत, आर्थिक नुकसान, या अधिकारों का हनन;
- वैश्विक विनाश: मानवता के बड़े हिस्से को प्रभावित करने वाला नुकसान या मौतों का कोई निर्दिष्ट अनुपात;
- मानव-विलुप्ति: कोई भी जीवित मानव आबादी न बचना;
- अस्तित्वगत विनाश: विलुप्ति या मानवता की दीर्घकालिक संभावना का अपरिवर्तनीय विनाश, कभी-कभी स्थायी गंभीर सत्ता-हीनता सहित।
पूर्वानुमान पूछ सकते हैं कि क्या AI परिणाम का कारण बनता है, एक ज़रूरी योगदानकर्ता है, या केवल शृंखला में कहीं दिखता है। ये दस साल, वर्ष 2100, या सारे भविष्य के समय को कवर कर सकते हैं। दस साल पर एक-प्रतिशत के अनुमान की सीधे तुलना किसी सदी पर पांच-प्रतिशत के अनुमान से नहीं की जा सकती।
तकनीक की परिभाषाएं भी अलग-अलग हैं: मौजूदा सामान्य-प्रयोजन AI, “उच्च-स्तरीय मशीन बुद्धिमत्ता,” AGI, सुपरइंटेलिजेंस, या कोई भी भविष्य का AI। हमेशा मूल शब्दावली सुरक्षित रखें।
बड़े शोधकर्ता-सर्वेक्षण ने क्या पाया
2023 के Expert Survey on Progress in AI ने अग्रणी AI मंचों से लेखकों को आमंत्रित किया और 2,778 शोधकर्ताओं से जवाब हासिल किए। इसके प्रकाशित विश्लेषण ने समय-सीमाओं और प्रभावों पर व्यापक असहमति पाई। ज़्यादातर उत्तरदाताओं ने अतिमानवीय AI से अच्छे परिणामों को बुरे से ज़्यादा संभावित माना, फिर भी कई ने अत्यधिक बुरे परिणामों को सार्थक संभावना दी। पेपर ने यह भी पाया कि सवाल की फ़्रेमिंग के साथ जवाब बदल गए (Grace et al., “Thousands of AI Authors on the Future of AI”)।
यह इस बात का समर्थन नहीं करता कि “AI विशेषज्ञ इस बात पर सहमत हैं कि विलुप्ति संभावित है।” यह एक संकुचित दावे का समर्थन करता है: सर्वेक्षण किए गए शोधकर्ताओं का एक बड़ा हिस्सा आशावाद और व्यापक बिखराव के साथ-साथ चरम परिणामों को सार्थक संभावना देने लायक़ प्रशंसनीय मानता था। इस सर्वेक्षण और अन्य में विलुप्ति-विशिष्ट जवाब इतने व्यापक रूप से क्यों अलग हैं, इस पर क़रीबी नज़र के लिए देखें विशेषज्ञ विलुप्ति-अनुमान इतने व्यापक रूप से क्यों अलग होते हैं।
सर्वेक्षण की सीमाओं में ग़ैर-प्रतिक्रिया, जोखिम-विश्लेषण में अलग-अलग विशेषज्ञता, अस्थिर परिभाषाएं, और सहज चिंता को कैलिब्रेटेड संभावनाओं में अनुवाद करने की कठिनाई शामिल है। किसी शीर्ष AI सम्मेलन में प्रकाशित करना तकनीकी अनुभव स्थापित करता है, भू-राजनीति या सदी-पैमाने के सामाजिक बदलाव के बारे में पूर्वानुमान-कौशल नहीं। माध्यिका जवाब भी उत्तरदाताओं के बीच ध्रुवीकरण और सहसंबंधों को छुपा देते हैं।
पूर्वानुमान-टूर्नामेंट एक और असहमति उजागर करते हैं
Existential Risk Persuasion Tournament ने 80 विषय-विशेषज्ञों और छोटी-अवधि के पूर्वानुमान में रिकॉर्ड रखने वाले 89 सुपरफ़ोरकास्टरों को एक साथ लाया। भागीदारों ने साझा परिभाषाओं के तहत AI, परमाणु, जैविक, और अन्य जोखिमों का अनुमान लगाया, तर्कों का आदान-प्रदान किया, और अपडेट किया (Forecasting Research Institute XPT)।
इसके परिणामस्वरूप सहकर्मी-समीक्षित विश्लेषण ने क्षेत्र-विशेषज्ञों और सुपरफ़ोरकास्टरों के बीच बड़े अंतर पाए, ख़ासकर AI के लिए (Karger et al., International Journal of Forecasting)। यह झूठी सहमति के ख़िलाफ़ मूल्यवान सबूत है। यह यह साबित नहीं करता कि निचला या ऊंचा समूह सही है।
सुपरफ़ोरकास्टरों ने कई हल-योग्य, छोटी-सीमा वाले सवालों पर कैलिब्रेशन प्रदर्शित किया है। सदी-पैमाने के विलुप्ति-सवालों को भागीदारों के करियर के भीतर स्कोर नहीं किया जा सकता, और एक प्रतिशत से कम की दुर्लभ संभावनाओं को मान्य करना ख़ासकर कठिन है। क्षेत्र-विशेषज्ञ तंत्रों को बेहतर समझ सकते हैं लेकिन चिंता के कारण किसी क्षेत्र में चुने गए हो सकते हैं और उनमें पूर्वानुमान-कैलिब्रेशन की कमी हो सकती है। दोनों समूह अलग-अलग ताक़तें और पूर्वाग्रह लाते हैं।
विशेषज्ञ असहमत क्यों हैं
क्षमता-मान्यताएं: क्या मौजूदा तरीक़े मज़बूत स्वायत्तता, वैज्ञानिक खोज, और रणनीतिक योजना पैदा करेंगे, या विश्वसनीयता और भौतिक अवतार कठिन बने रहेंगे?
समय-सीमा मान्यताएं: अगर परिवर्तनकारी क्षमता पांच साल में आती है बनाम पचास साल में, तो जोखिम अलग तरह से जमा होता है। धीमी प्रगति के तहत संस्थाओं को अनुकूलित होने का ज़्यादा समय मिलता है, लेकिन ज़्यादा पक्षों को पहुंच मिल सकती है।
अलाइनमेंट मान्यताएं: शोधकर्ता इस बात पर असहमत हैं कि क्या उन्नत सिस्टम स्थायी लक्ष्य विकसित करेंगे, क्या मौजूदा प्रशिक्षण उन्हें नियंत्रित करेगा, और कितना देखा जा सकने वाला पूर्ववर्ती सबूत पूर्वानुमानों को बदलना चाहिए।
शक्ति और तैनाती मान्यताएं: उपकरणों या प्राधिकार के बिना कोई सक्षम मॉडल पैसे, कोड, प्रयोगशालाओं, या अवसंरचना को नियंत्रित करने वाले व्यापक रूप से तैनात एजेंट से अलग है।
शासन-मान्यताएं: प्रतिस्पर्धा, सैन्य संघर्ष, संकेंद्रित स्वामित्व, विनियमन, और अंतरराष्ट्रीय समन्वय तकनीकी अनिश्चितता पर हावी हो सकते हैं।
नैतिक परिभाषाएं: मानवीय नियंत्रण की स्थायी हानि किसी एक पूर्वानुमानकर्ता के लिए अस्तित्वगत नुकसान गिनी जा सकती है और दूसरे के लिए नहीं।
कोई सुर्खी-संख्या इस पूरे मॉडल को संकुचित कर देती है। अच्छी रिपोर्टिंग इसे फिर से विस्तारित करती है।
कैलिब्रेशन कठिन है लेकिन वैकल्पिक नहीं
कोई कैलिब्रेटेड पूर्वानुमानकर्ता जो कई घटनाओं को 20 प्रतिशत देता है, उसे लगभग पांचवें हिस्से समय सही होना चाहिए। कैलिब्रेशन केवल तुलनीय, हल किए गए सवालों के किसी समूह में मापा जा सकता है। हम आज 2100 तक विलुप्ति के किसी एक पूर्वानुमान को सीधे कैलिब्रेट नहीं कर सकते।
पूर्वानुमानकर्ता फिर भी रास्ते को नज़दीकी, देखे जा सकने वाले सवालों में विभाजित करके अनुशासन सुधार सकते हैं: मॉडल-स्वायत्तता, शोध-स्वचालन, सुरक्षा-उपाय विफलताएं, तैनाती-पैमाना, घटना-दर, और शासन-अपनाव। वे पूर्वानुमान जल्दी हल हो सकते हैं और उजागर कर सकते हैं कि कौन-सी मान्यताएं ग़लत थीं।
आधार-दरों का सावधानी से उपयोग करें। मानवता के पास AGI-संक्रमणों का कोई ऐतिहासिक नमूना नहीं है। परमाणु हथियारों, महामारियों, साइबर-सुरक्षा, औद्योगिक दुर्घटनाओं, या सॉफ़्टवेयर-अपनाव से उपमाएं आंशिक सबूत देती हैं, कोई सीधी संदर्भ-श्रेणी नहीं। यांत्रिकी मॉडल भी निर्भर चरणों में काल्पनिक संभावनाओं को जोड़ते जाने का जोखिम रखते हैं।
वैज्ञानिक संश्लेषण एक संभावना नहीं देता
एक अंतरराष्ट्रीय विशेषज्ञ-प्रक्रिया के ज़रिए लिखी गई 2026 की International AI Safety Report, दस्तावेज़ीकृत दुर्भावनापूर्ण उपयोग और विश्वसनीयता-विफलताओं को परिकल्पित नियंत्रण-हानि परिदृश्यों से अलग करती है। यह बताती है कि मौजूदा सिस्टमों में नियंत्रण-हानि के लिए ज़रूरी क्षमताएं नहीं हैं, कि प्रासंगिक क्षमताएं सुधर रही हैं, और विशेषज्ञ संभावना और गंभीरता के बारे में काफ़ी असहमत हैं (International AI Safety Report 2026)।
यह कोई “सहमत संभावना” नहीं है। यह इस बात पर सहमति है कि सबूत में गंभीर जोखिम और बड़ी अनिश्चितता शामिल है। वैज्ञानिक आकलन विनाश की एक ही संभावना जानने का दिखावा किए बिना तंत्र, अवलोकन, अंतराल, और सुरक्षा-उपाय पहचान सकता है।
किसी सार्वजनिक अनुमान को कैसे प्रस्तुत करें
किसी ज़िम्मेदार प्रविष्टि को ऐसा दिखना चाहिए:
[तारीख़] में, [व्यक्ति या समूह] ने [तकनीक-परिभाषा] के तहत, [मुख्य कारणों] के आधार पर, [सटीक परिणाम] को [समय] तक [संभावना या सीमा] दी। यह [व्यक्तिगत निर्णय, सर्वेक्षण-समुच्चय, या संरचित पूर्वानुमान] है, कोई देखी गई आवृत्ति नहीं।
जहां संभव हो वितरण शामिल करें। सर्वेक्षणों के लिए प्रतिक्रिया-दर और नमूना-चयन की रिपोर्ट करें। माध्य को माध्यिका से और सशर्त को असशर्त संभावना से अलग करें। संशोधन सुरक्षित रखें ताकि पूर्वानुमानों को चुपचाप अधिलेखित करने के बजाय आंका जा सके।
असंगत सवालों का औसत न निकालें। किसी सर्वेक्षण के “स्थायी सत्ता-हीनता” अनुमान को किसी टूर्नामेंट के “1,000 से कम आबादी” अनुमान के साथ मिलाना एक ऐसी संख्या बनाता है जिसका कोई सुसंगत अर्थ नहीं।
असहमति के तहत फ़ैसला लेना
नीति को निश्चितता की ज़रूरत नहीं। कम-संभावना, उच्च-परिणाम जोखिम शोध, निगरानी, लचीलापन, और प्रतिवर्तनीय सुरक्षा-उपायों को उचित ठहरा सकते हैं जब उन उपायों के परिदृश्यों में फ़ायदे हों। हस्तक्षेप की लागत और दुष्प्रभाव भी मायने रखते हैं। कोई ऐसी सावधानी जो एकाधिकार को मज़बूत करे, वैध विज्ञान को दबाए, या भू-राजनीतिक अस्थिरता बढ़ाए, वह अन्य जोखिम बढ़ा सकती है।
मज़बूत उपायों में स्वतंत्र मूल्यांकन, घटना-रिपोर्टिंग, मॉडल-सुरक्षा, आपातकालीन प्रतिक्रिया, जैविक रक्षा, साइबर-सुरक्षा, परमाणु-उपयोग पर मानवीय नियंत्रण, और स्पष्ट जवाबदेही शामिल हैं। ये एक विस्तृत संभावना-सीमा में उपयोगी बने रहते हैं।
अलग-अलग जोखिम-सहनशीलता वैध राजनीतिक सवाल हैं। विशेषज्ञ सबूत को सूचित कर सकते हैं लेकिन अकेले यह फ़ैसला नहीं कर सकते कि समाज नवाचार, स्वतंत्रता, वितरण, सुरक्षा, और अनिश्चित भविष्य के नुकसान के बीच कैसे संतुलन बनाए।
किसी क़बीले का बचाव करने के बजाय अपडेट करना
सबूत बदलने पर पूर्वानुमान बदलने चाहिए। प्रासंगिक अपडेट में दीर्घकालिक-कार्य स्वायत्तता, सत्यापित AI-जनित शोध-प्रगति, वास्तविक-दुनिया की सुरक्षा-उपाय विफलताएं, सफल निगरानी, बड़े कानून, या स्थायी क्षमता-पठार शामिल हैं। किसी पूर्वानुमानकर्ता को बताना चाहिए कि क्या अनुमान को ऊपर या नीचे ले जाएगा।
बौद्धिक विविधता आकलन सुधारती है। तकनीकी संशयवादियों, सुरक्षा-शोधकर्ताओं, सामाजिक वैज्ञानिकों, पूर्वानुमानकर्ताओं, क्षेत्र-विशेषज्ञों, प्रभावित समुदायों, और नीति-निर्माताओं को शामिल करें। असहमति को मान्यताओं के अनुसार मैप किया जाना चाहिए, “आशावादियों” और “विनाशवादियों” में सिमटा नहीं देना चाहिए।
व्यावहारिक निष्कर्ष
विशेषज्ञ-अनुमान दिखाते हैं कि विनाशकारी AI जोखिम को कई योग्य लोग गंभीरता से लेते हैं और अन्य लोग संदेह करते हैं। ये कोई मापी गई संभावना या एकमत वैज्ञानिक दृष्टिकोण स्थापित नहीं करते। सर्वेक्षण विश्वास उजागर करते हैं; टूर्नामेंट पूर्वानुमान-अनुशासन थोपते हैं; सिद्धांत रास्तों की व्याख्या करता है; मूल्यांकन घटकों को परखते हैं; तैनाती वास्तविक-दुनिया का सबूत देती है।
सबसे ईमानदार सार्वजनिक रुख़ संरचित अनिश्चितता है: परिणाम परिभाषित करें, सीमा दिखाएं, मान्यताएं उजागर करें, जहां संभव हो कैलिब्रेशन ट्रैक करें, और ऐसे सुरक्षा-उपाय चुनें जो कई प्रशंसनीय भविष्यों के तहत सार्थक बने रहें।