सबसे बुरे नतीजे वास्तव में कैसे दिखेंगे

यह अध्याय क्यों मौजूद है

एक तैयारी गाइड जो केवल यह बताती है कि रोकथाम कैसे सफल होती है, वह चुपचाप एक ऐसी धारणा मान लेती है जिसका वह कभी तर्क नहीं देती। अध्याय 07 ने उन तंत्रों की सूची बनाई जिनसे उन्नत AI बड़े पैमाने पर जनहानि या सभ्यता-स्तर की क्षति पहुंचा सकती है। यह अध्याय पूछता है कि यदि इनमें से कोई सफल हो जाए तो आगे क्या होता है — कोई अपूरणीय घटना क्या है, यह किसी जीवित रह सकने वाली आपदा से कैसे अलग होगी, पतन और पुनर्प्राप्ति वास्तव में क्या शामिल करते हैं, और उसके बाद जीने वाले लोगों के पास कौन-से विकल्प बचते हैं। मक़सद तमाशा दिखाना नहीं है। बात यह है कि "विलुप्ति का जोखिम" और "पतन" को आमतौर पर नारों की तरह इस्तेमाल किया जाता है, और नारों के विरुद्ध योजना नहीं बनाई जा सकती।

इस अध्याय के अधिकांश विषय-वस्तु के पीछे का दांव-वक्तव्य संक्षिप्त है और इस पर कई प्रमुख लैब से जुड़े लोगों समेत 350 से अधिक शोधकर्ताओं और कार्यकारियों के हस्ताक्षर हैं:

जेफ्री हिंटन ने इस जोखिम पर एक व्यक्तिगत आंकड़ा दिया है। यह अनिश्चितता के तहत एक विशेषज्ञ की राय है, कोई मापी गई आवृत्ति नहीं — और विशेषज्ञों के बीच का व्यापक मतभेद स्वयं इस अध्याय में जांचा गया है:

विफलता की तीन शाखाएं

इस अध्याय के पृष्ठ सबसे बुरे मामलों को तीन संरचनात्मक रूप से भिन्न नतीजों में बांटते हैं, क्योंकि इनके लिए अलग-अलग प्रतिक्रियाएं चाहिए। विलुप्ति और लगभग-विलुप्ति यह बताता है कि किसी अपूरणीय घटना को महज़ किसी विनाशकारी घटना से क्या अलग करता है, और ऐसी घटनाएं संभावित रूप से कैसे सामने आएंगी। पतन और पुनर्प्राप्ति उस बीच के हिस्से को कवर करता है जिसे अधिकांश लोग सबसे कम स्पष्टता से समझते हैं: एक सभ्यता जो दशकों या सदियों पीछे धकेल दी गई हो, और यह क्या तय करता है कि वह उबर पाएगी या नहीं। नियंत्रण खोने के दौर में जीवन उस स्थिति को कवर करता है जिसमें मानवता ज़िंदा तो रहती है लेकिन उसके पास अब कोई सार्थक सत्ता नहीं रहती — ऐसा नतीजा जिसमें कोई नाटकीय क्षण नहीं होता, इसलिए कोई नाटकीय चेतावनी भी नहीं होती।

यह अध्याय क्या नहीं करता