व्यावहारिक नियंत्रण ख़त्म होने के बाद भी औपचारिक प्राधिकार बचा रह सकता है
कोई संसद निर्वाचित बनी रह सकती है जबकि वह ऐसे सिस्टमों पर निर्भर हो जिनका मूल्यांकन विधायक नहीं कर सकते। कोई मंत्री कानूनी रूप से ज़िम्मेदार बना रह सकता है जबकि वह ऐसी सिफ़ारिशें प्राप्त करता है जिन्हें कोई सरकारी कर्मचारी दोबारा नहीं बना सकता। कोई नागरिक अपील का औपचारिक अधिकार बरक़रार रख सकता है जबकि वह किसी स्वचालित फ़ैसले का सामना कर रहा हो जिसका डेटा, मॉडल, विक्रेता-अनुबंध, और तर्क पहुंच से बाहर हों। इस तस्वीर में किसी तख़्तापलट या किसी सचेत मशीन-शासक की ज़रूरत नहीं। प्राधिकार औपचारिकता बन जाता है क्योंकि अलग ढंग से चुनने की व्यावहारिक क्षमता क्षीण हो चुकी होती है।
यह AGI-जोखिम से पहले एक शासन-व्यवस्था का जोखिम है। सरकारें पहले से ही लाभों, कराधान, पुलिसिंग, प्रवासन, शिक्षा, स्वास्थ्य सेवा, और सार्वजनिक प्रशासन में एल्गोरिदम इस्तेमाल करती हैं। ज़्यादा सक्षम सिस्टम स्थिरता सुधार सकते हैं, सेवाओं का अनुवाद कर सकते हैं, धोखाधड़ी पकड़ सकते हैं, सबूत का सार दे सकते हैं, और छोटी एजेंसियों के लिए विशेषज्ञता सुलभ बना सकते हैं। वे निर्भरता को गहरा भी कर सकते हैं और सार्वजनिक फ़ैसलों को चुनौती देना कठिन बना सकते हैं।
मौजूदा अंतरराष्ट्रीय उपकरण एक शुरुआती शब्दावली देते हैं, लेकिन उनका कानूनी बल अलग-अलग है। Council of Europe का Framework Convention on Artificial Intelligence पक्षों के लिए एक बाध्यकारी संधि के रूप में डिज़ाइन किया गया है और मानवाधिकार, लोकतंत्र, और कानून के शासन को केंद्र में रखता है। इसके आधिकारिक स्थिति-पृष्ठ पर 11 सितंबर 2026 तक लागू होने की कोई तारीख़ सूचीबद्ध नहीं थी, इसलिए हस्ताक्षर को यह बताते हुए वर्णित नहीं किया जाना चाहिए कि कोई राज्य पहले से ही कानूनी रूप से बाध्य है (CETS No. 225 स्थिति)। UNESCO की Recommendation on the Ethics of Artificial Intelligence एक गैर-बाध्यकारी सिफ़ारिश है जो निगरानी, पारदर्शिता, जवाबदेही, और पर्यावरणीय व सामाजिक प्रभावों को संबोधित करती है। कोई भी उपकरण पोस्ट-AGI शासन-व्यवस्था हल नहीं करता। दोनों दिखाते हैं कि क्षमता और दक्षता ही दांव पर लगे एकमात्र सार्वजनिक मूल्य नहीं हैं।
एजेंसी का मतलब है परिणाम बदल पाना
“मानवीय निगरानी” को अक्सर किसी स्टाफ़िंग-डायग्राम की तरह माना जाता है: मॉडल के बाद कहीं एक व्यक्ति रख दो और फ़ैसला मानवीय हो जाता है। असली निगरानी क्षमताओं का एक समूह है।
समीक्षक को मामला समझने के लिए पर्याप्त समय और जानकारी चाहिए। उसे मॉडल की सीमाएं पहचानने का प्रशिक्षण चाहिए। उसे सिफ़ारिश अस्वीकार करने का कानूनी और संगठनात्मक अधिकार चाहिए। किसी स्वचालित स्कोर से अलग हट जाने भर से किसी अलग फ़ैसले को सज़ा नहीं मिलनी चाहिए। संस्था को ऐसे रिकॉर्ड रखने चाहिए जो ऑडिट और अपील का समर्थन करें।
जब ये शर्तें अनुपस्थित होती हैं, तो मानवीय क्लिक एक रस्म बन जाता है। उच्च स्वचालन समीक्षा को और बदतर भी बना सकता है: जैसे-जैसे लोग कम असामान्य मामले देखते हैं और स्वतंत्र निर्णय का कम अभ्यास करते हैं, उनकी विशेषज्ञता क्षीण होती जाती है। जब सिस्टम आख़िरकार अपने सामान्य वितरण के बाहर विफल होता है, तो नाममात्र का निगरानीकर्ता हस्तक्षेप के लिए सबसे कम तैयार हो सकता है।
व्यावहारिक कसौटी काउंटरफ़ैक्चुअल है: क्या कोई योग्य व्यक्ति अलग फ़ैसले पर पहुंच सकता है, यह समझा सकता है कि क्यों, और उस फ़ैसले को टिकाए रख सकता है?
चार निर्भरताएं जो सरकार को खोखला कर सकती हैं
विक्रेता-निर्भरता
किसी सार्वजनिक एजेंसी के पास किसी एक विक्रेता के बिना काम करने के लिए ज़रूरी स्टाफ़, कंप्यूट, डेटा-अधिकार, या अनुबंध-शर्तें न हों। ख़रीद-दस्तावेज़ों में बदलाव संभव दिखता है लेकिन उसके लिए सिस्टमों को दोबारा प्रशिक्षित करना, डेटा माइग्रेट करना, कार्यप्रवाह फिर से लिखना, और सेवा में लंबे व्यवधान को स्वीकार करना पड़ेगा। यह किसी निजी आपूर्तिकर्ता को स्पष्ट राजनीतिक शक्ति के बिना भी प्रभाव देता है।
इसलिए अनुबंधों को पोर्टेबिलिटी, ऑडिट-पहुंच, घटना-प्रकटीकरण, उप-ठेकेदारों, डेटा-प्रतिधारण, सुरक्षा, सेवा-निरंतरता, और निकास-सहायता को संबोधित करना चाहिए इससे पहले कि कोई सिस्टम अनिवार्य बन जाए। सबसे सस्ती शुरुआती बोली महंगी साबित हो सकती है अगर वह स्थायी निर्भरता ख़रीद रही हो।
ज्ञानमीमांसीय निर्भरता
कोई संस्था यह जानने की क्षमता खो सकती है कि कोई परिणाम अच्छा है या नहीं। अगर AI ज़्यादातर विश्लेषण, प्रारूपण, अनुकरण, और सत्यापन करता है, तो मानवीय संगठन अंतिम हस्ताक्षर-प्राधिकार बनाए रखते हुए दुनिया के स्वतंत्र मॉडल खो सकता है।
अतिरेक ज़रूरी है। एजेंसियों को आंतरिक विशेषज्ञता, उच्च-परिणाम वाले सवालों के लिए प्रतिस्पर्धी विश्लेषण, अनिश्चितता के रिकॉर्ड, और असहमति के लिए सुरक्षित माध्यम चाहिए। कुछ कार्य समय-समय पर मुख्य सिस्टम के बिना किए जाने चाहिए, इसलिए नहीं कि हाथ का काम हमेशा बेहतर होता है बल्कि इसलिए कि जो फ़ॉलबैक कभी परखा न गया हो वह फ़ॉलबैक नहीं है।
अवसंरचना-निर्भरता
उन्नत सेवाएं बिजली, नेटवर्क, पहचान-सिस्टम, क्लाउड अवसंरचना, और अपस्ट्रीम मॉडलों पर निर्भर करती हैं। कोई आउटेज या व्यावसायिक विवाद एक साथ कई सार्वजनिक कार्यों में फैल सकता है। कई एजेंसियों को एक ही मॉडल या क्लाउड पर केंद्रित करना अलग-अलग अनुबंधों के पीछे छुपी सहसंबद्ध विफलता पैदा कर सकता है।
निर्भरता-मानचित्रों को साझा प्रदाताओं और सरकार-भर में एकल विफलता-बिंदुओं की पहचान करनी चाहिए, केवल किसी एक विभाग के भीतर नहीं। रिकवरी-अभ्यासों को क्षीण संचालन, डेटा-बहाली, मैनुअल प्राथमिकता-निर्धारण, और सार्वजनिक संचार परखना चाहिए।
वैधता-निर्भरता
लोग कठिन फ़ैसले आंशिक रूप से इसलिए स्वीकार करते हैं क्योंकि वे समझते हैं कि किसके पास प्राधिकार है, कौन-से नियम लागू होते हैं, और ग़लतियों को कैसे चुनौती दी जाए। कोई सांख्यिकीय रूप से सटीक लेकिन समझ से परे सिस्टम फिर भी वैधता कमज़ोर कर सकता है अगर नागरिक उसे मनमाना अनुभव करें।
अकेले स्पष्टीकरण पर्याप्त नहीं। कोई जनरेट किया गया स्पष्टीकरण किसी परिणाम का असली आधार बताए बिना भी विश्वसनीय लग सकता है। सार्थक चुनौती-योग्यता के लिए प्रासंगिक सबूत, लागू नियम, ज़िम्मेदार संस्था, और उपलब्ध उपाय चाहिए। इसके लिए एक मानवीय कार्यालय भी चाहिए जो फ़ैसला बदल सके, न कि केवल यह समझाए कि सिस्टम ने वह परिणाम क्यों दिया।
लोकतंत्र को सार्वजनिक तकनीकी क्षमता चाहिए
विधानसभाओं, अदालतों, नियामकों, ऑडिटरों, संघों, और नागरिक समाज को मूल्यांकन, सुरक्षा, ख़रीद, डेटा-शासन, और मॉडल-सबूत में विशेषज्ञता चाहिए। पेशेवर स्टाफ़, स्वतंत्र प्रयोगशालाएं, महानिरीक्षक, मानक-निकाय, और विरोधात्मक कार्यवाहियां वह गहराई दे सकते हैं।
NIST AI Risk Management Framework AI जोखिमों को नियंत्रित करने, मैप करने, मापने, और प्रबंधित करने के लिए एक स्वैच्छिक ढांचा देता है। इसका मूल्य प्रक्रियागत है: संगठनों को बेंचमार्क-सटीकता को ही पूरा जोखिम-मूल्यांकन मानने के बजाय संदर्भ और प्रभावित लोगों की पहचान करनी चाहिए। किसी पोस्ट-AGI संस्था को उन आदतों के मज़बूत, प्रवर्तनीय संस्करण चाहिए होंगे, साथ में लोकतांत्रिक अनुमोदन।
चुनाव ज़रूरी हैं लेकिन पर्याप्त नहीं
परिवर्तनकारी AI मनाने, संश्लेषित मीडिया, निगरानी, नीति-विश्लेषण, अभियान-संचालन, और सूचना-अवसंरचना के नियंत्रण के ज़रिए लोकतंत्र को प्रभावित कर सकता है। केवल नक़ली तस्वीरों पर ध्यान केंद्रित करना बड़े मुद्दे को छोड़ देता है: राजनीतिक ध्यान की मध्यस्थता करने वाले सिस्टमों के उद्देश्य कौन चुनता है, और प्रभाव को अनुकूलित करने के लिए कौन-से डेटा इस्तेमाल होते हैं?
प्रकटीकरण मदद कर सकता है, लेकिन किसी सामग्री को “AI-जनरेटेड” लेबल करना यह स्थापित नहीं करता कि वह सच्ची है या हेरफेर करने वाली। उद्गम किसी फ़ाइल के इतिहास के हिस्से दिखा सकता है बिना उसके दावे साबित किए। राजनीतिक लचीलेपन को गोपनीयता-सुरक्षा, स्वतंत्र पत्रकारिता, अभियान-पारदर्शिता, प्लेटफ़ॉर्म-जवाबदेही, सुरक्षित चुनाव-प्रशासन, और भरोसेमंद माध्यमों से महत्वपूर्ण जानकारी सत्यापित कर सकने वाले नागरिकों की भी ज़रूरत है।
सरकारी इस्तेमाल विशेष संयम का हक़दार है। शक्तिशाली भविष्यवाणी और मनाने वाले सिस्टमों वाला कोई राज्य सार्वजनिक संचार को मददगार ढंग से वैयक्तिकृत कर सकता है — या असहमति को पहचानना और व्यवहार को आकार देना आसान बना सकता है। कानूनी निषेध, वारंट, न्यूनीकरण, ऑडिट-लॉग, और स्वतंत्र निगरानी विश्लेषणात्मक क्षमता बढ़ने के साथ कम नहीं, ज़्यादा मायने रखते हैं।
शक्ति के बहुल स्रोत सुरक्षित रखें
किसी एक कंपनी को सार्वजनिक विश्लेषण, पहचान, संचार, और प्रशासनिक अवसंरचना का इकलौता स्रोत नहीं होना चाहिए। किसी केंद्रीय सरकार को उन्नत क्षमता इस्तेमाल करने वाली इकलौती संस्था नहीं होना चाहिए। किसी सार्वभौमिक स्कोरिंग सिस्टम को रोज़गार, ऋण, लाभ, अभिव्यक्ति, और गतिशीलता तक पहुंच तय नहीं करनी चाहिए।
बहुलवाद घर्षण पैदा करता है, और घर्षण कभी-कभी सुरक्षात्मक होता है। संघीय सिस्टम, स्थानीय सरकारें, अदालतें, स्वतंत्र नियामक, विश्वविद्यालय, संघ, पेशेवर संस्थाएं, खुले तकनीकी समुदाय, और नागरिक समाज ऐसी विफलताएं उजागर कर सकते हैं जिन्हें कोई एक केंद्रीय सिस्टम दबा देगा या चूक जाएगा। प्रतिस्पर्धी संस्थाएं लोगों को अपील और संगठन बनाने की जगह भी देती हैं।
बहुलवाद अनियंत्रित प्रसार जैसा नहीं है। उच्च-जोखिम क्षमताओं के लिए पहुंच-प्रतिबंध ज़रूरी हो सकते हैं जबकि फ़ैसला-निर्माण संस्थागत रूप से विविध बना रहता है। डिज़ाइन-समस्या निजी एकाधिकार और पूर्ण राज्य-केंद्रीकरण दोनों से बचना है।
वे फ़ैसले जो राजनीतिक रूप से चुनौती-योग्य बने रहने चाहिए
AI सार्वजनिक उद्देश्य तय किए बिना सार्वजनिक फ़ैसलों को सूचित कर सकता है। आय कैसे बांटी जाए, कौन-से जोखिम स्वीकार्य हैं, किसके अधिकार प्राथमिकता पाते हैं, बल का इस्तेमाल हो या नहीं, बच्चों को क्या सीखना चाहिए, और कितनी निगरानी स्वीकार्य है — जैसे सवाल तटस्थ लक्ष्य-फलनों वाली अनुकूलन-समस्याएं नहीं हैं। ये मूल्यों और लोगों के बीच राजनीतिक चुनाव हैं।
क्रियान्वयन सौंपना भी उद्देश्य को फिर से आकार दे सकता है। प्रसंस्करण-समय घटाने के लिए अनुकूलित लाभ-सिस्टम जटिल आवेदकों को हतोत्साहित कर सकता है। अनुमानित घटनाओं के लिए अनुकूलित पुलिसिंग सिस्टम ऐतिहासिक प्रवर्तन के पैटर्न को बढ़ा सकता है। मापी गई लागत के लिए अनुकूलित स्वास्थ्य-सिस्टम उन परिणामों को कम आंक सकता है जिन्हें दर्ज करना मुश्किल है। लोकतांत्रिक नियंत्रण के लिए यह समीक्षा ज़रूरी है कि कोई सिस्टम वास्तव में क्या पुरस्कृत करता है, केवल उसके घोषित उद्देश्य को मंज़ूरी देना काफ़ी नहीं।
मानक-प्रस्ताव: एक न्यूनतम एजेंसी-गारंटी
महत्वपूर्ण सार्वजनिक इस्तेमालों के लिए, लोगों को यह पहचानने में सक्षम होना चाहिए:
- कि किसी AI सिस्टम ने फ़ैसले को सारगर्भित रूप से प्रभावित किया;
- कौन-सी संस्था और कौन-सा अधिकारी कानूनी रूप से ज़िम्मेदार है;
- कौन-सा शासित नियम और कौन-सा सबूत इस्तेमाल किया गया;
- महत्वपूर्ण सीमाएं, अनिश्चितता, और डेटा का उद्गम;
- परिणाम बदलने की शक्ति वाली समयबद्ध मानवीय अपील;
- किसी अदालत, नियामक, लोकपाल, या निर्वाचित निकाय तक सुलभ रास्ता;
- उन लोगों के लिए एक ग़ैर-डिजिटल रास्ता जो सिस्टम को सुरक्षित रूप से इस्तेमाल नहीं कर सकते।
ये गारंटियां त्रुटियां या राजनीतिक असहमति ख़त्म नहीं करेंगी। ये प्रशासन और दबदबे के बीच के अंतर को बचाए रखती हैं: प्रभावित व्यक्ति तर्कों और उपायों की किसी व्यवस्था में भागीदार बना रहता है, महज़ वर्गीकृत की जाने वाली कोई वस्तु नहीं।
पोस्ट-AGI संवैधानिक सवाल
सबसे गहरा मुद्दा यह नहीं कि किसी AI को औपचारिक सरकारी पद मिलता है या नहीं। यह है कि क्या मनुष्य और उनकी संस्थाएं महत्वपूर्ण सिस्टमों को संशोधित करने के लिए योग्यता, स्वतंत्रता, और प्रभाव-क्षमता बनाए रखते हैं। अगर एक मॉडल हटाने से स्वास्थ्य सेवा, वित्त, संचार, और सरकार एक साथ रुक जाएं, तो कानूनी संप्रभुता व्यावहारिक रूप से बहुत कम सांत्वना देती है।
परिवर्तनकारी AI के बाद लोकतांत्रिक जीवन-रक्षा इसलिए ऐसी क्षमता पर निर्भर करती है जो निर्भरता के पूर्ण होने से पहले बन चुकी हो: सार्वजनिक विशेषज्ञता, अंतर-संचालनीय अवसंरचना, प्रवर्तनीय अधिकार, बहुल संस्थाएं, स्वतंत्र सबूत, सार्थक अपीलें, और यह परखे हुए तरीक़े कि जब स्वचालित सिफ़ारिशें उपलब्ध न हों या अस्वीकार कर दी जाएं तो कैसे काम किया जाए। ये तकनीक-विरोधी उपाय नहीं हैं। ये वह तंत्र है जो किसी समाज को शक्तिशाली तकनीक इस्तेमाल करने देता है बिना अपने ख़ुद के उद्देश्य चुनने की क्षमता खोए।