स्वायत्त हथियार और सैन्य वृद्धि

फ़ंक्शन से शुरू करें, लेबल से नहीं

कोई स्वायत्त हथियार आमतौर पर एक ऐसे सिस्टम के रूप में समझा जाता है जो, एक बार सक्रिय होने पर, बिना किसी मनुष्य द्वारा हर व्यक्तिगत हमले को मंज़ूर किए, लक्ष्य चुन और उन पर हमला कर सकता है। परिभाषाएं विवादित बनी रहती हैं क्योंकि स्वायत्तता कोई एक स्विच नहीं है। मनुष्य मिशन-क्षेत्र और लक्ष्य-वर्ग चुन सकते हैं जबकि सॉफ़्टवेयर नेविगेट करता है, किसी वस्तु की पहचान करता है, कार्रवाई की सिफ़ारिश करता है, या फ़ायर करने का सटीक क्षण तय करता है।

इस स्पेक्ट्रम में लंबे समय से मौजूद सिस्टम जैसे रक्षात्मक इंटरसेप्टर, साथ ही नए लोइटरिंग म्यूनिशन, ड्रोन-झुंड, AI-सहायता प्राप्त लक्ष्य-निर्धारण उपकरण, और सशस्त्र ग्राउंड रोबोट शामिल हैं — पहिएदार, ट्रैक-चालित, और टांगों वाले प्लेटफ़ॉर्म जिनका सर्वेक्षण इस मैनुअल के सैन्य मानवाकार और ग्राउंड रोबोट पेज पर किया गया है। जोखिम वातावरण, लक्ष्य, समय-दबाव, पूर्वानुमेयता, संचार, और ग़लती के परिणामों पर निर्भर करता है। आने वाले म्यूनिशन को रोकने वाला कोई कसकर सीमित सिस्टम किसी शहर में लोगों को खोजने वाले सिस्टम से अलग है।

AI-सहायता प्राप्त निर्णय-सहायता भी जांच की हक़दार है, तब भी जब कोई मनुष्य औपचारिक रूप से ट्रिगर दबाता है। अगर कोई ऑपरेटर गंभीर समय-दबाव के तहत सैकड़ों मशीन-जनित लक्ष्य पाता है, तो मंज़ूरी एक रबर स्टैम्प बन सकती है। “इन-द-लूप मनुष्य” तब तक बहुत कुछ नहीं कहता जब तक उस व्यक्ति के पास सिस्टम को चुनौती देने के लिए जानकारी, प्राधिकार, समय, और प्रशिक्षण न हो।

क्या दस्तावेज़ीकृत है — और क्या विवादित बना हुआ है

लीबिया पर 2021 की संयुक्त राष्ट्र विशेषज्ञ-पैनल रिपोर्ट ने पीछे हटती सेनाओं के ख़िलाफ़ इस्तेमाल किए गए Kargu-2 लोइटरिंग म्यूनिशन और अन्य सिस्टमों का वर्णन किया, यह नोट करते हुए कि सिस्टमों को ऑपरेटर और म्यूनिशन के बीच डेटा-कनेक्टिविटी की ज़रूरत के बिना लक्ष्यों पर हमला करने के लिए प्रोग्राम किया गया था (UN लीबिया रिपोर्ट, पैराग्राफ़ 63)। इस अंश को अक्सर मनुष्यों पर पहला स्वायत्त-ड्रोन हमला कहा जाता है। हालांकि, सार्वजनिक रिपोर्ट निर्णायक रूप से यह स्थापित नहीं करती कि किसी Kargu-2 ने स्वतंत्र रूप से किसी व्यक्ति को चुनकर मार डाला। विशेषज्ञ संचालन-मोड और परिणाम पर विवाद करते हैं। यह किसी प्रासंगिक संदर्भ में तैनाती का सबूत है, किसी पुष्ट स्वायत्त हत्या का प्रमाण नहीं।

ज़्यादा हालिया संघर्षों में व्यापक ड्रोन-उपयोग, कंप्यूटर विज़न, स्वचालित ख़ुफ़िया-प्रसंस्करण, और AI-समर्थित लक्ष्य-सिफ़ारिशें देखी गई हैं। सार्वजनिक रिपोर्टिंग में अक्सर यह तय करने के लिए पर्याप्त तकनीकी पहुंच नहीं होती कि किस मॉडल ने कौन-सा कार्य किया या ऑपरेटरों ने कितना नियंत्रण बरकरार रखा। सैन्य दावों, विक्रेता-विवरणों, और प्रेस-वृत्तांतों को एक निश्चितता में मिलाने के बजाय लेबल किया जाना चाहिए।

फिर भी विकास की दिशा स्पष्ट है: सशस्त्र सेनाएं ऐसे सिस्टमों में निवेश कर रही हैं जो संचार जाम होने पर काम कर सकें, सेंसर-डेटा को तेज़ी से प्रसंस्कृत कर सकें, और कई सस्ते प्लेटफ़ॉर्मों का समन्वय कर सकें। ज़्यादा स्वायत्तता सामरिक रूप से आकर्षक हो सकती है क्योंकि निरंतर रिमोट-कंट्रोल लिंक संवेदनशील होता है। क्या इससे ज़्यादा सुरक्षित सटीकता पैदा होती है या तेज़, कम जवाबदेह हिंसा, यह डिज़ाइन और सिद्धांत पर निर्भर करता है।

तीन अलग-अलग वृद्धि-रास्ते

गति-वृद्धि तब होती है जब स्वचालित चेतावनी, लक्ष्य-निर्धारण, या प्रतिक्रिया निर्णय-समय को संकुचित कर देती है। किसी संकट में, नेताओं को डर हो सकता है कि इंतज़ार करने से किसी प्रतिद्वंद्वी के मशीन-गति वाले सिस्टम को बढ़त मिल जाएगी। इससे कार्रवाइयों को पूर्व-अधिकृत करने का दबाव पैदा हो सकता है। कोई झूठी सेंसर-रीडिंग, मॉडल-त्रुटि, या अस्पष्ट युद्धाभ्यास लोगों के समझने से पहले फैल सकता है।

पैमाना-वृद्धि तब होती है जब स्वायत्तता कई सिस्टमों का समन्वय करना या लक्ष्य पैदा करना सस्ता बना देती है। कोई मानवीय संगठन जो दर्ज़नों फ़ैसलों की सावधानी से समीक्षा कर सकता था, शायद हज़ारों की सार्थक समीक्षा न कर सके। ज़्यादा मात्रा आकस्मिक मुठभेड़, नागरिक-नुकसान, और प्रतिशोध की मांगें बढ़ा सकती है, भले ही हर सिस्टम व्यक्तिगत रूप से ज़्यादा सटीक हो।

धारणा-वृद्धि तब होती है जब राज्य किसी विरोधी के सिस्टम, सिद्धांत, या नियंत्रण-स्तर को ग़लत समझते हैं। गोपनीयता यह जानना कठिन बनाती है कि कोई हथियार रक्षात्मक है या नहीं, क्या कोई कार्रवाई जान-बूझकर की गई थी, या क्या कोई मनुष्य उसे रोक सकता है। कोई AI-जनित सिफ़ारिश एक पक्ष को वस्तुनिष्ठ और दूसरे को आक्रामक लग सकती है।

ये प्रशंसनीय तंत्र हैं, यह सबूत नहीं कि AI अवश्यंभावी रूप से युद्ध शुरू करेगा। स्वचालन चेतावनी सुधार सकता है, ऑपरेटर-अधिभार कम कर सकता है, ख़तरों को रोक सकता है, और तनाव-कमी का समर्थन कर सकता है। परिणाम परीक्षण, संचार, सिद्धांत, और साझा बाधाओं पर निर्भर करता है।

परमाणु सिस्टमों के लिए ऊंची सीमा चाहिए

AI को परमाणु कमान, नियंत्रण, संचार, या पूर्व-चेतावनी से जोड़ना असाधारण दांव खड़े करता है। मशीन लर्निंग बड़े सेंसर-प्रवाहों का विश्लेषण करने में मदद कर सकती है, लेकिन अपारदर्शी ग़लतियां, विरोधी हेरफेर, और वितरण-परिवर्तन ख़तरनाक हैं जहां झूठा आत्मविश्वास विनाशकारी हो सकता है। जोखिम ज़रूरी नहीं कि कोई AI स्वतंत्र रूप से “परमाणु हथियार दाग रहा हो”। इसमें नेताओं का मिनटों में संकुचित, ख़राब रूप से कैलिब्रेटेड सलाह पाना भी शामिल है।

इसलिए परमाणु-उपयोग फ़ैसलों पर मानवीय ज़िम्मेदारी बनाए रखना केवल प्रतीकवाद से ज़्यादा है। सिस्टमों को अनिश्चितता और उद्गम देना चाहिए, स्वतंत्र चैनल सुरक्षित रखने चाहिए, नक़ल का प्रतिरोध करना चाहिए, और नेताओं को सत्यापित करने का समय देना चाहिए। किसी एक मॉडल-आउटपुट को निर्णायक संकेतक नहीं बनना चाहिए। अभ्यासों में केवल उपकरण-ख़राबी नहीं, बल्कि AI-विफलता और जान-बूझकर हेरफेर भी शामिल होना चाहिए।

जवाबदेही एल्गोरिदम पर ख़त्म नहीं हो सकती

इस्तेमाल की गई तकनीक के बावजूद अंतरराष्ट्रीय मानवीय कानून लागू होता है। भेद, आनुपातिकता, और हमले में सावधानियां अब भी मानवीय और राज्य के दायित्व हैं। फिर भी स्वायत्तता जांच को जटिल बनाती है: किसी हानिकारक परिणाम में प्रशिक्षण-डेटा, सेंसर-सीमाएं, किसी कमांडर के पैरामीटर, कोई सॉफ़्टवेयर-अपडेट, या ऑपरेटर-दुरुपयोग शामिल हो सकता है।

वह जटिलता जवाबदेही में अंतर के लिए कोई बहाना नहीं है। राज्य ट्रेस-योग्य लॉग, कानूनी समीक्षा, ऑडिट-योग्य परीक्षण, स्पष्ट कमान-ज़िम्मेदारी, और सिस्टम के संचालन-वातावरण पर सीमाएं मांग सकते हैं। डेवलपर्स और कमांडरों को पूर्वानुमेय विफलता-प्रकार और रोक-शर्तें परिभाषित करनी चाहिए। किसी ऐसे सिस्टम को तैनात नहीं किया जाना चाहिए जो समीक्षा के लिए बहुत अप्रत्याशित हो, केवल इसलिए कि ज़िम्मेदारी बंटी हुई है।

पूर्वाग्रह और संदर्भ भी मायने रखते हैं। साफ़-सुथरी इमेजरी पर परखा गया कोई विज़न-सिस्टम मौसम, मलबे, छलावरण, या अपरिचित आबादी में विफल हो सकता है। विरोधी जान-बूझकर सेंसरों को धोखा दे सकते हैं। किसी परीक्षण-समूह में औसत सटीकता यह जवाब नहीं देती कि क्या सिस्टम किसी विशेष लक्ष्य-वर्ग और वातावरण के लिए भरोसेमंद है।

अंतरराष्ट्रीय नीति-परिदृश्य

राज्यों ने वर्षों से Convention on Certain Conventional Weapons के भीतर घातक स्वायत्त हथियारों पर बहस की है बिना किसी बाध्यकारी उपकरण पर सहमत हुए। संयुक्त राज्य अमेरिका ने 2023 में एक ग़ैर-बाध्यकारी Political Declaration on Responsible Military Use of Artificial Intelligence and Autonomy शुरू की, जो समर्थकों को वरिष्ठ निगरानी, कठोर परीक्षण, और अप्रत्याशित व्यवहार करने वाले सिस्टमों को अलग करने की क्षमता सहित सिद्धांतों के प्रति प्रतिबद्ध करती है (अमेरिकी विदेश विभाग घोषणा)।

यह घोषणा मानदंड और व्यावहारिक सहयोग बना सकती है, लेकिन समर्थन प्रवर्तन नहीं है। नागरिक-समाज और राज्य के प्रस्ताव सार्थक मानवीय नियंत्रण के बिना लोगों को लक्षित करने वाले सिस्टमों पर प्रतिबंध से लेकर विशेष कार्यों को विनियमित करने और सकारात्मक दायित्व मांगने तक फैले हैं। परिभाषाओं, सत्यापन, और सैन्य बढ़त पर असहमति बनी हुई है।

उपयोगी निकट-अवधि के उपायों को किसी व्यापक संधि का इंतज़ार करने की ज़रूरत नहीं है। राज्य घटना-जानकारी का आदान-प्रदान कर सकते हैं, स्वायत्त परमाणु-प्रक्षेपण फ़ैसलों पर प्रतिबंध लगा सकते हैं, हथियार-समीक्षा की मांग कर सकते हैं, परीक्षण-मानक तय कर सकते हैं, व्यक्ति-लक्ष्यीकरण पर मानवीय नियंत्रण की रक्षा कर सकते हैं, और AI-संबंधित दुर्घटनाओं के लिए संचार-चैनल स्थापित कर सकते हैं।

सार्थक मानवीय नियंत्रण को क्या चाहिए

यह वाक्यांश परिचालनात्मक होना चाहिए। किसी मनुष्य को एक समझने-योग्य उद्देश्य और लक्ष्य-सीमा चाहिए; सिस्टम के आत्मविश्वास और सीमाओं के बारे में भरोसेमंद जानकारी; हस्तक्षेप के लिए पर्याप्त समय; एक उपयोग-योग्य रोक-तंत्र; और मना करने का कानूनी अधिकार। इंटरफ़ेस को तेज़ पुष्टिकरण को प्रोत्साहित करने के बजाय स्वचालन-पूर्वाग्रह का प्रतिरोध करना चाहिए। कार्रवाई के बाद, रिकॉर्ड को जांच और उपचार का समर्थन करना चाहिए। इस मैनुअल का साथी पेज ग्राउंड रोबोट, मानवाकार, और युद्ध के कानून यह जांचता है कि यह मानवीय-नियंत्रण आवश्यकता आज तैनात सशस्त्र ग्राउंड रोबोटों में वास्तव में कैसे लागू की जा रही है — या नहीं।

नियंत्रण किसी मुठभेड़ से पहले भी शुरू होता है। राजनीतिक नेता ख़रीद और सिद्धांत तय करते हैं; कमांडर पैरामीटर तय करते हैं; इंजीनियर डेटा और परीक्षण चुनते हैं। केवल अंतिम बटन-दबाव पर ध्यान केंद्रित करना इन परिणामकारी चुनावों को नज़रअंदाज़ करता है।

एक संतुलित निष्कर्ष

हथियारों में स्वायत्तता पहले से ही एक नीति और युद्धक्षेत्र की वास्तविकता है, लेकिन विशेष मुठभेड़ों के बारे में सार्वजनिक सबूत अक्सर अधूरा है। Kargu-2 रिपोर्ट को किसी सिद्ध स्वायत्त हत्या के रूप में फुला कर नहीं दिखाया जाना चाहिए, और निगरानी वाले लक्ष्य-निर्धारण को पूरी तरह स्वतंत्र युद्ध के रूप में ग़लत लेबल नहीं किया जाना चाहिए।

विनाशकारी चिंता विश्वसनीय रास्तों पर टिकी है: तेज़ फ़ैसले, बड़े पैमाने का समन्वय, नाज़ुक मानवीय समीक्षा, और रणनीतिक चेतावनी-सिस्टमों के साथ अंतःक्रिया। इनमें से कोई भी वृद्धि को अवश्यंभावी नहीं बनाता। मज़बूत मानवीय प्राधिकार, ऑडिट-योग्य डिज़ाइन, कानूनी जवाबदेही, साझा मानदंड, और परमाणु व व्यक्ति-लक्ष्यीकरण कार्यों के इर्द-गिर्द स्पष्ट सीमाएं सबूत के विकसित होते रहने के दौरान जोखिम कम कर सकती हैं।