पहले सटीक शब्दों का उपयोग करें
“ओपन-सोर्स AI” अक्सर बहुत अलग-अलग रिलीज़ों का वर्णन करता है। कोई डेवलपर प्रशिक्षण-डेटा, प्रशिक्षण-कोड, डेटा-प्रसंस्करण विधियां, मूल्यांकन-विवरण, या बदलने और पुनर्वितरित करने के व्यापक अधिकार रोकते हुए मॉडल-भार प्रकाशित कर सकता है। ओपन-सोर्स सॉफ़्टवेयर की परिभाषाओं को किसी अपारदर्शी डेटा-उद्गम वाले प्रशिक्षित मॉडल पर स्वतः लागू नहीं किया जा सकता।
इसलिए यह पेज ओपन वेट का इस्तेमाल तब करता है जब किसी मॉडल को चलाने और बदलने के लिए ज़रूरी संख्यात्मक पैरामीटर व्यापक रूप से उपलब्ध हों। किसी रिलीज़ में किसी प्रतिबंधात्मक लाइसेंस के तहत ओपन वेट हो सकते हैं, या वह बिना भार के ओपन कोड दे सकती है। दस्तावेज़ीकरण और पुनरुत्पादनीयता अलग-अलग आयाम हैं।
शब्दावली मायने रखती है क्योंकि फ़ायदे और जोखिम इस पर निर्भर करते हैं कि क्या जारी किया गया है। शोधकर्ता अकेले भार से प्रशिक्षण को पुनरुत्पन्न नहीं कर सकते, लेकिन भार फिर भी स्थानीय अनुमान, फ़ाइन-ट्यूनिंग, और आंतरिक विश्लेषण को सक्षम कर सकते हैं जिसे कोई API रोकता है।
व्यापक पहुंच के पक्ष में तर्क
ओपन वेट होस्ट किए गए प्रदाताओं के एक छोटे समूह पर निर्भरता कम करते हैं। डेवलपर्स अपनी ही अवसंरचना पर मॉडल चला सकते हैं, संवेदनशील प्रॉम्प्ट को किसी तीसरे-पक्ष सेवा से सुरक्षित रख सकते हैं, सिस्टमों को स्थानीय भाषाओं और क्षेत्रों के अनुकूल बना सकते हैं, और अगर कोई विक्रेता क़ीमत या नीति बदले तो भी काम जारी रख सकते हैं। प्रतिस्पर्धा लागत कम कर सकती है और तकनीकी क्षमता फैला सकती है।
शोधकर्ता प्रदाता की मंज़ूरी का इंतज़ार किए बिना एक्टिवेशनों की जांच कर सकते हैं, मॉडल-एडिटिंग परख सकते हैं, मूल्यांकन पुनरुत्पन्न कर सकते हैं, और पूर्वाग्रह या सुरक्षा की जांच कर सकते हैं। नागरिक समाज और विश्वविद्यालय किसी ऐसे मॉडल की जांच कर सकते हैं जिसका डेवलपर विशेषाधिकार-प्राप्त API पहुंच नहीं देता। स्थानीय तैनाती निजता और सीमित-कनेक्टिविटी वाले उपयोगों का समर्थन कर सकती है।
खुलापन ज्ञान को सुरक्षित भी रख सकता है। कोई बंद सेवा ग़ायब हो सकती है; किसी भार-रिलीज़ को संग्रहीत और अध्ययन किया जा सकता है। समुदाय सुगम्यता और भाषा-फ़ीचर बना सकते हैं जो किसी बड़े विक्रेता के लिए लाभदायक नहीं हैं।
ये फ़ायदे अपने-आप नहीं मिलते। किसी बड़े मॉडल को चलाने के लिए अब भी हार्डवेयर और विशेषज्ञता चाहिए। “लोकतंत्रीकरण” का मतलब सामान्य लोगों के बजाय अच्छी तरह वित्त-पोषित कंपनियों के लिए पहुंच हो सकता है। कोई ओपन-वेट प्रदाता पारिस्थितिकी-तंत्र के योगदान, क्लाउड-मांग, या मानक-निर्धारण से व्यावसायिक रूप से फ़ायदा उठा सकता है। उन प्रोत्साहनों का खुलासा किया जाना चाहिए, बिना सार्वजनिक फ़ायदों को ख़ारिज किए।
नियंत्रित पहुंच के पक्ष में तर्क
एक बार जब भार व्यापक रूप से मिरर हो जाते हैं, तो उन्हें भरोसेमंद ढंग से वापस नहीं बुलाया जा सकता। उपयोगकर्ता इनकार-प्रशिक्षण हटा सकते हैं, दुरुपयोग के लिए फ़ाइन-ट्यून कर सकते हैं, किसी केंद्रीय मॉनिटर से गतिविधि छुपा सकते हैं, और कई प्रतियां तैनात कर सकते हैं। यह प्रदर्शित है, काल्पनिक नहीं: शोधकर्ताओं ने एक हल्की फ़ाइन-ट्यूनिंग तकनीक का उपयोग करके एक ही GPU पर $200 से कम में Llama 2-Chat 70B के सुरक्षा-प्रशिक्षण को उलट दिया (Lermen et al., 2023)। कोई होस्ट किया गया प्रदाता दर-सीमा लगा सकता है, पैटर्न की निगरानी कर सकता है, व्यवहार को पैच कर सकता है, और खाते बंद कर सकता है; स्थानीय संचालन उस नियंत्रण का ज़्यादातर हिस्सा हटा देता है।
सीमांत जोखिम इस पर निर्भर करता है कि मॉडल मौजूदा उपकरणों, बंद API, विशेषज्ञ ज्ञान, और पहले के ओपन मॉडलों से परे क्या जोड़ता है। अगर कोई क्षमता पहले से ही कहीं और सस्ते में उपलब्ध है, तो भार को प्रतिबंधित करने से शायद थोड़ी सुरक्षा जुड़े। अगर भार काफ़ी ज़्यादा प्रभावी साइबर-शोषण, जैविक सहायता, धोखाधड़ी, या स्वायत्त संचालन को सक्षम करते हैं, तो अपरिवर्तनीय रिलीज़ बहुत मायने रख सकती है।
प्रासंगिक सवाल यह नहीं है कि क्या जानकारी का कभी दुरुपयोग हो सकता है, बल्कि यह है कि क्या यह रिलीज़ नुकसान पहुंचाने की संभावना रखने वाले पक्षों के लिए क्षमता, पैमाना, लागत, आरोपण (attribution), या पहुंच बदल देती है।
अमेरिकी सबूत-समीक्षा का निष्कर्ष क्या था
National Telecommunications and Information Administration (NTIA) ने 2024 में 332 सार्वजनिक टिप्पणियों और उपलब्ध सबूत की समीक्षा की। इसने निष्कर्ष निकाला कि उस समय का सबूत मॉडल-भार की व्यापकतम उपलब्धता पर तत्काल श्रेणीबद्ध प्रतिबंध का समर्थन करने के लिए अपर्याप्त था, साथ ही अगर जोखिम बदलें तो सक्रिय निगरानी और सरकारी प्रतिक्रिया-क्षमता की सिफ़ारिश की (NTIA, जुलाई 2024)।
यह निष्कर्ष तारीख़-अंकित और सशर्त है। यह यह साबित नहीं करता कि भविष्य की फ्रंटियर रिलीज़ें सुरक्षित हैं या यह कि प्रतिबंधों को कभी उचित नहीं ठहराया जा सकता। NTIA एक सरकारी एजेंसी है जो नवाचार, प्रतिस्पर्धा, और सुरक्षा को संतुलित करती है; कई प्रस्तुतियां इच्छुक कंपनियों और पैरोकारों से आईं। इसकी रिपोर्ट एक मज़बूत नीति-संश्लेषण है, कोई ऐसा प्रयोग नहीं जो शुद्ध सामाजिक प्रभाव साबित करे।
यूरोपीय संघ का विभेदित दृष्टिकोण
EU AI अधिनियम योग्य मुफ़्त और ओपन-सोर्स सामान्य-प्रयोजन मॉडलों को विशिष्ट दस्तावेज़ीकरण दायित्वों से कुछ छूट देता है, लेकिन कोई ब्लैंकेट छूट नहीं। प्रणालीगत जोखिम वाले सामान्य-प्रयोजन मॉडलों के प्रदाता अतिरिक्त दायित्वों के अधीन बने रहते हैं। कोई रिलीज़ योग्य है या नहीं, यह कानूनी मानदंडों पर निर्भर करता है, जिसमें पहुंच और खुलासा शामिल है — मार्केटिंग-भाषा नहीं (यूरोपीय आयोग GPAI दिशानिर्देश, 2025)।
यह क्षमता-स्तरीय शासन-व्यवस्था को दर्शाता है: प्रणालीगत-जोखिम मॉडलों के लिए दायित्व बनाए रखते हुए जहां सीमांत जोखिम प्रबंधनीय हों वहां खुलेपन को प्रोत्साहित करें। प्रवर्तन को अब भी अपरिवर्तनीय प्रकाशन से पहले क्षमता का मूल्यांकन करने की कठिनाई का सामना करना पड़ता है।
द्विआधारी चुनाव के विकल्प
पहुंच को चरणबद्ध किया जा सकता है। कोई डेवलपर आंतरिक और स्वतंत्र मूल्यांकनों से शुरू कर सकता है, फिर नियंत्रित शोध-पहुंच, एक होस्ट की गई सेवा, सुरक्षा-शर्तों के तहत जांचे गए संस्थानों को भार, और अंत में अगर सबूत समर्थन करे तो सार्वजनिक रिलीज़ की पेशकश कर सकता है। देरी बचावकर्ताओं को कमज़ोरियां पैच करने और नियामकों को तैयार होने देती है।
संरचित पहुंच प्रसार को सीमित करते हुए कुछ शोध-लाभ सुरक्षित रख सकती है, लेकिन यह ऐसे द्वारपाल बनाती है जो आलोचकों या प्रतिस्पर्धियों को बाहर रख सकते हैं। चयन-मानदंड, टकराव-नियम, अपील, प्रकाशन-अधिकार, और निगरानी ज़रूरी हैं। केवल मॉडल-डेवलपर द्वारा नियंत्रित कोई “विश्वसनीय शोधकर्ता” कार्यक्रम स्वतंत्र पारदर्शिता नहीं है।
अन्य विकल्पों में छोटे या डिस्टिल्ड मॉडल जारी करना, फ्रंटियर भार के बिना कोड और विस्तृत मूल्यांकन प्रकाशित करना, विश्लेषण के लिए सुरक्षित एन्क्लेव उपलब्ध कराना, या कुछ आचरण को प्रतिबंधित करने वाले लाइसेंस इस्तेमाल करना शामिल है। लाइसेंस वैध उपयोगकर्ताओं को प्रभावित करते हैं लेकिन दुर्भावनापूर्ण पक्षों के ख़िलाफ़ कमज़ोर तकनीकी बाधाएं हैं।
रिलीज़ का फ़ैसला कैसे लें
किसी गंभीर रिलीज़-आकलन को इनकी तुलना करनी चाहिए:
- मौजूदा ओपन और बंद विकल्पों के मुक़ाबले ख़तरनाक क्षमताएं;
- सुरक्षा-उपाय हटाने या फ़ाइन-ट्यून करने के लिए ज़रूरी कंप्यूट और विशेषज्ञता;
- वे फ़ायदे जिन्हें केवल API पहुंच के बजाय विशेष रूप से भार चाहिए;
- अप्रकाशित भार की सुरक्षा और चोरी का जोखिम;
- रिलीज़ के बाद दुरुपयोग की निगरानी करने की क्षमता;
- प्रभावित समूह, धनी राज्यों से बाहर के शोधकर्ताओं सहित;
- प्रतिवर्तनीयता और चरणबद्ध-पहुंच के विकल्प;
- मॉडल-दस्तावेज़ीकरण, लाइसेंस-अधिकार, और डेटा-उद्गम।
मूल्यांकनों को साइबर, रासायनिक और जैविक सहायता, अनुनय, स्वायत्त प्रतिकृति, निजता, और जहां प्रासंगिक हो सामान्य भेदभाव या धोखाधड़ी को कवर करना चाहिए। कोई बेंचमार्क सीमा पर्याप्त नहीं है अगर वह वास्तविक वर्कफ़्लो को दर्शाने में विफल रहती है।
अस्पष्टता के ज़रिए सुरक्षा ही एकमात्र मुद्दा नहीं है
बंद सिस्टमों के आलोचक बताते हैं कि भार रोकना कमज़ोरियां छुपा सकता है और भरोसे को संकेंद्रित कर सकता है। खुलेपन के आलोचक बताते हैं कि किसी हथियार-प्रासंगिक क्षमता को प्रकाशित करना किसी सॉफ़्टवेयर बग को ज़िम्मेदारी से उजागर करने के बराबर नहीं है। दोनों टिप्पणियां सच हो सकती हैं।
ज़िम्मेदार खुलासा आमतौर पर प्रभावित बचावकर्ताओं को कार्रवाई करने का समय देता है। कुछ मॉडलों के लिए, व्यापक जांच नुकसान से ज़्यादा बचाव पैदा कर सकती है; दूसरों के लिए, व्यापक पहुंच शमन-उपाय मौजूद होने से पहले एक अपरिवर्तनीय ख़तरा पैदा कर सकती है। सीमांत जोखिम और प्रतिक्रिया-तैयारी के बारे में सबूत को क्रम तय करना चाहिए।
AGI दांव बदल देती है लेकिन सबूत की ज़रूरत नहीं बदलती
किसी सहमत परीक्षण के तहत किसी ओपन मॉडल को AGI के रूप में स्थापित नहीं किया गया है। AGI भार जारी करने के बारे में दावे परिदृश्य-विश्लेषण हैं। अगर कोई मॉडल स्वायत्त रूप से उच्च-स्तरीय शोध कर सकता है, सिस्टमों का शोषण कर सकता है, संसाधन हासिल कर सकता है, या उत्तराधिकारियों को बेहतर बना सकता है, तो उसकी नक़ल नियंत्रण-रोकथाम को तेज़ी से कम कर सकती है। इसके विपरीत, उस क्षमता को अनन्य कॉर्पोरेट या राज्य नियंत्रण के तहत रखना गहरे संकेंद्रण और दुरुपयोग के जोखिम पैदा कर सकता है।
इसीलिए नारे विफल होते हैं। “खुला हमेशा ज़्यादा सुरक्षित है” अपरिवर्तनीयता को नज़रअंदाज़ करता है; “बंद हमेशा ज़्यादा सुरक्षित है” संकेंद्रण, चोरी, और जांच की कमी को नज़रअंदाज़ करता है। भविष्य की नीति को क्षमता और पहुंच की शर्तें परिभाषित करनी चाहिए, किसी ब्रांड-श्रेणी को विनियमित नहीं करना चाहिए।
एक संतुलित रुख़
मौजूदा कम-जोखिम मॉडलों के लिए, खुलापन पर्याप्त प्रतिस्पर्धा, शोध, लचीलेपन, निजता, और समावेशन के फ़ायदे दे सकता है। बढ़ती हुई क्षमता वाले मॉडलों के लिए, चरणबद्ध रिलीज़ और सबूत-आधारित मूल्यांकन ज़्यादा महत्वपूर्ण हो जाते हैं। प्रतिबंधों को एक विशिष्ट सीमांत जोखिम प्रदर्शित करना चाहिए, उचित प्रक्रिया देनी चाहिए, और उनकी दोबारा समीक्षा होनी चाहिए; रिलीज़ के फ़ैसलों को यह दिखाना चाहिए कि अपरिवर्तनीय पहुंच क्यों उचित है।
यह बहस स्वतंत्रता और सुरक्षा के बीच कोई चुनाव नहीं है। यह क्षमता, पहुंच, संकेंद्रण, जवाबदेही, और प्रतिवर्तनीयता से जुड़ी एक डिज़ाइन-समस्या है। सटीक शब्दावली और पारदर्शी सबूत उस समस्या को शासन-योग्य बनाते हैं।