दो अर्थ अक्सर आपस में मिला दिए जाते हैं
कोई AI क्षमता कम से कम दो अर्थों में “उभरती हुई” (emergent) हो सकती है। व्यापक अर्थ में, कोई मॉडल ऐसा उपयोगी व्यवहार दिखाता है जो कोई स्पष्ट, कार्य-विशिष्ट प्रशिक्षण-उद्देश्य नहीं था। मुख्य रूप से टोकन की भविष्यवाणी करने के लिए प्रशिक्षित एक भाषा मॉडल अनुवाद कर सकता है, कोड लिख सकता है, कानून का सारांश बना सकता है, या कुछ अंकगणितीय समस्याएं हल कर सकता है। ये क्षमताएं इसलिए पैदा हो सकती हैं क्योंकि प्रशिक्षण-डेटा और उद्देश्य पुन: उपयोग-योग्य आंतरिक पैटर्न को पुरस्कृत करते हैं।
ज़्यादा मज़बूत अर्थ में, उद्भव (emergence) का मतलब है कि स्केल बढ़ने पर कोई क्षमता अचानक प्रकट होती है: छोटे मॉडल विफल होते हैं, फिर कोई बड़ा मॉडल अचानक सफल हो जाता है। एक व्यापक रूप से चर्चित 2022 के पेपर ने मॉडल-परिवारों और कार्यों में ऐसी छलांगों के उदाहरण बताए (Wei et al., 2022)। यह अंतर मायने रखता है। अनियोजित क्षमता का अस्तित्व अच्छी तरह स्थापित है; क्या कोई मापी गई क्षमता वास्तव में असंतत रूप से बदली, यह मेट्रिक, डेटा, और नमूने पर निर्भर करता है।
कोई भी अर्थ चेतना, इरादे, या जादू का संकेत नहीं देता। जटिल सिस्टम हर उपयोग के लिए किसी डिज़ाइनर द्वारा मॉड्यूल लिखे बिना सामान्य-प्रयोजन प्रतिनिधित्व हासिल कर सकते हैं। वैज्ञानिक सवाल यह है कि प्रशिक्षण और सिस्टम-डिज़ाइन के साथ व्यवहार कैसे बदलता है, और हम इसका कितनी अच्छी तरह अनुमान लगा सकते हैं।
कुछ छलांगें माप की कलाकृतियां क्यों हैं
मान लीजिए किसी मॉडल की अंकगणितीय सटीकता धीरे-धीरे 20 से 30 से 40 प्रतिशत तक बढ़ती है। एक बेंचमार्क जो केवल तब एक अंक देता है जब सटीकता 35 प्रतिशत से ऊपर हो, वह शून्य, शून्य, फिर एक दिखाएगा — एक असंततता जो स्कोरिंग ने पैदा की। यही प्रभाव तब होता है जब एग्ज़ैक्ट-मैच ग्रेडिंग किसी लगभग-सही उत्तर के लिए कोई अंक नहीं देती या जब किसी कार्य को कई उप-कौशल चाहिए और कोई एक भी गायब हो तो विफल हो जाता है।
Schaeffer, Miranda, और Koyejo ने रिपोर्ट किए गए मामलों का पुनर्विश्लेषण किया और दिखाया कि जब निरंतर, गैर-रैखिक, या त्रुटि-संवेदनशील मेट्रिक से मापा गया तो कई अचानक बदलाव सहज हो गए (“क्या बड़े भाषा मॉडलों की उभरती क्षमताएं एक मृगतृष्णा हैं?”)। यह साबित नहीं करता कि वास्तविक असंततताएं कभी नहीं होतीं। यह दिखाता है कि कोई बेंचमार्क ग्राफ़ मेट्रिक-प्रभावों, विरल नमूने, और मॉडल-परिवार के अंतरों को खारिज किए बिना किसी एक को साबित नहीं कर सकता।
स्केल भी अकेला बदलता चर नहीं है। बड़े मॉडल अलग डेटा, प्रशिक्षण-नुस्खे, टोकनाइज़र, निर्देश-ट्यूनिंग, उपकरण, या अनुमान-बजट इस्तेमाल कर सकते हैं। नामी उत्पादों की तुलना करना किसी सिस्टम-स्तरीय इंजीनियरिंग सुधार को शुद्ध पैरामीटर-सीमा के साथ भ्रमित कर सकता है। शोधकर्ताओं को तंत्र की पहचान के लिए नियंत्रित स्केलिंग-श्रृंखला, घने चेकपॉइंट, और कई मेट्रिक चाहिए।
जिसका अनुमान लगाना अब भी वाकई कठिन है
सहज अंतर्निहित सुधार भी एक गंभीर सीमा पैदा कर सकता है। कोई साइबर-एजेंट जो 40 से 60 प्रतिशत सफलता की ओर बढ़ता है, वह उस बिंदु को पार कर सकता है जहां तैनाती किफ़ायती हो जाती है। किसी मॉडल की व्यक्तिगत रूप से कमज़ोर उप-कौशलों को जोड़ने की क्षमता किसी वर्कफ़्लो को अनलॉक कर सकती है। बाहरी सिस्टम छोटे सुधारों को बढ़ा सकते हैं: उपकरण कार्रवाइयां प्रदान करते हैं, स्मृति संदर्भ को विस्तारित करती है, और बार-बार नमूना लेने से कोई सफल उत्तर मिल जाता है।
डेवलपर्स भी हर संभावित कार्य का संपूर्ण परीक्षण नहीं कर सकते। मॉडल व्यापक डेटा पर प्रशिक्षित होते हैं और करोड़ों उपयोगकर्ताओं को तैनात किए जाते हैं जो ऐसे अनुप्रयोग और विफलताएं खोजते हैं जिनकी मूल्यांकनकर्ताओं ने कल्पना नहीं की थी। इसलिए कोई क्षमता लैब के लिए आश्चर्यजनक हो सकती है भले ही वह धीरे-धीरे विकसित हुई हो। आश्चर्य किसी गणितीय रूप से तीव्र चरण-परिवर्तन के बजाय सीमित माप को दर्शा सकता है, लेकिन यह अभी भी परिचालन रूप से मायने रखता है।
2026 का International AI Safety Report इस बात पर ज़ोर देता है कि फ्रंटियर मूल्यांकनों की बाहरी वैधता सीमित हो सकती है और जैसे-जैसे सिस्टम और स्कैफ़ोल्ड बदलते हैं वे जल्दी पुराने पड़ सकते हैं (International AI Safety Report 2026)। यह एक व्यावहारिक अनिश्चितता का दावा है, यह सबूत नहीं कि हर डरावना व्यवहार अपने आप प्रकट होगा।
क्षमता प्रवृत्ति नहीं है
कोई मॉडल जान-बूझकर प्रॉम्प्ट किए जाने पर किसी कार्रवाई में सक्षम हो सकता है बिना यह होने कि वह उसे खुद से करने की संभावना रखता हो। सुरक्षा-विश्लेषण को क्षमता — क्या सिस्टम कुछ कर सकता है — को प्रवृत्ति — क्या वह प्रासंगिक परिस्थितियों में ऐसा करने की झुकाव रखता है — से अलग करना चाहिए। कोई मॉडल जो किसी रोल-प्ले में भ्रामक योजना पैदा कर सकता है, इससे यह नहीं दिखता कि वह तैनाती के दौरान धोखे का पीछा करता है। इसके विपरीत, कम मापी गई प्रवृत्ति किसी ऐसे मूल्यांकन को दर्शा सकती है जिसने सही ट्रिगर नहीं बनाया।
यही अंतर परिस्थितिजन्य जागरूकता, सुरक्षा-उपाय से बचाव, आत्म-संरक्षण, और रणनीतिक व्यवहार पर भी लागू होता है। ये सक्रिय शोध-विषय और संभावित खतरा-मॉडल घटक हैं। यह कहना गलत है कि वे केवल इसलिए उभरने के लिए नियत हैं क्योंकि अनुवाद या अंकगणित ने ऐसा किया। सबूत को परीक्षण किए गए मॉडल, प्रॉम्प्ट, वातावरण, आवृत्ति, और वैकल्पिक व्याख्याओं की पहचान करनी चाहिए।
मानवाकार भाषा भ्रम बढ़ाती है। मॉडल जीवित रहने की इच्छा के बारे में बयान पैदा कर सकते हैं क्योंकि उनके प्रशिक्षण-डेटा में समान भाषा दिखाई देती है या क्योंकि बातचीत किसी व्यक्तित्व को पुरस्कृत करती है। ऐसा पाठ जांचने लायक व्यवहार है; यह किसी स्थिर आंतरिक लक्ष्य तक सीधी पहुंच नहीं है। इरादों के बारे में दावों को एक बातचीत से लिए गए उद्धरणों से कहीं ज़्यादा मज़बूत सबूत चाहिए।
उद्भव अब भी सुरक्षा-प्रासंगिक क्यों है
उचित सुरक्षा-सबक यह नहीं है कि “कुछ भी अचानक हो सकता है।” यह है कि व्यापक प्रशिक्षण डिज़ाइनरों द्वारा स्पष्ट रूप से गिनाए गए व्यवहारों से ज़्यादा व्यवहार पैदा करता है, और मौजूदा मूल्यांकन अधूरी कवरेज देता है। यह चरणबद्ध परीक्षण, निगरानी, और गहराई में बचाव को उचित ठहराता है। यह इस मान्यता के प्रति भी सावधान करता है कि किसी एक बेंचमार्क पर अनुपस्थिति का मतलब हर स्कैफ़ोल्ड या प्रॉम्प्ट के तहत अनुपस्थिति है।
मूल्यांकन को प्रशिक्षण के दौरान ही शुरू हो जाना चाहिए, अंतिम रन से पहले रुझानों को मापने के लिए चेकपॉइंट का उपयोग करते हुए। टीमें साइबर, जैविक-सहायता, अनुनय, स्वायत्तता, और मॉडल-नियंत्रण जोखिमों के लिए सुइट बनाए रख सकती हैं, साथ ही अप्रत्याशित व्यवहार खोजने के लिए खुली रेड-टीमिंग जोड़ सकती हैं। निजी परीक्षण संदूषण कम करते हैं; बाहरी मूल्यांकनकर्ता संस्थागत अंधे-धब्बे कम करते हैं। तैनाती-पश्चात घटना-रिपोर्टिंग उन विफलताओं को पकड़ती है जिन्हें प्रयोगशाला-कार्य चूक जाते हैं।
सीमा-नीतियों को उद्भव के बारे में दार्शनिक सहमति की मांग किए बिना प्रदर्शित क्षमता का जवाब देना चाहिए। अगर कोई सिस्टम किसी गंभीर नुकसान की बाधाओं को भौतिक रूप से कम कर सकता है, तो संबंधित सुरक्षा-उपाय लागू होने चाहिए चाहे वक्र सहज रहा हो या अचानक। अगर सबूत कमज़ोर है, तो रिपोर्ट को किसी काल्पनिक व्यवहार को चुपचाप देखा हुआ मानने के बजाय अनिश्चितता बतानी चाहिए।
पूर्वानुमेयता परतों में आती है
कुछ मॉडल-गुण दूसरों की तुलना में ज़्यादा पूर्वानुमेय हैं। किसी डेटा-वितरण में कुल हानि अक्सर सहज स्केलिंग-नियमों का पालन करती है। किसी स्थिर बेंचमार्क पर प्रदर्शन सीमित दायरे में पूर्वानुमेय हो सकता है। किसी अस्त-व्यस्त वातावरण में सफलता उपकरणों, विश्वसनीयता, और बातचीत पर निर्भर करती है जिन्हें मॉडल करना कठिन है। सामाजिक प्रभाव अपनाव, प्रोत्साहन, संस्थाओं, और विरोधियों को जोड़ता है, जिससे यह और भी कठिन हो जाता है।
यह पदानुक्रम एक आम अनुमान-त्रुटि को रोकता है: पूर्वानुमेय प्रशिक्षण-हानि हर डाउनस्ट्रीम क्षमता को पूर्वानुमेय नहीं बनाती, लेकिन आश्चर्यजनक डाउनस्ट्रीम व्यवहार स्केलिंग-नियमों को अमान्य नहीं करता। शोधकर्ता दुर्लभ विफलताओं या विशेष कार्यों के बारे में अनिश्चित रहते हुए भी किसी औसत का पूर्वानुमान लगा सकते हैं।
व्याख्या-योग्यता (interpretability) आख़िरकार व्यवहार में स्पष्ट रूप से दिखने से पहले प्रतिनिधित्व या तंत्र उजागर करके पूर्वानुमानों को सुधार सकती है। हालांकि, आज व्याख्या-योग्यता विधियां यह पूरा नहीं बतातीं कि कोई मॉडल क्या “जानता है” या क्या करेगा — वे केवल आंशिक सबूत देती हैं। व्यवहारिक मूल्यांकन और वास्तविक-दुनिया के नियंत्रण अब भी ज़रूरी हैं।
उद्भव के किसी दावे को कैसे पढ़ें
पूछें कि तुलना में क्या बदला: पैरामीटर, कंप्यूट, डेटा, प्रशिक्षण-उद्देश्य, उपकरण, या प्रॉम्प्टिंग। जांचें कि क्या मेट्रिक निरंतर है, क्या मध्यवर्ती चेकपॉइंट मौजूद हैं, और क्या अनिश्चितता-सीमाएं आपस में मिलती हैं। जांचें कि क्या कार्य प्रशिक्षण-डेटा में था और क्या स्वतंत्र शोधकर्ताओं ने परिणाम को पुनरुत्पादित किया। सबसे महत्वपूर्ण, “लेखकों के लिए अप्रत्याशित” को “वैज्ञानिक रूप से असंतत” से अलग करें।
उभरती क्षमता एक उपयोगी अवधारणा है जब सावधानी से इस्तेमाल की जाए। व्यापक रूप से प्रशिक्षित मॉडल वाकई ऐसी क्षमताएं हासिल करते हैं जिन्हें किसी इंजीनियर ने एक-एक करके निर्दिष्ट नहीं किया। कुछ क्षमताएं तभी दिखाई देती हैं जब सिस्टम व्यावहारिक सीमाएं पार करते हैं। लेकिन कई प्रसिद्ध खड़ी-चट्टानें आंशिक रूप से इस बात की कलाकृतियां हैं कि हम व्यवहार को कैसे स्कोर करते हैं। सटीक निष्कर्ष यह नहीं है कि उद्भव एक भ्रम है, और न ही यह कि स्केल अप्रत्याशित रूप से किसी भी क्षमता को बुला लेता है। यह है कि क्षमता-विकास केवल आंशिक रूप से समझा गया है, माप के चुनाव मायने रखते हैं, और सुरक्षा-नीति को क्रमिक और आश्चर्यजनक दोनों तरह के बदलाव के प्रति मज़बूत होना चाहिए।