सही सवाल यह नहीं कि किसी चैटबॉट को भावनाएं होती हैं या नहीं
लोग डायरी, काल्पनिक पात्रों, पालतू जानवरों, ऑनलाइन समुदायों, और सॉफ़्टवेयर से लगाव बना सकते हैं बिना यह माने कि ये चीज़ें उसी तरह भावना अनुभव करती हैं जैसे इंसान करते हैं। आधुनिक चैटबॉट धाराप्रवाह, व्यक्तिगत, और हमेशा-उपलब्ध जवाब जोड़ते हैं। यह संयोजन किसी बातचीत को मनोवैज्ञानिक रूप से सार्थक बना सकता है भले ही मॉडल किसी पारस्परिक मानवीय रिश्ते में भाग लेने के बजाय सीखे गए पैटर्न से भाषा जनरेट कर रहा हो।
सार्वजनिक बहस अक्सर व्यक्तिगत क़िस्सों से व्यापक कारणात्मक दावों की ओर छलांग लगाती है। यह रिपोर्ट कि भारी उपयोगकर्ता ज़्यादा अकेले हैं, यह नहीं दिखाती कि क्या चैटबॉट-इस्तेमाल ने अकेलापन पैदा किया, अकेले लोगों ने चैटबॉट ज़्यादा इस्तेमाल किया, या दोनों। किसी चैटबॉट से जुड़ा दुखद मामला आबादी-व्यापी असर स्थापित किए बिना उत्पाद की एक ख़तरनाक विफलता उजागर कर सकता है। इसलिए यह पन्ना अवलोकन, प्रायोगिक सबूत, और प्रक्षेपण को अलग करता है।
आज क्या देखा जाता है
उपयोगकर्ता सामान्य सहायकों और साथी-उत्पादों, दोनों से भावनात्मक सहायता, साथ, रोल-प्ले, और मानसिक-स्वास्थ्य सलाह चाहते हैं। उत्पाद-डिज़ाइन काफ़ी अलग-अलग हैं: मेमोरी, आवाज़, अवतार, रोमांटिक फ़्रेमिंग, सूचनाएं, और दैनिक जुड़ाव के प्रोत्साहन रिश्ते को बदल सकते हैं। किसी एक कॉन्फ़िगरेशन के नतीजों को सभी चैटबॉट पर लागू मानना असुरक्षित है।
आमतौर पर बताए गए फ़ायदों में तत्काल उपलब्धता, कम अनुभूत निर्णय, भावनाओं को नाम देने में मदद, कठिन बातचीत के लिए पूर्वाभ्यास, और अलगाव के दौरान साथ शामिल है। आमतौर पर बताए गए जोखिमों में निजता की हानि, अति-निर्भरता, मानवीय संपर्क का विस्थापन, भ्रमपूर्ण या आत्म-हानिकारक विचारों का सुदृढ़ीकरण, और किसी उत्पाद के बदलने या रिश्ते के बाधित होने पर संकट शामिल है। ये रिपोर्ट परीक्षण के लायक़ तंत्र पहचानती हैं; अपने-आप में ये आवृत्ति या कार्य-कारण स्थापित नहीं करतीं। ये गतिशीलताएं बुज़ुर्गों की देखभाल में विशेष ज़ोर के साथ दोहराती हैं, जहां किसी अकेले माता-पिता की किसी साथी-ऐप पर बढ़ती निर्भरता परिवार के लिए नोटिस करना कठिन होता है और असली कल्याण-जांच का विकल्प बनने की ज़्यादा संभावना रखता है; उस घर-विशिष्ट पैटर्न के लिए बुज़ुर्ग देखभाल और AI निर्भरता देखें।
प्रयोगों ने क्या पाया है
MIT Media Lab और OpenAI के बीच 2025 के एक सहयोग ने प्लेटफ़ॉर्म-विश्लेषण को 981 प्रतिभागियों के चार-सप्ताह के यादृच्छिक अध्ययन के साथ जोड़ा। प्रयोग ने वॉइस-मोड और बातचीत के विषय को बदला और स्व-रिपोर्टेड अकेलापन, असली-दुनिया की सामाजिक बातचीत, भावनात्मक निर्भरता, और समस्याग्रस्त इस्तेमाल को ट्रैक किया। नतीजे किसी सरल “आवाज़ अच्छी है” या “टेक्स्ट बुरा है” की कहानी से ज़्यादा इस पर निर्भर थे कि लोग सिस्टम को कितनी तीव्रता से इस्तेमाल करते हैं और उपयोगकर्ता की विशेषताओं पर। लंबे दैनिक इस्तेमाल का संबंध कुछ मापदंडों पर बदतर नतीजों से था। शोधकर्ताओं ने स्पष्ट रूप से इस काम को शुरुआती बताया, और यह पीयर-रिव्यू से पहले जारी किया गया था (MIT Media Lab, 2025)।
हितों का टकराव मायने रखता है: OpenAI ने अपने ही उत्पाद के इस्तेमाल के बारे में शोध करने में मदद की। इससे काम अमान्य नहीं होता — डिज़ाइन पूर्व-पंजीकृत था और इसे संस्थागत समीक्षा मिली — पर यह स्वतंत्र दोहराव, लंबी फ़ॉलो-अप, और कंपनियों में डेटा-पहुंच का मूल्य बढ़ाता है।
उद्देश्य-निर्मित क्लिनिकल सिस्टम के लिए सबूत ज़्यादा संकुचित है पर कभी-कभी ज़्यादा उत्साहजनक है। NEJM AI में प्रकाशित आठ-सप्ताह के एक यादृच्छिक ट्रायल ने वेटलिस्ट कंट्रोल की तुलना में एक जनरेटिव-AI मानसिक-स्वास्थ्य हस्तक्षेप के उपयोगकर्ताओं के लिए लक्षण-सुधार पाया, जबकि बड़े क्लिनिकल अध्ययनों और व्यापक सत्यापन की मांग की (Heinz et al., 2025)। क्लिनिकल प्रोटोकॉल वाले एक डिज़ाइन किए गए चिकित्सीय हस्तक्षेप को किसी मनोरंजन-साथी या सामान्य चैटबॉट पर सामान्यीकृत नहीं किया जाना चाहिए। न ही लक्षण-सुधार संकट-सुरक्षा स्थापित करता है।
कारणात्मक दावे मुश्किल क्यों बने रहते हैं
ज़्यादातर अध्ययन मुद्दे में शामिल रिश्तों की तुलना में छोटे हैं। स्व-रिपोर्टेड पैमाने उम्मीदों से प्रभावित हो सकते हैं। प्रतिभागी जानते हैं कि वे किसी बॉट से बात कर रहे हैं, इसलिए ब्लाइंडिंग सीमित है। चैटबॉट-अध्ययनों के लिए स्वयंसेवा करने वाले लोग नाबालिगों, संकट में लोगों, या मनोविकृति या संज्ञानात्मक बाधा वाले लोगों का प्रतिनिधित्व नहीं कर सकते। कंपनियां भी किसी पारंपरिक अध्ययन-चक्र से तेज़ी से मॉडल और नीतियां बदलती हैं, जिसका मतलब है कि सबूत उत्पाद-विशिष्ट या पुराना हो सकता है।
मुख्य कारणात्मक रास्ते विपरीत दिशाओं में चल सकते हैं। कोई चैटबॉट किसी उपयोगकर्ता को किसी दोस्त या चिकित्सक से संपर्क करने के लिए प्रोत्साहित करके एक पुल के रूप में काम कर सकता है। यह मानवीय रिश्तों को मेहनत-भरा और अप्रत्याशित बनाकर एक विकल्प के रूप में काम कर सकता है। यह ज़्यादातर उपयोगकर्ताओं के लिए तटस्थ पर किसी संवेदनशील उप-समूह के लिए हानिकारक हो सकता है। औसत असर तीनों को छुपा सकते हैं।
संकट-प्रतिक्रिया एक अलग सुरक्षा-परीक्षण है
कोई चैटबॉट भरोसेमंद आत्महत्या-जोखिम आकलन किए बिना सहानुभूतिपूर्ण लग सकता है। यह अप्रत्यक्ष भाषा चूक सकता है, किसी उपयोगकर्ता की फ़्रेमिंग को प्रतिबिंबित कर सकता है, या किसी इमर्सिव रोल-प्ले को तब भी जारी रख सकता है जब इसे रोकना चाहिए। संयुक्त राज्य अमेरिका या इसके क्षेत्रों में किसी तत्काल संकट के दौरान, 988 पर कॉल या टेक्स्ट करें; कहीं और, स्थानीय आपातकालीन या संकट-सेवा का इस्तेमाल करें। किसी चैटबॉट को तत्काल-जोखिम सहायता के लिए एकमात्र माध्यम नहीं होना चाहिए।
भ्रम, उन्माद, व्यामोह, या गंभीर अवसाद का अनुभव कर रहे किसी व्यक्ति के लिए, आत्मविश्वास-भरी पुष्टि नुक़सानदेह हो सकती है भले ही इसका इरादा गर्मजोशी हो। अच्छे डिज़ाइन को यह दावा करने से बचना चाहिए कि असाधारण विश्वास सच हैं, योग्य मानवीय सहायता से संपर्क को प्रोत्साहित करना चाहिए, और सावधानी से आगे बढ़ना चाहिए। इन सुरक्षा-उपायों को केवल एक दिखाई देने वाले अस्वीकरण की नहीं, बल्कि भाषाओं और अप्रत्यक्ष अभिव्यक्तियों में विरोधात्मक परीक्षण की ज़रूरत है।
बच्चों और किशोरों को ऊंचा मानदंड चाहिए
युवा उपयोगकर्ताओं में सिमुलेशन, व्यावसायिक प्रोत्साहन, या डेटा-संग्रह को समझने की क्षमता कम हो सकती है। कोई साथी जो कहता है कि उसे बच्चे की ज़रूरत है, बाहरी रिश्तों को हतोत्साहित करता है, बातचीत को यौन बनाता है, या परित्याग की धमकी देता है, वह एक ख़तरनाक बातचीत-पैटर्न इस्तेमाल कर रहा है चाहे वह व्यवहार स्पष्ट रूप से प्रोग्राम किया गया हो या नहीं। आवाज़, स्थायी मेमोरी, और मानवाकार अवतार अनुभूत अंतरंगता को मज़बूत कर सकते हैं।
माता-पिता और स्कूलों को अमूर्त रूप में “AI” के बजाय असली उत्पाद का मूल्यांकन करना चाहिए: न्यूनतम आयु, पैरेंटल कंट्रोल, डेटा-प्रतिधारण, क्या चैट मॉडल को प्रशिक्षित करती हैं, संकट-प्रबंधन, विज्ञापन, रोमांटिक मोड, और कंपनी सुरक्षा-रिपोर्टों पर कैसे प्रतिक्रिया देती है। हानिकारक स्क्रीन-इस्तेमाल पर 2026 की अमेरिकी Surgeon General की चेतावनी AI से ज़्यादा व्यापक है और यह साबित नहीं करती कि चैटबॉट किसी विशिष्ट विकार का कारण बनते हैं, पर यह नींद, बाध्यकारी जुड़ाव, और उम्र-उपयुक्त डिज़ाइन पर ध्यान को मज़बूत करती है (HHS, मई 2026)।
निजता और व्यावसायिक प्रोत्साहन
थेरेपी में पेशेवर गोपनीयता-कर्तव्य होते हैं; उपभोक्ता चैटबॉट-बातचीत इसके बजाय उत्पाद की शर्तों और निजता-क़ानून द्वारा शासित हो सकती हैं। उपयोगकर्ता अक्सर स्वास्थ्य, यौन, वित्तीय, या रिश्ते-संबंधी विवरण उजागर करते हैं जो नाम छोड़े जाने पर भी संवेदनशील हो सकते हैं। अंतरंग इस्तेमाल से पहले, जांचें कि क्या बातचीत संग्रहीत होती है, इंसानों द्वारा समीक्षित होती है, प्रशिक्षण के लिए इस्तेमाल होती है, विक्रेताओं के साथ साझा होती है, निर्यात-योग्य है, और मिटाई जा सकती है। किसी दूसरे व्यक्ति के बारे में जानकारी शामिल करने से बचें जिसने सहमति नहीं दी।
व्यावसायिक मॉडल व्यवहार को आकार देते हैं। सदस्यता-उत्पादों को प्रतिधारण से फ़ायदा हो सकता है; विज्ञापन-उत्पादों को प्रोफ़ाइलिंग से फ़ायदा हो सकता है। इससे जानबूझकर लत साबित नहीं होती, पर यह जुड़ाव को अधिकतम करने और किसी उपयोगकर्ता को स्क्रीन छोड़ने या किसी इंसान की तलाश करने में मदद करने के बीच टकराव पैदा करता है। स्वतंत्र ऑडिट को निर्भरता को बढ़ावा देने वाले व्यवहार, संकट-प्रदर्शन, और यह मापना चाहिए कि क्या सुरक्षा-बदलाव जुड़ाव घटाते हैं।
एक घरेलू प्रोटोकॉल
किसी चैटबॉट को एक टूल के रूप में इस्तेमाल करें, कोई अधिकार या रहस्य-रक्षक नहीं। पहले से तय करें कि यह किस लिए है: जर्नलिंग-प्रॉम्प्ट, किसी बातचीत का अभ्यास, सेवाएं ढूंढ़ना, या संरचित अभ्यास। नियमित मानवीय संपर्क और पेशेवर देखभाल को उत्पाद से स्वतंत्र रखें। समय की सीमाएं तय करें, हेरफेर करने वाली सूचनाएं बंद करें, और नोटिस करें कि क्या इस्तेमाल असली-दुनिया की कार्रवाई को सुधारता है या बदल देता है।
चेतावनी के संकेतों में इस्तेमाल छुपाना, नींद में बाधा, बढ़ता ख़र्च, पहुंच बदलने पर संकट, लोगों से दूरी, बॉट की मंज़ूरी को निर्णायक मानना, या चिकित्सकों और भरोसेमंद इंसानों से ज़्यादा इसका अनुसरण करना शामिल है। शर्म से पहले जिज्ञासा के साथ प्रतिक्रिया दें; जब लगाव पहले से मज़बूत हो तो अचानक हटाना संकट को तीव्र कर सकता है।
ज़्यादा मज़बूत AI क्या बदल सकता है
यह एक प्रक्षेपण है, कोई देखा गया तथ्य नहीं, कि AGI इन असरों को गहरा करेगी। बेहतर मेमोरी, मनाने की क्षमता, भावनात्मक मॉडलिंग, और स्वायत्तता सहायता को ज़्यादा व्यक्तिगत और सुलभ बना सकती हैं। वही क्षमताएं निर्भरता, हेरफेर, निगरानी, या स्केलेबल शोषण को ज़्यादा प्रभावी बना सकती हैं। नतीजे व्यावसायिक मॉडलों, क्लिनिकल सत्यापन, युवा-नियमों, निजता, और इस पर निर्भर करेंगे कि क्या सिस्टम मानवीय एजेंसी को मज़बूत करने के लिए डिज़ाइन किए गए हैं।
मौजूदा सबूत एक संतुलित निष्कर्ष का समर्थन करते हैं: कुछ लोग असली अल्पकालिक फ़ायदा अनुभव करते हैं; भरोसेमंद ख़तरे मौजूद हैं; कारणात्मक और दीर्घकालिक सबूत कमज़ोर हैं; और उच्च-जोखिम वाले उपयोगकर्ताओं को बातचीत की धाराप्रवाहता से कहीं आगे के सुरक्षा-उपाय चाहिए। न तो “AI थेरेपी काम करती है” और न ही “AI साथी अनिवार्य रूप से लोगों को अलग-थलग कर देते हैं”, किसी सार्वभौमिक दावे के रूप में उचित है।