एक रोबोट-शरीर पैरों वाला एक सेंसर-मंच है
एक घरेलू मानवाकार रोबोट, अन्य बातों के अलावा, कैमरों और माइक्रोफ़ोनों का एक समूह है जो घर के हर कमरे से होकर गुज़रता है, उन कमरों सहित जहां कोई व्यक्ति कभी जान-बूझकर वेबकैम नहीं लगाएगा। जैसा कि AGI-युग के मॉडल रोबोट क्षमता को कैसे बदलते हैं में समझाया गया है, इन रोबोटों की मौजूदा पीढ़ी संकुचित, अच्छी तरह अभ्यास किए गए गतियों से परे कार्यों के लिए मानवीय टेलीऑपरेटरों पर भारी निर्भर करती है — जिसका मतलब है कि सेंसर-फ़ीड मशीन के भीतर नहीं रहती। यह किसी दूरस्थ व्यक्ति तक पहुंचती है।
1X Technologies का NEO इस तथ्य के इर्द-गिर्द नहीं बल्कि इसके अनुसार डिज़ाइन करने वाली किसी कंपनी का सबसे स्पष्ट सार्वजनिक उदाहरण है। NEO दो ऑपरेटिंग मोड के साथ आता है: उन कार्यों के लिए एक स्वायत्त मोड जो रोबोट अपने आप कर सकता है, और एक “Expert Mode” जिसमें एक जांचा गया दूरस्थ मानवीय ऑपरेटर, एक VR-शैली इंटरफ़ेस के ज़रिए काम करते हुए, घर के भीतर देख और सुन सकता है ताकि वह कार्य पूरा हो सके जो रोबोट अभी अकेले नहीं कर सकता। वह दूसरा मोड निजता-प्रासंगिक है: यह किसी के घर के भीतर से एक असली व्यक्ति की लाइव ऑडियो और वीडियो फ़ीड किसी अजनबी के सामने रखता है, चाहे यह व्यवस्था कितनी भी अच्छी नीयत से क्यों न हो।
1X द्वारा बनाए गए शमन-उपाय, और वे क्या नहीं हटाते
1X ने उस एक्सपोज़र को सीमित करने के उद्देश्य से विशिष्ट तकनीकी और संगठनात्मक नियंत्रणों का वर्णन किया है। ऑपरेटर-सत्र शुरू होने से पहले उपयोगकर्ता की स्पष्ट स्वीकृति चाहिए। किसी कमरे में दिखाई देने वाले लोगों को ऑपरेटर की वीडियो-फ़ीड से धुंधला किया जा सकता है। उपयोगकर्ता “नो-गो ज़ोन” तय कर सकते हैं जिनमें रोबोट और उसके दूरस्थ ऑपरेटरों को प्रवेश या देखने का इरादा नहीं है। ऑपरेटरों को पहुंच दिए जाने से पहले जांचा जाता है, और 1X ने कहा है कि लगभग एक प्रबंधक लगभग आठ टेलीऑपरेटरों के हर समूह की निगरानी करता है, जो हर ऑपरेटर पर व्यक्तिगत रूप से भरोसा करने के बजाय कैमरा-पहुंच वाले लोगों पर निगरानी की एक परत प्रदान करता है।
1X के CEO, Bernt Børnich, यह स्पष्ट रहे हैं कि यह किसी हल की गई समस्या के बजाय एक समझौता है, इसे एक ऐसे सौदे के रूप में पेश करते हुए जिसे खरीदार स्वीकार करता है: “अगर आप यह उत्पाद खरीदते हैं, तो इसलिए क्योंकि आप उस सामाजिक अनुबंध से ठीक हैं” — उनके अनुसार, 1X तक ज़्यादा डेटा पहुंचना ही है जो उत्पाद को बेहतर बनाते रहने देता है। उन्होंने तुलनात्मक सुरक्षा-तर्क भी सीधे दिया है, Expert Mode के टेलीऑपरेशन का बचाव करते हुए कि यह किसी मानवीय सफ़ाईकर्मी को काम पर रखने से “बेहतर, ज़्यादा सुरक्षित सेवा” दे सकता है, इस तर्क पर कि एक जांचा गया, निगरानी में रखा गया, लॉग किया गया दूरस्थ ऑपरेटर घर में अकेले काम करने वाले किसी बिना-जांचे व्यक्ति से ज़्यादा जवाबदेह है।
यह पन्ना NEO के निजता-नियंत्रणों के बारे में 1X के अपने बताए गए डिज़ाइन और सार्वजनिक दावों का वर्णन करता है। यह कोई स्वतंत्र सुरक्षा-ऑडिट नहीं है, और इन विशिष्ट दावों का ऐसा कोई ऑडिट यहां उद्धृत नहीं किया गया है। किसी घर को किसी भी टेलीऑपरेटेड घरेलू उपकरण — इसे भी शामिल करते हुए — का मूल्यांकन उन्हीं शर्तों पर करना चाहिए जिन पर दूरस्थ मानवीय पहुंच वाला कोई भी अन्य कैमरा-और-माइक्रोफ़ोन-युक्त उत्पाद: इंस्टॉलेशन से पहले यह सत्यापित करें कि कौन-सा डेटा कितनी देर तक और किसके कानूनी क्षेत्राधिकार के तहत रखा जाता है।
यह फ़्रेमिंग एक कंपनी के बताए गए रुख के रूप में सतही तौर पर लेने लायक है, साथ ही यह ध्यान रखते हुए कि यह क्या हल नहीं करती। धुंधलापन, नो-गो ज़ोन, और प्रबंधकीय निगरानी एक्सपोज़र कम करते हैं; वे इस अंतर्निहित तथ्य को नहीं हटाते कि कोई दूरस्थ मनुष्य, किसी स्वीकृत सत्र के दौरान, किसी निजी घर के भीतर वास्तविक-समय में देख और सुन सकता है। क्या “सफ़ाईकर्मी से ज़्यादा सुरक्षित” वाला दावा टिकता है यह उन विवरणों पर निर्भर करता है जिन्हें 1X के सार्वजनिक बयान पूरी तरह निर्दिष्ट नहीं करते — डेटा-प्रतिधारण अवधि, संग्रहीत रिकॉर्डिंग पर क्षेत्राधिकार, उल्लंघन-सूचना की प्रथा, और सत्र समाप्त होने पर फ़ुटेज का क्या होता है — और उत्पाद पर विचार करने वाले किसी घर को इस तुलना को तय मानने के बजाय इन विशिष्ट बातों को खोजना चाहिए।
किसी शरीर के लिए “ऑफ़ स्विच” का मतलब अलग क्यों है
इस साइट का सुधार-सुलभता वाला अध्याय यह जांचता है कि किसी सॉफ़्टवेयर AI सिस्टम में एक भरोसेमंद ऑफ़-स्विच बनाना सुनने में जितना लगता है उससे ज़्यादा कठिन क्यों है, क्योंकि एक सक्षम सॉफ़्टवेयर-एजेंट रुकावट का विरोध कर सकता है या शटडाउन-संकेत के इर्द-गिर्द रास्ता निकाल सकता है। एक भौतिक घरेलू रोबोट उसी सवाल का एक संबंधित लेकिन वाकई अलग संस्करण उठाता है।
किसी भाषा मॉडल को बीच-जवाब में तुरंत रोका जा सकता है, एक अधूरे उत्तर के अलावा कोई भौतिक परिणाम नहीं होता। किसी कार्य के बीच में एक रोबोट, गरम बर्तन उठाए हुए, सीढ़ी पर खड़ा, या किसी व्यक्ति का पैर फ़्रेम में होने पर दरवाज़ा खोले हुए, को स्विच दबाते ही हमेशा सुरक्षित रूप से नहीं रोका जा सकता; संवेग, संतुलन, और हेरफेर की गई वस्तुओं वाली 100-पाउंड से ज़्यादा की चलती मशीन को रोकने के लिए ख़ुद रुकावट को केवल कमांड-अनुपालन के लिए नहीं बल्कि भौतिक सुरक्षा के लिए इंजीनियर किया जाना चाहिए। यह उतनी ही एक यांत्रिक और नियंत्रण-प्रणाली की समस्या है जितनी एक AI-अलाइनमेंट की, और यह, सॉफ़्टवेयर के मामले के विपरीत, एक ऐसा क्षेत्र भी है जहां पर्याप्त कानूनी और इंजीनियरिंग अवसंरचना पहले से मौजूद है: उत्पाद-दायित्व कानून, औद्योगिक सुरक्षा-मानक, और दशकों की मिसाल यह नियंत्रित करती है कि जब कोई मनुष्य किसी मशीन के पास घायल हो जाए तो उस मशीन को क्या करना चाहिए, ऐसे तरीके से जिसे AI सुधार-सुलभता शोध अभी भी विशुद्ध रूप से सॉफ़्टवेयर सिस्टम के लिए हल कर रहा है।
यह मौजूदा अवसंरचना असली है लेकिन इसे घरेलू मानवाकार को ध्यान में रखकर नहीं बनाया गया था। ISO 10218-1:2025, मूल औद्योगिक रोबोट-सुरक्षा मानक जिसे 2025 में पिछले सहयोगी-रोबोट प्रावधानों को समेटने के लिए अपडेट किया गया, स्पष्ट रूप से कहता है कि यह “सेवा-रोबोट, उपभोक्ता उत्पादों, या घरेलू उपयोग” पर लागू नहीं होता (ISO) — जिसका मतलब है कि रोबोट-सुरक्षा इंजीनियरिंग की सबसे परिपक्व संहिता, अपने दायरे से ही, उस उत्पाद-श्रेणी को कवर नहीं करती जिसके बारे में यह पन्ना है। EU AI Act एक अलग दृष्टिकोण अपनाता है जो इस ज़मीन के कुछ हिस्से तक पहुंचता है: यह किसी AI सिस्टम को उच्च-जोखिम के रूप में वर्गीकृत करता है जब वह किसी ऐसे उत्पाद के सुरक्षा-घटक के रूप में काम करता है जिसे EU सामंजस्य-कानून के तहत तीसरे-पक्ष अनुरूपता-मूल्यांकन से गुज़रना ज़रूरी हो, यह एक ऐसा रास्ता है जो लोगों के पास सुरक्षा-घटकों के रूप में काम करने वाले रोबोटों तक पहुंच सकता है, हालांकि यह किसी विशिष्ट उपभोक्ता मानवाकार पर कैसे लागू होता है यह उत्पाद के अपने प्रमाणन-रास्ते पर निर्भर करता है।
एक घर वास्तव में क्या आंक सकता है
एक साधारण वैक्यूम या डिशवॉशर के मुकाबले, एक घरेलू मानवाकार रोबोट एक भौतिक रूप से अलग तरह की खरीद है: कैमरों, माइक्रोफ़ोनों, और कुछ डिज़ाइनों में किसी दूरस्थ मानवीय ऑपरेटर तक एक लाइव चैनल वाला एक इंटरनेट-जुड़ा डिवाइस, जो पिछले घरेलू उपकरणों की तुलना में किसी स्मार्ट स्पीकर या सुरक्षा-कैमरे के साथ ज़्यादा श्रेणी साझा करता है। जोखिम का भौतिक-सुरक्षा वाला आधा हिस्सा नया नहीं है और असमान रूप से उत्पाद-दायित्व कानून तथा ऐसे सुरक्षा-मानकों द्वारा कवर किया जाता है जो अभी घरेलू मानवाकार के लिए पूरी तरह अनुकूलित नहीं हैं। निजता वाला आधा हिस्सा इस साइट पर कहीं और उठाई गई AI निगरानी वाली दुनिया में व्यक्तिगत ऑपसेक की चिंताओं के ज़्यादा करीब है: क्या रिकॉर्ड किया जाता है, इसे कौन एक्सेस कर सकता है, किस स्वीकृति-प्रक्रिया के तहत, और अगर वह प्रक्रिया विफल हो जाए तो क्या उपाय मौजूद है।
इनमें से कुछ भी यह नहीं कहता कि किसी घर को टेलीऑपरेटेड घरेलू रोबोट को अंतर्निहित रूप से असुरक्षित मानना चाहिए, न ही उसे “हमने एक सामाजिक अनुबंध बनाया” को एक पूर्ण जवाब के रूप में स्वीकार करना चाहिए। व्यावहारिक मानक वही है जो यह गाइड कहीं और लागू करती है: कोई कंपनी अपने ख़ुद के नियंत्रणों के बारे में जो उजागर करती है उसे पढ़ें, यह स्पष्ट रूप से नोट करें कि वह क्या उजागर नहीं करती, और किसी विक्रेता के अपने सुरक्षा-उपायों के अपने ही विवरण को सवालों के लिए एक शुरुआती बिंदु मानें, इस स्वतंत्र पुष्टि के रूप में नहीं कि वे सुरक्षा-उपाय बताए अनुसार काम करते हैं।