一具机器人身体,是一个长了腿的传感器平台
从某种意义上说,一台家用人形机器人,就是一组会在家中每一个房间里移动的摄像头与麦克风,包括那些一个人绝不会主动对着架设摄像头的房间。正如AGI 时代的模型如何改变机器人能力一文所解释的那样,当前这一代机器人,在执行超出狭窄、反复演练过的动作范围之外的任务时,严重依赖人类远程操作员——这意味着传感器采集到的画面,并不会只留在这台机器内部,而是会传送到一个远方的人手中。
1X Technologies 的 NEO 是一个最清晰的公开案例,展示了一家公司是围绕着这一事实去做设计的,而不是回避这一事实。NEO 出厂配备两种运行模式:一种是自主模式,用于机器人能够独立完成的任务;另一种是「专家模式」,由一名经过审查的远程人类操作员,通过一个类似 VR 的界面,看见并听到家中的情况,以完成机器人目前还无法独立完成的任务。第二种模式,才是与隐私真正相关的那一种:无论这一安排的用意多么良善,它都会把某个真实的人从家中传出的实时音视频画面,呈现在一个陌生人面前。
1X 构建的缓解措施,以及它们并未消除的问题
1X 已经描述了旨在限制这种暴露程度的具体技术与组织性管控措施。操作员的会话,在开始之前需要获得用户的明确同意。房间内可见的人物,可以在操作员看到的视频画面中被打上马赛克。用户可以指定「禁区」,机器人及其远程操作员理应不得进入或查看。操作员在获得访问权限之前会经过审查,1X 表示,大致是每一名主管监督约八名远程操作员组成的一个小组,这为拥有摄像头访问权限的人员提供了一层监督,而不是单纯信任每一名操作员个人。
1X 的首席执行官 Bernt Børnich 坦承,这是一种权衡,而不是一个已经被解决的问题,他将其定性为买家所接受的一项交易:「如果你购买这款产品,那就意味着你认可这份社会契约」——在他看来,有更多数据流向 1X,正是产品得以持续改进的原因。他还直接提出过一种比较性的安全论证,为「专家模式」的远程遥控辩护,认为它能够提供「比雇佣人类保洁员更好、更安全的服务」,理由是:一个经过审查、受到监控、留有记录的远程操作员,要比一个未经审查、独自在家中工作的人更具问责性。
本页描述的是 1X 自己所宣称的设计方案,以及其关于 NEO 隐私控制措施的公开说法。这不是一次独立的安全审计,本页也未引用任何针对这些具体说法所做的此类审计。对于任何一款远程遥控的家用设备——包括这一款在内——一个家庭都应当以评估任何其他带有摄像头与麦克风、且允许远程人工访问的产品同样的标准来加以评估:在安装之前,先核实哪些数据会被留存、留存多久,以及受哪一司法辖区的法律管辖。
作为一家公司所宣称的立场,这套说法值得被照字面看待,同时也要注意到它并未解决的问题。打码、禁区设置与主管监督,能够降低暴露程度;但它们并不能消除这样一个根本事实:在一次经过批准的会话期间,一个远程的人确实能够实时看到并听到一个私人家庭内部的情况。「比保洁员更安全」这一说法是否站得住脚,取决于 1X 的公开声明并未完全说明的一些细节——数据留存期限、存储录像所受的司法管辖权、数据泄露通知机制,以及会话结束后录像会如何处理——一个正在考虑购买该产品的家庭,应当去寻找这些具体细节,而不是把这种比较当作已有定论。
为何「关停开关」对一具身体而言意味着不同的东西
本站关于可纠正性的章节探讨了,为何在一个软件 AI 系统中构建一个可靠的关停开关,比听起来要困难得多,因为一个具备能力的软件智能体可能会抵抗被打断,或绕过关停信号。而一台实体的家用机器人,则提出了同一个问题的一个相关、却又真正不同的版本。
一个正在生成回复的语言模型,可以被瞬间叫停,除了得到一个不完整的答案之外,不会产生任何物理后果。而一台正在执行任务的机器人——端着一只滚烫的平底锅、站在梯子上,或是用身体挡着门、门框里还有一个人的脚——却不一定总能在开关被按下的瞬间安全地暂停下来;要让一台重达一百多磅、具有动量、需要保持平衡且正在操作物体的机器停下来,这个「停止」动作本身就必须为物理安全而设计,而不仅仅是为服从指令而设计。这既是一个机械与控制系统层面的问题,也是一个 AI 对齐层面的问题,而与软件层面的情形不同的是,在这一领域,已经存在相当成熟的法律与工程基础设施:产品责任法、工业安全标准,以及数十年的判例,都规定了当一台机器在人的附近造成伤害时该机器必须承担什么责任——而这恰恰是 AI 可纠正性研究在纯软件系统层面仍在摸索的问题。
这套既有的基础设施是真实存在的,但当初的设计,并未考虑到家用人形机器人这一场景。ISO 10218-1:2025——这项核心的工业机器人安全标准,已在 2025 年更新,纳入了此前关于协作机器人的相关规定——明确指出,它并不适用于「服务型机器人、消费产品或家庭用途」(ISO)——这意味着,目前最成熟的一整套机器人安全工程体系,按其自身的适用范围来看,并不覆盖本页所讨论的这一产品类别。而欧盟《AI 法案》采取了一种不同的方式,确实触及了其中的部分领域:当一个 AI 系统作为某项产品的安全组件运行、且该产品必须依据欧盟协调法接受第三方合规评估时,该 AI 系统就会被归类为高风险系统——这一路径可以覆盖在人员附近作为安全组件运行的机器人,不过它究竟如何适用于某一款具体的消费级人形机器人,仍取决于该产品自身的认证路径。
一个家庭真正能够评估的内容
与一台普通的吸尘器或洗碗机相比,一台家用人形机器人是一种性质截然不同的采购决策:一台联网设备,配备摄像头、麦克风,在某些设计中还有一条通往远程人类操作员的实时通道,它与智能音箱或安防摄像头同属一类,而不同于此前的家用电器。这份风险中关于物理安全的那一半并不新鲜,由产品责任法与安全标准来加以覆盖——只是覆盖得并不均衡,而且这些标准尚未完全针对家用人形机器人做出调整。而隐私那一半,则更接近本站其他地方所提出的、关于AI 监控世界中的个人行动安全的担忧:记录了什么内容、谁能够访问这些内容、经过什么样的审批流程,以及一旦这一流程失灵,还有哪些补救途径。
这一切都不意味着一个家庭应当把一台远程遥控的家用机器人视为天生不安全,也不应当把「我们已经建立了一份社会契约」当作一个完整的答案来接受。合理的标准,与本手册在其他地方所采用的标准是一致的:阅读一家公司就其自身管控措施所披露的内容,清楚地记下它没有披露的内容,并把厂商自己对其安全保障措施的描述,当作提出问题的起点,而不是这些保障措施确实如其所述那样有效的独立证明。