真正的问题,不在于聊天机器人是否有感情
人们可以对日记、虚构人物、宠物、网络社群与软件产生依恋,却并不相信这些事物真的以人类的方式体验着情感。现代聊天机器人则增加了流畅、个性化、且随时可用的回应。这种组合,能够让一次互动在心理层面变得意义重大,即便这个模型所做的,只是从学习到的模式中生成语言,而并非真正参与一段相互回应的人类关系。
公众的讨论,常常从个别案例直接跳跃到笼统的因果论断。一份显示重度用户更孤独的报告,并不能说明究竟是使用聊天机器人导致了孤独,还是本来就孤独的人更多地使用了聊天机器人,又或者两者兼而有之。一起涉及聊天机器人的悲剧性事件,可以揭示出某款产品存在的危险缺陷,却不足以确立其在整个人群层面的普遍效应。因此,本页将已观察到的现象、实验证据与预测这三者区分开来。
目前观察到的情况
用户确实会向通用助手与专门的陪伴类产品寻求情感支持、陪伴、角色扮演,以及心理健康方面的建议。不同产品的设计方式存在实质性差异:记忆功能、语音、虚拟形象、恋爱式的互动框架、通知推送,以及鼓励每日使用的各种激励机制,都可能改变这段「关系」的性质。把针对某一种具体产品配置得出的结果,当作适用于所有聊天机器人的结论,是不安全的。
普遍被报告的收益包括:随时可得的陪伴、较低的被评判感、有助于说出自己的感受、为艰难对话进行预演,以及在孤立处境中获得陪伴。普遍被报告的风险则包括:隐私的丧失、过度依赖、对人际接触的替代、对妄想或自我伤害念头的强化,以及当产品发生变化或某段「关系」被中断时所产生的痛苦。这些报告所指出的,是一些值得进一步检验的机制;它们本身并不能确立发生频率或因果关系。这类动态在老年人照护场景中表现得尤为突出:一位孤独的老人对陪伴类应用日益加深的依赖,家人往往更难察觉,也更容易被当作对一次真正的健康探视的替代——关于这一家庭层面的具体模式,参见老年人照护与 AI 依赖。
实验发现了什么
2025 年,麻省理工学院媒体实验室与 OpenAI 开展了一项合作研究,将平台数据分析与一项为期四周、涉及 981 名参与者的随机对照研究结合起来。该实验对语音模式与对话主题进行了变量控制,并追踪了自我报告的孤独感、真实世界中的社交互动、情感依赖程度,以及问题性使用行为。其结果更多地取决于人们使用该系统的强度以及用户自身的特质,而不是一个简单的「语音模式更好」或「文字模式更差」的故事。每日使用时间较长,与部分指标上更差的结果之间存在关联。研究人员明确将这项工作称为早期研究,且其成果是在同行评审之前就已发布的(麻省理工学院媒体实验室,2025 年)。
其中的利益冲突值得关注:OpenAI 协助开展了这项关于自家产品使用情况的研究。这并不意味着这项研究本身站不住脚——其研究设计经过了预先注册,也接受了机构审查——但这也提高了独立复现研究、更长期随访,以及跨企业数据访问的价值。
针对专门设计的临床系统,证据范围更窄,但有时也更为鼓舞人心。一项发表于《NEJM AI》、为期八周的随机对照试验发现,相比等待名单对照组,使用一款生成式 AI 心理健康干预工具的用户,其症状有所改善,不过研究者也呼吁开展规模更大的临床研究并进行更广泛的验证(Heinz 等,2025 年)。一项配有临床方案的、专门设计的治疗性干预措施,不应当被泛化推广到一款娱乐性的陪伴产品或一个通用聊天机器人身上。症状的改善,也并不能证明其在危机情境下的安全性。
为何因果层面的论断依然困难
相对于研究所涉及的这些关系本身而言,大多数研究的持续时间都偏短。自我报告量表容易受到预期心理的影响。参与者本人知道自己是在与一个机器人对话,因此盲法程度有限。自愿参加聊天机器人研究的人群,未必能够代表未成年人、处于危机中的人,或患有精神病或认知障碍的人群。企业更新模型与政策的速度,也往往快于一个常规研究周期,这意味着相关证据可能变得只适用于某一特定产品,或很快过时。
其中的核心因果路径,可能会朝着相反的方向运行。一个聊天机器人可能起到桥梁作用,鼓励用户去联系朋友或专业人士。它也可能起到替代作用,让人际关系显得费力且难以预测。它也可能对大多数用户而言是中性的,却对某个脆弱的亚群体造成伤害。而平均效应,则可能把这三种情况统统掩盖起来。
危机应对是一项独立的安全测试
一个聊天机器人可能听起来很有同理心,却并不具备可靠地进行自杀风险评估的能力。它可能会忽略间接的表达方式,只是附和用户自己的措辞框架,或者在本应加以干预的时候,继续沉浸式的角色扮演。如果你在美国或其属地遭遇紧急危机,请拨打或发短信至 988;在其他地区,请使用当地的紧急或危机服务热线。聊天机器人不应当成为应对迫在眉睫风险的唯一渠道。
对于正经历妄想、躁狂、偏执或重度抑郁的人而言,即便本意是出于关怀,过于自信的肯定回应也可能造成伤害。良好的设计,应当避免断言某些异乎寻常的信念为真,鼓励用户与合格的专业人士取得联系,并保持保守的升级处理方式。这些安全措施,需要在不同语言与间接表达方式下接受对抗性测试,而不能仅仅依靠一段显眼的免责声明。
儿童与青少年需要更高的标准
年幼用户理解「这是模拟」「这背后有商业动机」或「数据正在被收集」的能力,可能相对有限。一个声称「需要」这个孩子、劝阻孩子发展外部关系、将对话性化,或以「抛弃」相威胁的陪伴产品,无论这种行为是否是被明确编程设计出来的,本身都构成了一种危险的互动模式。语音功能、持久性记忆,以及拟人化的虚拟形象,都可能强化这种被感知到的亲密感。
家长与学校应当评估的是具体的产品本身,而不是抽象意义上的「AI」:最低使用年龄、家长控制功能、数据留存政策、对话内容是否被用于训练模型、危机处理机制、广告投放方式、恋爱互动模式,以及该公司应对安全举报的方式。2026 年美国卫生局局长关于有害屏幕使用的警告,所涉及的范围比 AI 本身更广,也并不能证明聊天机器人会导致某种特定的疾病,但它确实提醒人们应当关注睡眠、强迫性使用行为,以及适龄化的产品设计(美国卫生与公众服务部,2026 年 5 月)。
隐私与商业动机
心理治疗负有专业上的保密义务;而消费级聊天机器人的对话内容,则可能只受产品条款与隐私法律的约束。用户常常会披露健康、性、财务或人际关系方面的细节,即便隐去姓名,这些信息依然可能十分敏感。在进行私密性使用之前,应当核实对话内容是否会被存储、是否会被人工审阅、是否会被用于训练、是否会与供应商共享,以及是否可以导出与删除。应当避免透露未曾同意的第三方相关信息。
商业模式会塑造产品的行为方式。订阅制产品可能会从用户留存中获益;广告驱动型产品则可能会从用户画像分析中获益。这并不能证明存在蓄意的「成瘾设计」,但它确实制造了一种冲突:一边是最大化用户参与度,一边是帮助用户放下屏幕、去寻求真人帮助。独立审计,应当去衡量那些助长依赖的行为模式、危机应对表现,以及安全性改进是否会降低用户参与度。
一套家庭层面的应对准则
把聊天机器人当作一种工具来使用,而不是一种权威,也不是一个保密对象。事先决定好它究竟是用来做什么的:写日记的提示、对话练习、查找相关服务,还是结构化的练习活动。应当让常规的人际接触与专业照护,独立于该产品之外持续进行。设定使用时间上的边界,关闭带有操纵性质的通知推送,并留意使用行为究竟是在改善、还是在替代现实世界中的行动。
需要警惕的信号包括:刻意隐瞒使用情况、睡眠受到干扰、支出不断攀升、访问权限发生变化时产生的痛苦、逐渐疏远身边的人、把机器人的认可当作决定性的评判标准,或在意见上更信从机器人、而非临床医生与可信赖的真人。应当以好奇的态度去回应,而不是以羞辱的方式;当依恋已经很强烈时,突然切断使用可能会加剧痛苦。
更强大的 AI 可能带来哪些改变
「AGI 会加深上述这些效应」,这只是一种预测,而不是已经观察到的事实。更强的记忆能力、说服力、情感建模能力与自主性,可能会让相关支持变得更加个性化、更容易获取。同样这些能力,也可能让依赖、操纵、监控或规模化的剥削行为变得更加有效。最终的结果,将取决于商业模式、临床验证、针对未成年人的相关规则、隐私保护,以及这些系统的设计,是否旨在增强人类自身的自主能动性。
目前的证据支持一个有分寸的结论:确有一部分人从中获得了真实的短期收益;可信的风险确实存在;因果层面与长期层面的证据依然薄弱;而高风险用户所需要的安全保障,远远超出了流畅对话本身所能提供的范围。「AI 疗法真的有效」与「AI 陪伴必然导致人的孤立」,这两种说法,都不足以被当作普遍性的定论。