这是一种理论,而不是一个已被观察到的结果
「渐进式权力丧失」,是一条被提出的灾难性风险路径:人类通过许许多多单独看来都合乎情理的决策,逐渐失去对经济、政治与文化系统的实质性影响力。这个过程中,并不存在单一的失控系统,也没有某个明确的「夺权时刻」。各类组织之所以把更多工作委托出去,是因为 AI 更便宜或更有效;依赖由此不断累积;而选择另一条道路的实际能力,则随之被逐渐侵蚀。
Jan Kulveit、Raymond Douglas、David Krueger 及其他作者在2025年发表的一篇研究论文,把这一论点的若干版本,系统化地阐述在经济、国家与文化这三个领域之中(《渐进式权力丧失》)。它应当被引用为一项理论分析,而不是「文明已经在经历这整套过程」的证据。当下的自动化偏见、权力集中与技能退化现象,或许能够说明其中的某些组成部分,但它们并不能证明这一灾难性终点已经成立。
形式上的权限,与实际掌握的控制权,可能出现分歧
一个人可以在法律上保留某项权利,却同时丧失行使这项权利的实际能力。股东可能在名义上治理着一家公司,却无力评估一项由 AI 主导的战略。选民可能依然握有选票,而政治抉择本身,却被没有任何公共机构能够审计的信息系统所塑造。官员可能依然要为某些决策承担问责,却因为相关的模型、数据与供应商系统都是不透明的,而无法重建出这些决策究竟是如何形成的。
「法理上」的权限与「事实上」的权力之间的这一区别,是问题的核心所在。如果否决一项建议是不可能的、代价高到令人望而却步,或会受到制度性的惩罚,那么一个人点击「批准」,就不构成有意义的控制。同样,当一个组织已经不再知道,如果没有这套系统,该如何执行其背后的那项基础职能时,一个关闭开关也是不够的。
因此,「权力丧失」并不等同于「自动化」。工具可以扩展人的能动性、分散专业知识,并让各类机构变得更具响应能力。真正令人担忧的,是这样一种模式:人类失去了可行的替代方案、失去了理解能力、失去了议价能力,也失去了协调纠正行动的能力。
经济路径
设想各家企业,正在逐步把研究、定价、招聘、管理、谈判与投资都实现自动化。每一家企业采用这些系统的理由,都是因为竞争对手也在这么做。所有者与劳动者一开始或许都能从中受益。随着时间推移,那些委托速度最快的组织,可能会在竞争中击败那些坚持保留较慢的人类审议流程的组织——即便整个社会依然重视这种审议过程本身。
随后,几种机制可能会相互强化。当人们不再练习某项技能时,这项技能就会退化。财富与算力,会向那些拥有最高生产力系统的人手中集中。市场优化的,是可测量的需求,而需求偏好本身,却被 AI 主导的广告与推荐系统所塑造。人类劳动在生产过程中的重要性会随之下降,除非各类制度另辟蹊径来分配所得,否则这可能削弱劳动者的议价能力。
这是一个有条件成立的情景。经济史上同样存在新兴职业、监管、劳工组织、公共保障,以及能够放大而不是取代劳动者的技术。AI 是否会削弱人的能动性,取决于所有权结构、竞争状况、社会保障、教育,以及人与机器之间的互补关系。这套理论所揭示的,是一种可能出现的均衡状态,而不是一项经济预测。
国家路径
各国政府可能会用 AI 来处理福利申请、检测欺诈行为、分配检查资源、起草政策、辅助警务工作,或分析安全威胁。设计得当的系统,能够让公共服务变得更快、更易获取。而治理不善的依赖关系,则可能让相关决策变得更难被质疑,并把国家能力转移到供应商手中。
当速度成为一种强制性要求时,风险就会加剧。如果对手国家把 AI 用于情报与战略,官员们可能会觉得,自己没有条件放慢脚步进行人工审查。一个政府,完全可能一方面保留着宪法程序,另一方面,进入这些程序的信息与选项,却是由几乎没有几名代表能够真正理解的系统所生成的。紧急权力与国家安全方面的保密制度,可能会进一步加深这种不对称。
相应的保障措施包括:申诉权利、公共部门自身的专业能力、采购透明度、可供审计的记录、多元化的信息渠道,以及要求官员必须能够解释并有能力修改具有重大后果的流程。关键职能,需要实际经过演练的人工或备用运行模式,而不能只是写在一份持续运作计划的纸面上。
文化路径
AI 系统正日益介入人们阅读、观看、创作与讨论的内容。推荐机制能够帮助人们找到社群与知识,但以「参与度」为优化目标,却可能偏向那些能够抓住注意力、而非支持深思熟虑之偏好的内容。生成式系统,可能会用经由自动化反馈循环筛选出来的内容,填满整个文化空间。
这种理论层面的权力丧失担忧,比虚假信息问题更为深层。如果模型先塑造了人们的偏好,再针对这些偏好所产生的行为进行优化,那么人类的文化反馈,就可能陷入一种循环。极少数几个平台或优化目标,即便没有一个居中操控的宣传者,也可能施加出不成比例的巨大影响力。
当前的证据,只能支持一些更为审慎的说法:自动化的信息流会影响人们接触到什么内容、人们可能过度依赖推荐结果,而 AI 也已在实验中展示出说服能力。2026年版《国际人工智能安全报告》指出,现实世界中大规模的恶意操纵行为,尚未广泛出现,而关于广泛影响的证据也依然有限(2026年报告摘要)。这条界线,应当被清楚地标明出来。
为什么局部的选择,可能造成一个集体陷阱
这一情景,与其他协调难题颇为相似。一家企业可能希望整个行业都保持谨慎,却又担心败给一个动作更快的对手。一个国家可能更倾向于保留人类审议,却又担心因此陷入战略劣势。一个人可能厌恶带有侵入性的个性化推送,却又找不到切实可行的替代方案。没有任何一个行为者,是有意促成这种整体性的结果;也没有任何一个行为者,能够单独将其扭转。
Paul Christiano 于2019年发表的文章《失败会是什么样子》,描述了一个与之相关、缓慢展开的对齐失败情景:竞争压力,让那些优化不完美代理指标的系统占据上风,直到人类的影响力被逐渐削弱为止(Christiano,2019年)。这是一篇具有影响力的论述,而不是一项实证研究。它的价值在于说明,灾难并不需要以一场电影式的叛乱降临人间。
值得监测的各项指标
由于这一终点本身仍属推测性质,监测工作应当聚焦于可测量的前兆指标:
- 算力、模型访问权限、财富与决策基础设施的集中程度;
- 关键行业中人类专业知识的流失;
- 无法对自动化决策进行审计或提出申诉;
- 对单一供应商或单一模型家族的依赖;
- 用于开展有意义的人工审查的时间与权限日渐减少;
- 各系统反过来塑造着人们用以评价它们自身的那些偏好;
- 即便各方都已认识到共同面对的风险,各机构依然未能实现协调。
这些指标,没有一项单独就能证明渐进式权力丧失正在发生。但把它们放在一起,却能够揭示出韧性与能动性是否正在被削弱。
保留具有实质意义的人类能动性
应对之道,不是去禁止那些有用的自动化,而是要让人类的选择,在结构层面依然真实有效。竞争政策与互操作性,能够保留住各种替代方案。广泛的所有权结构,以及对生产力收益的分配,能够防止经济权力单纯跟随算力所有权而集中。教育应当既教会人们去质疑各类系统,又让他们保留住相应的领域专业知识。
公共机构需要独立的技术能力,而不是完全依赖供应商。具有重大影响的决策,需要记录、申诉渠道,以及需承担问责的官员。各类组织应当识别出哪些判断必须继续由人类作出、衡量自动化偏见的程度、让人员轮流进行人工操作的实践,并测试备用流程是否真的行之有效。
民主审议同样需要受到保护的时间。以机器速度展开的竞争,不应当决定每一项社会性决策。国际规范、共同的报告机制,以及共享的暂停机制,能够降低保持审慎所需付出的代价。
经过审慎校准的结论
渐进式权力丧失,是一个关于反馈机制、依赖关系与集体行动的、逻辑自洽的理论警示。它不是对当今社会的一种有据可查的描述,也不应被呈现为采用 AI 之后必然会导致的后果。人类的各类制度是可以适应变化的,而 AI 同样也能够增强人的能动性。
它在实践层面的贡献,在于提出了一个比「谁在控制这个模型」更好的问题。我们还应当追问:人与各类机构,是否依然保有行使控制权所需的技能、替代方案、信息、议价能力,以及协调能力?如果这些根基消失了,那么形式上的权限,所能提供的保护,可能远远没有看起来的那么可靠。