形式上的权威,可以在实际控制力消失之后依然存续
一个议会可以在依赖立法者无法评估的系统的同时,继续保持民选身份。一位部长可以在接收着没有任何公务员能够复现的建议的同时,继续承担法律责任。一位公民可以在面对一项数据、模型、供应商合同与推理过程皆不可获取的自动化决定时,继续保有正式的申诉权利。这一切都不需要一场政变,也不需要一个有意识的机器统治者。权威之所以沦为仪式,是因为「以不同方式作出选择」的实际能力已经被侵蚀。
这首先是一种治理风险,其次才是一种 AGI 风险。各国政府已经在福利、税收、警务、移民、教育、医疗与公共行政中使用算法。能力更强的系统可以提升一致性、翻译服务、发现欺诈、总结证据,并让小型机构也能获得专业能力。它们同样可能加深依赖,让公共决定更难以被质疑。
现有的国际文书提供了一套起步词汇,但它们的法律效力各不相同。欧洲委员会人工智能框架公约被设计为对缔约方具有约束力的条约,以人权、民主与法治为核心。截至 2026 年 9 月 11 日,其官方状态页面并未列出生效日期,因此签署不应被描述为某国已经承担了法律约束力(《CETS 第 225 号公约》状态)。联合国教科文组织人工智能伦理问题建议书则是一份不具约束力的建议,涉及监督、透明度、问责制以及环境与社会影响。这两份文书都没有解决后 AGI 时代的治理问题。但它们都表明,能力与效率并非唯一攸关的公共价值。
自主性意味着能够改变结果
「人类监督」常常被当作一张人员配置图来处理:在模型之后的某个环节安插一个人,这项决定就算是人做出的了。但真正的监督,是一整套能力的集合。
审核者需要足够的时间与信息来理解案情。他们需要接受培训,以识别模型的局限性。他们需要具备拒绝该项建议的法律与组织权力。做出不同的选择,不应仅仅因为偏离了一个自动化评分就招致惩罚。机构必须保留支持审计与申诉的记录。
当这些条件缺失时,人类的一次点击不过是一种仪式。高度自动化甚至可能使审核变得更糟:随着人们接触到的异常案例越来越少、独立判断的练习越来越少,他们的专业能力也随之退化。当系统最终在其常规分布之外失灵时,名义上的监督者反而可能是最没有准备去介入的人。
真正的实践检验是反事实式的:一位合格的人员,能否得出不同的结论、解释理由,并让这个结论真正成立?
四种可能掏空政府的依赖
供应商依赖
一个公共机构可能缺乏在没有某个特定供应商的情况下运作所需的人员、算力、数据权利或合同条款。在采购文件中,更换供应商看起来是可行的,但实际执行需要重新训练系统、迁移数据、重写工作流程,并承受一段较长的服务中断。这就使得一家私营供应商即便没有明确的政治权力,也能获得影响力。
因此,在一套系统变得不可或缺之前,合同就应当涉及可移植性、审计权限、事件披露、分包商、数据留存、安全、服务连续性与退出协助等条款。如果最便宜的初始报价买来的是永久性的依赖,那么它其实是昂贵的。
认知依赖
一个机构可能会丧失判断一项产出是否可靠的能力。如果 AI 承担了大部分分析、起草、模拟与核验工作,那么这个由人组成的机构或许保留了最终签字的权力,却失去了对世界的独立认知模型。
冗余因此是必要的。各机构需要内部专业能力、针对高风险问题的相互竞争的分析、不确定性的记录,以及受到保护的异议渠道。有些职能应当定期在不依赖主系统的情况下执行,这并非因为人工作业总是更优,而是因为一个从未被检验过的备用方案,根本算不上备用方案。
基础设施依赖
先进的服务依赖电力、网络、身份认证系统、云基础设施与上游模型。一次断供或一起商业纠纷,可能会同时波及许多公共职能。多个机构集中依赖同一个模型或同一朵云,可能会造成一种隐藏在各自独立合同背后的相关性故障。
依赖关系图应当识别出整个政府范围内(而不仅仅是某一个部门内部)共用的供应商与单点故障。恢复演练应当测试降级运作、数据恢复、人工优先级排序与公共沟通。
合法性依赖
人们之所以接受艰难的决定,部分原因在于他们理解谁拥有权力、适用哪些规则,以及如何对错误提出质疑。一个在统计上准确、却令人费解的系统,即便结果准确,如果公民将其体验为一种武断的裁决,依然可能损害合法性。
单纯的解释是不够的。一个生成出来的解释可能听起来言之凿凿,却并未揭示某个结果的真实依据。有意义的可申辩性,需要相关的证据、适用的规则、负责的机构与可获得的救济途径。它同样需要一个有权改变决定的人类机构,而不仅仅是解释系统为何得出该结果。
民主需要公共技术能力
立法机关、法院、监管机构、审计部门、工会与公民社会,都需要在评估、安全、采购、数据治理与模型证据方面具备专业能力。专业化的人员队伍、独立实验室、监察长、标准制定机构与对抗性程序,都可以提供这种深度。
NIST 人工智能风险管理框架提供了一套自愿性的架构,用于治理、映射、衡量与管理 AI 风险。它的价值在于程序层面:各机构必须识别相应的场景与受影响的人群,而不是把基准测试的准确率当作整个风险评估。一个后 AGI 时代的机构,将需要更强有力、具有可执行性的这类习惯做法版本,并辅以民主授权。
选举是必要条件,但并非充分条件
变革性 AI 可能通过说服、合成媒体、监控、政策分析、竞选活动与对信息基础设施的控制,影响民主。仅仅关注虚假图像,会忽略更广泛的问题:是谁在为那些操控政治关注度的系统选定目标,又用什么样的数据来优化影响力?
信息披露有一定帮助,但把内容标注为「AI 生成」,并不能证明它是真实的,还是带有操纵性的。溯源信息可以展示一份文件历史的部分内容,却无法证明其中论断的真实性。政治韧性同样需要隐私保护、独立新闻业、竞选透明度、平台问责、安全的选举管理,以及公民能够通过可信渠道核实重要信息的能力。
政府对这类系统的使用理应受到特别克制。一个拥有强大预测与说服系统的国家,既可以用它来有益地个性化公共沟通——也可以用它来更容易地识别异见,并更容易地塑造人们的行为。随着分析能力的提升,法律禁令、授权令、数据最小化、审计日志与独立监督将变得更加重要,而不是相反。
保留多元的权力来源
不应由任何一家公司单独垄断公共分析、身份认证、通信与行政基础设施。不应由任何一个中央政府成为唯一能够使用先进能力的机构。不应由任何一套通用评分系统来决定人们对就业、信贷、福利、言论与流动性的获取。
多元性会制造摩擦,而摩擦有时正是一种保护。联邦制体系、地方政府、法院、独立监管机构、大学、工会、专业协会、开放的技术社群与公民社会,都能够揭露那些一个单一中央系统会压制或忽视的失误。相互竞争的机构,也能为人们提供申诉与组织行动的场所。
多元性并不等同于失控的扩散。高风险能力可以在保持决策制度多样性的同时,受到访问限制。设计上的难题在于,既要避免私人垄断,也要避免国家的完全中央集权化。
应当继续保持政治可争辩性的决定
AI 可以为公共决定提供信息,而不应去定义公共目标本身。诸如如何分配收入、哪些风险可以接受、谁的权利应当优先、是否使用武力、儿童应当学习什么,以及监控的可接受程度等问题,并不是拥有中立目标函数的优化问题。它们是关于价值与人的政治选择。
将实施环节委托出去,同样可能重塑目标本身。一套以缩短处理时间为优化目标的福利系统,可能会劝退情况复杂的申请人。一套以预测事件为优化目标的警务系统,可能会放大历史执法数据中的既有模式。一套以可衡量成本为优化目标的医疗系统,可能会低估那些难以被记录的结果。民主控制要求审查一个系统实际奖励的是什么,而不仅仅是批准它所宣称的目的。
规范性提案:一份最低限度的自主性保障
对于具有重大影响的公共用途,人们应当能够确认以下信息:
- 一套 AI 系统对该决定产生了实质性影响;
- 依法承担责任的机构与官员;
- 所适用的规则与所依据的证据;
- 重要的局限性、不确定性与数据来源;
- 一项及时的、有权改变结果的人工申诉;
- 通往法院、监管机构、监察专员或民选机构的可获得的救济途径;
- 一条为无法安全使用该系统的人所设的非数字化途径。
这些保障不会消除错误或政治分歧。它们所保留的,是行政管理与支配之间的区别:受影响的人依然是一套理由与救济体系中的参与者,而不仅仅是一个被分类的对象。
后 AGI 时代的宪政问题
最深层的问题,并不在于某个 AI 是否获得了正式的政府头衔。而在于人类及其制度,是否保留了修订重大系统所需的能力、独立性与影响力。如果撤下一个模型就会同时使医疗、金融、通信与政府陷入停滞,那么法律上的主权几乎提供不了什么实际的安慰。
因此,变革性 AI 之后民主能否存续,取决于在依赖变得彻底之前就已建立起来的能力:公共专业能力、可互操作的基础设施、可执行的权利、多元化的机构、独立的证据、有意义的申诉途径,以及在自动化建议不可用或被拒绝时依然可运作的经过检验的方式。这些都不是反技术的举措。它们是让一个社会能够使用强大技术、同时不放弃选择自身目的之能力的机制。