先弄清楚这是哪一种主张
「AI 能做到这件事」「AGI 很快就会到来」以及「这个系统可能引发灾难」,并不是同一类主张。它们需要不同的证据。一次经过精心打磨的演示,或许能够证明某个模型在有利条件下曾经成功过一次。它并不能证明可靠性、经济价值,或安全的自主运作能力。一项预测表达的是对未来的一种判断,而不是对当下某项能力的测量。
这一点之所以重要,是因为 AGI 并没有一个被普遍接受的测试标准。不同的定义,强调的是广度、表现水平、自主性、学习能力、物理层面的能力,以及经济影响等要素的不同组合。与其去追问某一条新闻标题是否证明了 AGI 的存在,读者更应当追问:测量的究竟是什么?测量条件是什么?这个结论相对于其所依据的证据,又向外延伸了多远?
以下这个阶梯,并不是一种僵化的排序——并非某一层级的每一项证据都能压倒其下方层级的一切。一项可复现的实验室评估,对某个具体机制而言,可能比嘈杂的部署数据更有说服力。这个阶梯的目的,是揭示宣传性主张与危言耸听式主张往往会隐藏起来的那些推理步骤。
第一层:轶事与精心挑选的演示案例
轶事揭示的是可能性与失败模式。一段展示某个智能体构建应用程序的录屏,证明的是——假设这段演示是真实的——至少有一次运行产出了展示出来的结果。一次出人意料的幻觉,证明的是这类失败确实可能发生。但两者都无法告诉我们,这种行为出现的频率究竟有多高。
应当追问:演示者是否挑选了表现最好的一次运行?是否剪辑掉了停顿或失败的片段?是否使用了未公开的人工协助?是否选择了一个自己熟悉的任务?应当寻找完整的提示词、所用工具、模型版本、采样设置、尝试次数,以及失败案例。如果缺少这些信息,就应当把这个结果当作一条值得深入调查的线索,而不是一个发生率。
演示案例仍然是有用的。新的能力往往会先以粗糙的形式出现,然后才有正式的测量方法跟上。真正的错误在于,把「可能发生」偷换成「通常会发生」,再进一步偷换成「将会改变整个经济」。
第二层:基准测试或受控评估
一项评估会界定任务、条件与评分规则。相比轶事,它能够更系统地比较不同系统。强有力的评估会使用留出的测试任务,防止数据污染,报告不确定性,记录所用的脚手架与人工协助情况,并测试相关的失败模式。独立复现能够提高可信度。
即便如此,基准测试的分数仍然可能带有误导性。训练数据中可能包含类似的题目。团队可能针对某个公开测试进行了专门优化。选择题式的知识测试,并不能证明在一个陌生的工作场景中具备相应技能。平均值会掩盖灾难性的尾部失败。一个成功率为 90% 的系统,在一个需要 30 个步骤的工作流程中,可能因为误差不断累积而完全无法使用。
2026 年《国际 AI 安全报告》用「评估缺口」这一术语,来描述这样一个问题:受控的部署前测试结果,并不能可靠地预测真实世界中的表现。该报告还将当前的能力状况描述为「参差不齐」:表现在不同任务与情境之间存在巨大差异,系统可能在表面上看似简单的工作上失败,却在困难的评估中取得成功。这些是关于测量方法局限性的发现,而不是在证明每一项基准测试都毫无用处。一篇可信的文章,应当同时报告分数本身,以及该测试没有覆盖到的内容。
第三层:对抗性研究、因果研究与「能力提升」研究
风险方面的主张,需要的不仅仅是一项标准的基准测试。红队会想方设法诱导出被禁止或危险的行为。因果实验会改变某一个变量,并测试结果是否随之改变。「能力提升」研究,会比较人们在借助 AI 与仅依赖某个有意义的基线(比如仅使用互联网)时所能完成的工作。
这些研究回答的是不同的问题。一项红队发现,证明的是在所测试的攻击方式下存在可行性,而不是证明这种情况在整个人群中普遍存在。一项能力评估,可能证明模型能够生成一份有害的计划,却未必能证明现实中的行为者真的能够执行这份计划。「能力提升」研究可能与滥用风险更为相关,但其参与者构成、时间限制、基线设定、结果衡量方式与安全防护措施,共同决定了这项研究究竟意味着什么。
小样本会带来很大的不确定性。专家参与者可能低估了对新手的能力提升幅度,却能更好地代表老练的攻击者。替代性任务虽然避免了造成真实的伤害,却也可能遗漏了现实世界中的真正瓶颈。随着模型与管控措施的变化,研究结果也会很快过时。好的报道会明确指出这些局限,而不是把它们简单压缩成「AI 会助长风险」或「AI 不会增加风险」这样的一句话。
第四层:现场与部署证据
真实世界的数据可以揭示采纳情况、生产力变化、各类事件、滥用行为,以及组织层面的适应过程。随机化的现场实验,以及精心设计的准实验,可以估算出因果效应。事件数据库与投诉数据,可以揭示反复出现的伤害。审计可以发现开发商自身实验室测试中未曾涉及的差异。
部署证据同样存在盲点。企业观察到的情况,往往多于它们所披露的内容。用户可以自主选择是否采用某项工具以及如何使用它,这使得简单的对比容易产生偏差。已报告的事件,并不等同于全部发生过的事件。客服领域的生产力提升,并不会自动推广到研究、管理、医疗或机器人等领域。
读者应当留意研究对象群体、研究场景、对照组、时间段、结果指标,以及利益冲突。「工作者完成了更多任务」不同于「企业创造了更多价值」,而这两者又都不同于「就业下降了」。当前关于生成式 AI 的劳动力证据,不应被随意改换标签,当作关于假设性 AGI 的证据来使用。
第五层:趋势外推与预测
预测是测量结果与假设的结合体。算力趋势、算法进展、投资情况、基准测试表现,以及智能体的可靠性,都可以为一项预测提供信息,但没有任何一项能单独决定 AGI 到来的具体日期。约束条件可能会放松,可能会收紧,也可能发生转移。定义本身也可能发生变化。
METR 的任务时长研究估算的是,在某个既定可靠性水平(通常是 50% 或 80%)下,一个受测智能体被预测能够成功完成的任务所对应的人类专家完成时长。其目前的测试集主要由自成一体、界定明确、评分规则清晰的软件工程、机器学习与网络安全类任务组成。这一指标,对于一个特定的智能体配置与任务分布而言,是有用的证据。但它不是 AI 独立自主运行的时长,不是衡量一切具有经济价值工作的尺度,也不是通向 AGI 的倒计时器。METR 还提醒,以其目前的任务集而言,超过 16 小时的测量结果并不可靠。
评判一项预测,应当看其操作性定义、日期、概率、模型、基础比率与历史准确记录。一项经过良好校准的预测,实际上是在说:「被赋予 30% 概率的结果,应当大约在 30% 的情况下真的发生。」一个没有可判定标准的自信日期,是无法被评分的。专家调查能够捕捉到有见地的信念,但无法把分歧本身转化为实验证据。
情景分析服务于另一个目的。它探讨的是条件性路径:如果能力、准入门槛、自主性与制度回应取某些特定值,会带来怎样的后果?一个情景可以用来揭示脆弱之处,而不必是最有可能发生的未来。应当相应地为其贴上正确的标签。
第六层:机制与理论论证
一些严重的 AGI 风险,如果没有相关系统的存在就无法被直接证明——而这些系统也不应仅仅为了获得证据而被制造出来。研究者转而提出一些机制性假说,例如奖励黑客、工具性资源攫取、竞争性军备竞赛,或权力的逐步让渡。形式化模型可以帮助厘清,某个结论是否真的能从其假设中推导出来。
核心问题不在于这个论证听起来是否生动有力,而在于哪些前提得到了实证支持。这个系统是否具有持续存在的目标?它能否在所需的时间跨度内进行规划?它是否能够接触工具、资金、基础设施,或自身的副本?监控机制是否会失效?各类制度能否做出应对?每一个环节,都可能改变整条推理链条的整体概率。
缺乏直接的灾难数据,并不能证明风险为零。同样,一条逻辑上可能成立的路径,也不能证明其概率就一定很高。在不确定性下做决策,应当综合考虑后果的严重程度、可逆性、预警时间,以及安全防护措施的成本与有效性。这是一种风险管理层面的判断,而不是「理论已经变成了观测事实」这样的一项发现。
对重大主张,使用一张证据卡
对于任何一项重要论断,都应当记录以下六个字段:
- 主张: 实际所断言的、范围明确的具体命题。
- 状态: 已观测的结果、推断、预测、情景,还是建议。
- 来源: 一手研究、官方数据、综述、企业报告、媒体报道,还是个人观点。
- 范围: 模型、版本、任务、研究对象群体、司法辖区与日期。
- 不确定性: 样本量、置信区间、复现情况、缺失数据,以及其他合理的替代解释。
- 更新触发条件: 会强化、削弱或撤回这一主张的证据。
NIST 的自愿性《生成式 AI 概况说明》,是与《AI 风险管理框架》配套、面向所有行业的补充文件,而不是一项 AGI 测试或认证标准。它按照该框架中的「治理」「映射」「测量」与「管理」四大职能,组织了一系列建议行动,并将风险管理视为一项贯穿全生命周期的活动。更广泛的NIST AI RMF 测量指南要求进行有记录的测试、给出不确定性度量、开展与部署相关的测量、持续监控,并在能够降低内部偏见的情况下引入独立评审。具体采用哪一套模板并不那么重要,重要的是让整条证据链条能够被审计。
让信心程度与证据相匹配
要对 AGI 做出可靠的报道,并不需要虚假的中立姿态。有些事实已经得到了充分确立:模型在许多评估上正在不断进步,真实的伤害已经在发生,能力仍然参差不齐,而各类制度对局势的了解并不全面。而另一些命题——AGI 出现的具体日期、非连续式的能力起飞、数字意识、稳定的对齐,以及灭绝概率——则仍然存在深刻的争议。
有纪律的应对方式,是保持措辞的精确性。在描述一项研究结果时说「该研究发现」,在超出研究本身做推论时说「作者推断认为」,在报告某种信念时说「预测者认为」,在探讨某条路径时说「该情景假设」。然后,把信源紧密地链接在相应的主张旁边。
这样的措辞,或许不如倒计时或斩钉截铁的宣告那样戏剧化。但它更有用。人类若能清楚地知道证据究竟支持什么、证据在哪里止步,以及什么样的新证据会改变现有的判断,就能在先进 AI 问题上做出更好的决策。