这些标签有用,但并非自然法则
弱人工智能、通用人工智能与超级人工智能,最好被理解为若干能力维度上的区域,而不是三个划分精确的方框。研究者与机构对这些术语的定义各不相同,也不存在任何科学权威机构能够认证某个系统「已经成为 AGI」。因此,谨慎的读者应当追问:说话者所说的这个术语究竟指什么?支持这种归类的证据又是什么?
弱人工智能(ANI) 传统上指的是针对某个特定任务或领域优化的系统:例如国际象棋引擎、欺诈检测器、语音识别器,或蛋白质结构预测模型。这类系统在其目标任务上可以超越任何人类,却在其他任务上毫无用处。但如今,把每一个已部署的模型都称为「专用」正变得越来越有误导性。通用语言模型与多模态模型能够根据指令写作、编程、分析图像、使用工具,并适应多种任务。它们在某种意义上是「广泛」的,却仍然不可靠、依赖外部脚手架,且在不同领域间表现参差不齐。与其把这些系统硬塞进旧有的「专用/通用」二元框架,不如用「通用人工智能系统」或「广泛能力模型」这样的说法,往往更具信息量。
通用人工智能(AGI) 通常指的是具备广泛能力、并能迁移到陌生任务的机器。除了这一核心特征之外,各种定义便开始分化。有的要求其在大多数认知性工作上达到与普通人相当的表现;有的要求具备高效学习的能力;有的强调具有经济价值的劳动产出;还有的加上了在物理世界或数字世界中的自主性。Google DeepMind 的研究者提出,可以同时用广度——能完成多少种任务——与深度——完成得有多好——来描述 AGI,并将自主性视为一个独立的部署属性(DeepMind,《AGI 的层级》)。这一框架避免了把某一项基准测试当作制造「神奇门槛」的做法。
超级人工智能(ASI) 是一种假想中的系统,它在几乎所有具有认知价值的领域中都大幅超越最优秀的人类。这并非一个已被观察到的技术类别,而是一种用于推理的情景设想——设想某种系统在科学、战略、工程、说服力,乃至 AI 研究本身等方面,都能超越人类机构。这样的系统是否可能出现、它可能在 AGI 之后多快到来,以及跨所有领域的智能是否能够整合进单一系统之中,这些问题目前仍存在争议。
能力不止一个维度
一种有用的评估方式,至少应区分以下五种属性:
- 广度: 系统能够胜任的任务与环境种类。
- 表现水平: 达到新手、普通从业者、专家,还是最优秀人类的水平。
- 可靠性: 成功率如何,包括在异常或对抗性条件下的表现。
- 学习与迁移能力: 在不针对特定任务重新训练的情况下,能多轻松地处理真正全新的任务。
- 自主性: 在监督有限的情况下,能够安全地规划、行动、使用工具、从错误中恢复,并持续追求目标多长时间。
这些维度之间可能存在巨大反差。一个模型也许能够回答涉及数百个主题的问题,却会犯下最基本的错误;另一个模型可能在某个具体的科研流程中表现极其可靠,却完全无法泛化。一个对话模型看起来知识面很广,但基于同一模型构建的智能体却可能因为丢失上下文、误用工具,或无法识别自己的计划正在出错而失败。经济合作与发展组织(OECD)对「AI 系统」的定义,同样将生成的输出与对环境的影响,同不同程度的自主性及部署后的适应能力区分开来(OECD 人工智能原则)。
这一点之所以重要,是因为流畅的语言表达并不等同于稳健的行动能力。近似人类的对话会助长拟人化的错觉,而基准测试的分数则可能掩盖了系统对精心构造的提示词、干净数据以及自动化评分的依赖。反过来说,一个系统也无需像人一样交谈,才能具备具有实际后果的能力。一个科学模型、交易智能体或网络安全工具之所以重要,是因为它能做什么,而不是因为它看起来像一个人类心智。
为什么没有任何单一基准测试能证明 AGI 的存在
基准测试所采样的,是特定条件下的行为表现。它们并不能直接揭示理解力、意识、意图,也无法说明系统在一切未经测试的场景中的表现。分数的提升,既可能来自真正的泛化能力,也可能来自接触过相似的训练样本、更好的提示词、工具的可用性,或是围绕模型所做的工程优化。基准测试还可能出现「饱和」现象:一旦领先系统逼近其上限,微小的分数差异就变得难以解读。
同样的警示也适用于经济学意义上的定义。「能够自动化大多数工作」听起来很具体,但一份工作实际上是技术任务、社交谈判、问责机制、体力活动、本地知识与错误责任的组合体。在自成一体的任务上取得成功,并不能证明一个系统能够在一个杂乱无章的真实组织中取代一名员工。METR 明确表示,其任务完成时间跨度这项指标主要集中在软件、机器学习与网络安全领域,不应被解读为对就业自动化程度的普遍衡量(METR 方法论)。
因此,对「AGI」的任何论断,都应被视为一项需要完整证据链支撑的主张。测试了哪些领域?任务有多新颖?允许使用哪些工具与人类协助?表现是否经过独立复现?成功率是多少?当目标含糊或环境发生变化时,系统是否依然可靠?缺少这些细节,所谓的「AGI 宣告」不过是品牌营销、预测,或个人判断——而不是一项测量结果。
为什么这种区分会改变政策取向
不同的能力特征会带来不同的风险。当前的系统已经通过欺诈、歧视、侵犯隐私、不安全的建议、劳动力冲击与合成媒体等方式,造成了有据可查的危害。这些问题的出现并不需要 AGI,也不应被搁置到某个未来的门槛才去处理。而广泛自主的系统则可能带来其他风险,例如实施网络行动、加速危险研究,或以超出人类审查能力的规模控制关键流程。假想中的超级智能,则提出了更为不确定的问题:人类机构是否能够监督一个在战略上全面超越自身的系统。
这些分类同样决定了应当采取何种程度的相应保障措施。一个专用的医疗分类器可能需要临床验证、持续监测与申诉机制;一个通用模型可能需要能力评估、滥用检测、事件报告,以及围绕危险工具的管控;而一个操控关键基础设施的高度自主系统,则应当配备更强的保障、遏制手段与人工授权要求。把「AI」当作一个不加区分的统一类别,只会掩盖这些差异。
一种更好的方式来解读关于 AGI 的论断
当有人宣称 AGI 已经到来——或者永远不可能实现——不妨把这种论断转化为一系列可观察的问题:这个系统是真正具备广泛能力,还是仅仅在交互界面上显得广泛?它能否迁移到新的工作中?它的可靠性如何?能否完成长周期的真实世界项目?是否需要持续的人工纠正?部署之后它是否还会继续学习?相关证据是否公开,并能被独立复现?
截至 2026 年,一个诚实的结论并不是说,所有已部署的 AI 都不过是「专用」系统,也不是说广泛的语言模型已经跨越了某条被普遍认可的 AGI 分界线。当前的系统将惊人的广度与严重的脆弱性结合在一起。AGI 仍然是一个存在争议的概念,ASI 也仍然只是假想。因此,最有用的「能力阶梯」应当是一幅带有时间标注证据的多维地图,而不是一段三级台阶,任由某家公司自行宣布获胜。