什么是 AGI,什么不是

可操作的定义

通用人工智能并没有一个统一公认的测试标准。在本手册中,它指的是这样一种系统: 具备广泛的认知能力、达到或超越人类水平的表现、能够可靠地迁移到陌生任务,并具备 足够的自主性以完成具有实际后果的工作。每一部分都很重要:目前的通用模型在某些方 面确实广泛,在某些评测上表现也相当出色,但仍然存在不可靠、参差不齐的问题,这使 得简单地用「是」或「不是」AGI 来贴标签具有误导性。

值得关注的能力门槛

以下四项信号有助于区分不同情景,但没有一项能构成完整的 AGI 测试。其中一些可以直 接测量;另一些则要通过评测来推断,而这些评测的有效性与覆盖面仍存在争议。

一些研究者与实验室领袖怎么说

预测因人而异,并非测量结果。2025 年 3 月,Google DeepMind 首席执行官给出了这样 一个个人估计:

另一份 2023 年的联合声明由研究者、企业高管及其他公众人物签署,以政策语言提出了 灾难性风险。该声明记录的是签署者的立场,并不是对概率的估计:

定义为何决定应对方案

本手册后续的每一项应对方案——无论是财务、数字还是物理层面——都取决于这些门槛中 究竟哪一个已被真正跨越。为「更聪明的聊天机器人」制定的家庭方案,与为一个能够自 主管理资金、编写并部署软件、在几乎无人监督的情况下执行长期计划的系统制定的方案, 截然不同。第 02 章将探讨每一项门槛在经济与国家层面可能意味着什么;本章则是理解 那一章所需的基础词汇。