风险分析也必须把收益计算在内
一个只统计危害的、关于如何在强大 AI 面前生存下去的网站,会因此而失真。安全决策涉及两类错误:部署一个会造成损害的系统,以及搁置一个本可以避免损害的系统。答案不是自动加速。而是要比较收益、危害、替代方案、不确定性,以及每一种后果由谁来承担。
目前的证据涉及的是机器学习与生成式 AI,而非 AGI。已衡量的收益,是在特定场景中观察到的一项结果。预期收益,则取决于关于采用率与能力的种种假设。声称 AGI 将治愈疾病、终结匮乏或解决气候变化的说法,是有条件的情景设想,而非已经确立的成果。
生产力效应是真实的,但因情境而异
对照研究与工作场所实地实验发现,生成式工具能够加快部分写作、编程与客户支持任务的完成速度。其效果因工作者经验、任务类型、所用模型,以及出错代价高低而异。更快完成任务,并不自动等同于更高的社会福祉:节省下来的时间,可能用于提高工资、降低价格、增加产出、减少雇用,也可能用于提高绩效指标要求。
国际劳工组织(ILO)2025 年的全球暴露度分析得出结论:对大多数受影响的职业而言,转型比彻底替代的可能性更高,因为这些工作岗位本身就包含着混合的任务组合(ILO–NASK,2025 年 5 月)。这是一项建模得出的暴露度评估,而不是「每一位工作者都能从中受益」的证据。收益究竟流向何处,取决于分配机制、议价能力与工作设计。
小型组织或许能够获得此前只有大企业才能拥有的能力:翻译、草案分析、软件辅助、设计与客户服务。然而,订阅费用、数据规则、可靠性,以及对某一供应商的依赖,都可能限制这种优势。一项有意义的评估,应当衡量整体工作流程成本、纠错所需时间、失败次数,以及保留下来的技能,而不是仅凭令人印象深刻的演示。
健康与无障碍
AI 已经在支持影像诊断、临床文书记录、药物研发、人群监测与辅助交互界面等方面发挥作用。世界卫生组织指出了其在诊断与护理、患者支持、行政管理、培训与研究方面的潜在用途,同时也警示了输出不准确、偏见、隐私、自动化偏倚与获取不平等等问题(世卫组织指南,2024 年 1 月)。
这些警示并不是放弃这一领域的理由。延误一款已经过验证的筛查或行政工具,可能会让本可避免的积压案例与临床医生的工作负担持续存在。而把一个未经验证的聊天机器人当作临床医生来部署,则可能造成本可避免的伤害。证据的分量应当与用途相匹配:医疗器械性能、临床结局、亚人群结果、前瞻性监测,以及一位具名的、负责任的专业人员。
生成式系统能够提供字幕、图像描述、文本简化、语音交互界面,以及个性化沟通。对部分残障用户而言,这些不是锦上添花的便利,而是独立生活的工具。但无障碍方面的宣称,仍必须由受影响者本人加以检验。一个在处理非典型言语时会失灵、无法离线运行,或使某个网站与辅助技术不兼容的系统,可能会制造出新的障碍。
科学与公共服务
机器学习能够搜索化学与生物空间、分析大型数据集、辅助数学工作,并帮助科学家编写代码或查找文献。一个生成出来的假设,并不等于一项发现;实验、复现与同行评审依然不可或缺。专有系统或许能够加速研究,但同时也可能使研究方法的可复现性降低。
政府用途可以包括翻译、表格填写辅助、欺诈甄别、基础设施维护与应急规划。当 AI 能在不使资格审查或执法失去问责的前提下扩大服务可及性时,其收益最大。而自动拒绝福利申请、预测性警务,或不透明的风险评分,则可能把行政效率变成一种侵犯权利的行为。
公共机构应当衡量办结率、等待时间、准确度、申诉情况、亚人群结果,以及员工工作负荷。供应商自行报告的准确度是不够的。合同中需要写明审计权限、数据保护、事件报告机制,以及退出方案。
教育与能力建设
AI 辅导工具能够以较低的边际成本提供练习与反馈。经合组织(OECD)2026 年《数字教育展望》报告发现,当相关工具被嵌入到扎实的教学法之中时,便显现出前景,并强调要区分「AI 辅助下的表现」与「持久的人类技能」(OECD,2026 年)。
一刀切式禁令的机会成本,对于那些没有私人辅导、翻译服务或专业支持的学生而言,可能最为高昂。而不加限制的答案生成所付出的代价,则可能是练习机会的丧失,以及有指导的用户与无指导的用户之间不平等的加剧。结构化的使用权限、信源核查、基于过程的评估,以及持续保留无辅助的独立作业,能够同时保住收益与学习效果。
能源与气候的效应是双向的
数据中心消耗电力、水、材料与土地。AI 也可能优化电网、建筑、交通、工业流程与科学建模。国际能源署将这两种效应都视为具有实质性且充满不确定性的因素。它预测数据中心的用电需求将大幅上升,同时也在分析效率与能源系统方面的收益(IEA,2025 年 4 月)。
关于「避免了多少排放」的宣称,需要一个反事实基准作为参照。一项按单次操作计算能节省能源的优化措施,如果因此让相关活动变得更便宜,反而可能增加总体消耗。企业应当报告其直接足迹,并对所宣称的下游节省效果进行独立验证,而不是简单地从已测得的排放量中扣除推测性的收益。
不加区分的延误也有其机会成本
延误可能意味着诊断被推迟、服务无法获取、研究进度放缓、行政成本上升,或防御能力的丧失。但延误也可能为测试、构建制度、培训劳动者,以及防止不可逆的部署,争取到时间。关键的区分在于:可逆的学习,与不可逆的风险暴露。
一项范围有限的临床试验、一个沙盒环境中的科学助手,或一款低风险的无障碍工具,能够以有限的下行风险产生证据。而释放强大的模型权重、把一个智能体整合进关键基础设施,或将一项影响权利的决策自动化,则可能难以逆转。防范措施的力度,理应与后果的严重性及可逆性成正比。
集中开发本身也有其机会成本。如果只有少数几家公司能够负担得起高昂的合规成本,社会可能会因此失去竞争、独立监督与本地创新。反过来,过于宽松的规则则可能把伤害外部化给那些完全没有分享到任何收益的人。良好的政策,应当为公共利益能力提供资金支持,并让相应义务随风险大小而调整。
关于 AGI 收益的宣称,需要与风险宣称同样的严谨态度
如果具备广泛能力的系统真的能够将研究自动化,它们或许能够加速医学、材料科学、清洁能源与教育的发展。它们也可能产出不安全的设计、导致所有权集中,或优化出与人类福祉脱节的目标。这两者都是预测。能力,并不等同于明智的取舍、物理层面的部署、公平的可及性,或政治上的合法性。
即便认知劳动变得廉价,匮乏本身也不会因此消失。能源、土地、矿产、时间、信任与治理,依然是制约因素。科学产出或许会变得丰裕,而实验能力、监管与关注度,则可能成为新的瓶颈。
一个决策框架
针对某项拟议中的用途,应当追问:
- 真正重要的结果是什么?不使用 AI 的替代方案又是什么?
- 所宣称的收益,是已经衡量的、经过建模的,还是纯属推测的?
- 谁获得收益,又由谁承担出错的后果?
- 表现在不同群体与不同条件下有何差异?
- 人们能否提出申诉、选择退出,并获得人工复核?
- 部署是否可逆?是否保留了日志与后备方案?
- 什么样的证据会触发扩大规模、重新设计,或叫停?
利益冲突应当是可见的。供应商从乐观的采用率宣称中受益;安全倡导者可能更强调负面风险;政府机构可能偏爱效率;从业者可能出于自身利益、也可能出于正当理由捍卫既有标准。独立复现与受影响社群的参与,能够改善这一决策过程。
平衡的立场,既不是「让一切加速」,也不是「让一切停下」。而是要在有边界、可问责的场景中,把已经证实的收益兑现下来;在失败会危及权利或生命的领域,维持高标准;并把关于 AGI 的非凡承诺,当作情景设想来对待。安全工作取得成功的标志,是保护人们获益的能力,而不是把减少技术使用本身当作目的。