从功能出发,而不是从标签出发
一件自主武器,通常被理解为这样一种系统:一旦被激活,它就能够在无需人类批准每一次具体打击的情况下,自行选定并攻击目标。相关定义依然存在争议,因为自主性并不是一个单一的开关。人类可能只是选定任务区域与目标类别,而由软件负责导航、识别目标、给出行动建议,或决定精确的开火时机。
这一光谱之中,既包括由来已久的系统,比如防御性拦截器,也包括较新的游荡弹药、无人机蜂群、AI 辅助的目标锁定工具,以及武装地面机器人——也就是本手册军用人形与地面机器人一文所考察的轮式、履带式与足式平台。风险的大小,取决于所处环境、目标、时间压力、可预测性、通信状况,以及一旦出错的后果。一套用途受到严格限制、只负责拦截来袭弹药的系统,与一套在城市中搜索人员的系统,是完全不同的两回事。
即便正式扣动扳机的依然是人类,AI 辅助的决策支持,也同样值得审视。如果一名操作员,在极大的时间压力下,接收到数百个由机器生成的目标,那么所谓的「批准」,就可能沦为例行公事的橡皮图章。「人在环内」这句话本身说明不了什么问题,除非这个人真正拥有足以质疑该系统的信息、权限、时间与训练。
什么已经有据可查——什么依然存在争议
联合国专家小组一份2021年关于利比亚的报告描述了 Kargu-2 游荡弹药及其他被用于打击撤退部队的系统,并指出这些系统被编程为无需操作员与弹药之间保持数据连接,便可攻击目标(联合国利比亚报告,第63段)。这段文字,经常被称为首例无人机对人类实施的自主攻击。然而,这份公开报告,并未确凿地证实一架 Kargu-2 独立选定并杀死了某个人。专家们对其运行模式与实际结果都存在争议。这只是在一个相关情境下发生了部署的证据,而不是一次已获确认的自主击杀的证明。
更为近期的冲突中,出现了广泛的无人机使用、计算机视觉、自动化情报处理,以及 AI 支持下的目标推荐。公开报道往往缺乏足够的技术访问权限,来确定究竟是哪个模型执行了哪项功能,或操作员保留了多少控制权。军方的说法、供应商的描述与媒体的报道,应当被分别标注清楚,而不应被混为一种确定无疑的说法。
尽管如此,发展的方向依然是明确的:各国武装力量,正在投资那些能够在通信受阻的情况下运行、能够快速处理传感器数据、并能协调众多廉价平台的系统。更高的自主程度,在战术上可能颇具吸引力,因为一条持续性的远程控制链路,本身是脆弱的。这究竟会带来更安全、更精确的打击,还是更快速、问责机制更弱的暴力,取决于具体的设计与作战理论。
三种不同的升级路径
速度型升级,发生在自动化的预警、目标锁定或响应压缩了决策时间的时候。在一场危机中,决策者可能担心,如果等待,就会让对手那套以机器速度运转的系统占得先机。这可能催生出一种预先授权行动的压力。一次错误的传感器读数、一次模型错误,或一次含糊不清的军事调动,都可能在人们理解其含义之前,就已经扩散开来。
规模型升级,发生在自主性降低了协调众多系统或生成目标的成本的时候。一个能够仔细审查几十项决策的人类组织,却未必能够对数千项决策进行有意义的审查。即便每一套系统单独来看都更为精准,数量的增加,也可能带来更多的意外遭遇、更多的平民伤亡,以及更多要求报复的呼声。
认知型升级,发生在各国误读了对手的系统、作战理论或控制程度的时候。保密性,使得外界难以判断一件武器究竟是防御性的、某项行动究竟是不是有意为之,或者人类是否能够将其叫停。一条由 AI 生成的建议,在一方看来可能显得客观中立,在另一方看来却可能显得咄咄逼人。
这些都是具有说服力的机制,而不是「AI 必然会引发战争」的证据。自动化同样可以改善预警、减轻操作员的负担、拦截威胁,并支持局势降级。最终结果如何,取决于测试、通信、作战理论,以及各方共同遵守的约束条件。
核系统理应受到更高标准的约束
把 AI 与核指挥、控制、通信或预警系统连接起来,涉及的利害关系异乎寻常地重大。机器学习或许有助于分析大量的传感器数据流,但在虚假的确信可能酿成灾难的场合,不透明的错误、对抗性操纵与分布偏移,都是十分危险的因素。这里的风险,未必是 AI 独自「发射核武器」,而是包括决策者在短短几分钟内,收到经过压缩、且校准不足的建议。
因此,让人类对核使用决策继续承担责任,绝不仅仅是一种象征性的姿态。相关系统应当提供不确定性说明与信息来源、保留独立的渠道、抵御欺骗手段,并给决策者留出核实的时间。不应让任何单一的模型输出结果,成为决定性的判断依据。演习内容应当涵盖 AI 故障与蓄意操纵,而不仅仅是设备损坏。
问责不能止步于算法本身
无论使用了何种技术,国际人道法都同样适用。区分原则、相称性原则,以及攻击中的预防措施,依然是人类与国家所须承担的义务。然而,自主性让调查工作变得更加复杂:一个有害的结果,可能涉及训练数据、传感器局限性、指挥官所设定的参数、一次软件更新,或操作员的不当使用。
这种复杂性,不能成为问责出现空白的借口。各国可以要求提供可追溯的日志、法律审查、可供审计的测试、明确的指挥责任,以及对系统可运行环境的限制。开发者与指挥官应当界定可预见的故障模式与停止条件。一套过于不可预测、以至于无法接受审查的系统,不应仅仅因为责任被分散到了多方,就被投入使用。
偏见与具体情境同样重要。一套仅在清晰图像上测试过的视觉系统,在恶劣天气、废墟、伪装,或面对陌生人群时,可能会失效。对手可以蓄意欺骗传感器。在一个测试集上得出的平均准确率,并不能回答这套系统对某一特定目标类别与特定环境而言是否可靠这个问题。
国际政策格局
各国已在《特定常规武器公约》的框架下,就致命性自主武器问题辩论多年,却始终未能就一项具有约束力的文书达成一致。美国于2023年发起了一份不具约束力的《负责任地在军事领域使用人工智能与自主性政治宣言》,要求签署方承诺遵循一系列原则,包括高层监督、严格测试,以及能够断开出现意外行为的系统(美国国务院宣言)。
这份宣言能够建立起相应的规范与实际的合作,但签署本身并不等于强制执行。公民社会与各国政府提出的方案五花八门,既有主张禁止在缺乏实质性人类控制的情况下以人员为目标的系统,也有主张对特定功能加以监管,并要求承担积极义务。围绕定义、核查与军事优势,各方的分歧依然存在。
一些有用的近期措施,并不需要等待一项全面性的条约才能实施。各国可以交流事件信息、禁止自主的核发射决策、要求进行武器审查、制定测试标准、保护人类对以人员为目标行为的控制权,并建立起针对 AI 相关事故的沟通渠道。
具有实质意义的人类控制需要具备什么
这句话本身,应当具有可操作性。人类需要一个可理解的目标与边界范围;需要关于系统置信程度与局限性的可靠信息;需要足够的时间进行干预;需要一套可用的停止机制;还需要拒绝执行的法律权限。界面设计应当抵御自动化偏见,而不是鼓励快速确认。事后,相关记录必须能够支持调查与补救。本手册的配套文章地面机器人、人形机器人与战争法,考察了这项人类控制要求,在当前已投入使用的武装地面机器人身上,实际上是如何被落实的——或者并未被落实。
控制,也始于交战之前。政治决策者决定采购与作战理论;指挥官设定参数;工程师选择数据与测试方式。如果只关注最后按下按钮的那一刻,就会忽视这些具有深远影响的前置选择。
一个有分寸的结论
武器中的自主性,已经是一项政策与战场上的现实,但关于具体交战情况的公开证据,往往并不完整。Kargu-2 事件的报告,不应被夸大成一起已获证实的自主击杀;而受人类监督的目标锁定,也不应被错误地贴上「完全独立作战」的标签。
这种灾难性的担忧,建立在若干具有说服力的路径之上:决策速度加快、大规模协同、脆弱的人工审查,以及与战略预警系统之间的相互作用。这些因素,没有一个能让升级变得不可避免。强有力的人类权限、可供审计的设计、法律问责、共同遵守的规范,以及围绕核相关功能与以人员为目标功能所设定的明确限制,都能够在证据不断积累的同时,降低相应的风险。