这一威胁,远比虚假图像本身更为广泛
AI 能够降低起草信息、翻译宣传内容、生成虚假账号、模仿声音,以及调整论证方式的成本。这可能会放大欺诈、骚扰、宣传活动,以及普通的低质量信息。然而,现有证据并不支持这样一种描述:如今的公众,已经普遍可以被一种完美个性化的 AI 所随意操纵。
对照实验表明,对话式系统确实能够改变人们的观点,但一项在 2026 年开展的、涉及 76977 名参与者的重要研究发现,基础的个性化说服效应,还不到一个百分点。而以提示词工程与后训练方式专门针对说服效果进行优化的方法,其效应更大,但这些方法同时也与事实准确性的下降相关联(英国 AI 安全研究院研究)。《国际 AI 安全报告》指出,现实世界中的恶意操纵行为确实有据可查,但尚未达到普遍蔓延的程度(2026 年报告执行摘要)。
即便是这样一幅经过校准的图景,依然足以为采取行动提供正当理由。廉价、大批量的内容,可以让核实工作不堪重负、瞄准脆弱人群下手,并让人更容易对真实证据的存在加以否认。相应的防御措施,应当致力于强化值得信赖的沟通与用户自身的能动性,而不应假定官员或平台能够以中心化的方式,一锤定音地宣布每一件事的真相。
保护的是信息渠道,而不仅仅是内容本身
许多具有破坏性的行动,利用的其实是身份与传播渠道,而不是一条在技术上多么高明的信息本身。一场骗局之所以能够得逞,是因为它看起来像是来自一位经理、一位亲属、一家银行,或一个公共机构。而一场影响力行动之所以能够获得力量,靠的是协同一致的大批账号与购买来的传播覆盖面。因此,防御者即便无法对每一句话逐一分类,也依然能够保护好信息传播的渠道本身。
各类组织应当使用经过身份验证的域名、能够抵御网络钓鱼的多因素身份验证、经过验证的公开联系方式页面,以及针对支付或敏感变更所采用的带外确认机制。公共机构与新闻机构应当公布稳定可靠的应急联络渠道。家庭与职场,则可以建立起一条「第二渠道」规则:任何涉及资金、身份凭证或保密要求的紧急请求,都应当通过一个已知号码或当面沟通来加以确认。
各类平台可以检测协同一致的可疑行为、对影响力较大的广告投放者要求更严格的身份验证、披露赞助方与定向投放的相关信息,并对大规模的未经请求的信息投放实施限速。这些措施聚焦的是行为本身与传播范围。它们可以不分政治立场地一体适用,并且相比那些含糊不清的、关于「可接受观点」的判断,能够提供更为清晰的申诉标准。
溯源信息是一种证据,而不是一台可以断真伪的神谕机
基于 C2PA 标准的内容凭证,能够附加上经过密码学签名的创建与编辑历史信息。它们可以揭示某个已知的相机或工具对某项资产进行了签名,以及经过签名的元数据是否发生过变动。但它们无法证明某个场景是被摆拍出来的、某条图注是否公正,或签名者本人是否诚实。C2PA 的说明文档明确指出,溯源信息本身无法证明内容是真实的或符合事实的,而元数据本身也是可以被移除的(C2PA 说明文档)。
凭证的缺失,绝不应当被当作伪造的证据。较旧的设备、小型出版机构、公民目击者,以及身处危险环境中的人们,都可能没有使用这套标准。要求每一份凭证都必须内嵌身份信息,可能会让活动人士或幸存者暴露于危险之中。相应的系统,需要提供保护隐私的选项、便于使用的验证方式、对信息编辑遮蔽的支持,以及在签名密钥被泄露后予以纠正的途径。
溯源信息,最好被当作相互印证过程中的其中一项信号来使用。一张由可信新闻机构签名的图像,再加上独立目击者证言与地理位置证据,要比任何单一要素都更为有力。
检测技术的作用范围较窄,但依然有用
合成内容检测工具,能够帮助对海量内容进行初步分类,或识别出已知生成方法所留下的痕迹特征。但它们不应被当作具有决定性的裁决者。其表现可能会在面对新模型、经过压缩处理的媒体文件、被编辑过的文件、不同的语言,或对抗性样本时出现下滑。假阳性可能会不成比例地伤害到那些写作风格与训练数据存在差异的人群。
NIST 对合成内容透明度方法的评估,描述了检测、水印、元数据与溯源信息之间的种种取舍,并对其稳健性与证据层面存在的差距提出了警示(NIST AI 100-4)。高风险的行动决策,应当要求相互印证、针对相关情境的、有据可查的错误率数据,以及人工复核。仅凭一个检测工具给出的分数,不应当终结一份工作、对一名学生施以纪律处分,或抹杀一篇新闻报道的价值。
把核实机制嵌入到各类制度之中
新闻编辑室可以设立信源核实岗位、保存原始文件、记录更正过程,并说明其中的不确定性。选举管理机构可以提前对常见的程序性谣言进行辟谣,并维护权威、易于访问的状态更新页面。银行可以放缓处理异常交易,并支持快速的欺诈举报机制。学校与图书馆可以教授「横向阅读」的方法:离开这条帖子本身,找到最初的信息来源,比对独立的相关报道,并审视究竟有哪些证据真正支撑着这一说法。
联合国教科文组织将媒体与信息素养,视为一种更广泛的能力——批判性地参与信息活动、驾驭数字系统,并理解 AI 本身——而不是一份「已获批准信源」的清单(联合国教科文组织媒体与信息素养)。行之有效的项目,教授的是各类机构如何生产知识、各种激励机制如何塑造信息传播,以及如何修正自己的信念。这些项目应当同时涵盖历史上的宣传手法与普通的认知错误,而不仅仅是生成式 AI 本身。
各个社区,都需要跨越政治、宗教、职业与文化界限的、值得信赖的传信人。一种被视为只属于某一种意识形态的防御机制,一旦信息跨越了群体边界,便注定会失效。围绕方法、资金来源、错误与申诉机制的透明度,本身就是成效的一部分。
针对信息层面攻击的事故应对机制
各类组织应当在危机发生之前,就为身份冒充、账号被盗用、合成媒体泄露,以及协同一致的虚假言论做好准备。一份应对预案应当明确以下事项:
- 谁有权对官方通信进行身份验证;
- 被攻陷的账号与签名密钥将如何被撤销;
- 原始记录与日志保存在何处;
- 需要联系哪些平台、银行、执法渠道或合作伙伴;
- 受影响人群将如何及时收到更正信息;
- 谁来批准公开声明,并随着事实的变化不断加以更新;
- 如何衡量传播范围与残余的伤害程度。
速度固然重要,但一次错误的否认,可能会摧毁公信力本身。最初的信息发布,应当说明哪些是已知的、哪些是未知的,以及正在核实的内容。更正信息,应当始终与最初的说法保持关联,而不应悄无声息地将其替换掉。
对于那些生成或传播内容的 AI 系统,相应的事故管控措施,应当包括限速、暂停使用、模型版本回滚、身份凭证撤销,以及审计日志记录。在调查人员尚未厘清异常行为之前,一套推荐系统或许需要暂时切换到按时间顺序排列、或降低放大效应的模式。
保留权利与多元性
信息防御本身,也可能演变为一种滥用行为的源头。政府层面的监控、强制性的身份披露、秘密的黑名单,以及大范围的内容限制,都会威胁到隐私权与异见表达的空间。私营平台同样在传播覆盖面与人们的生计方面,掌握着巨大的权力。相应的保障机制,需要有范围狭义明确的规则、对观点保持中立的判定标准、通知机制、申诉渠道、独立监督,以及对错误情况的报告。
合法但不受欢迎的言论,并不构成一起安全事故。协同一致的欺骗行为、诈骗、身份冒充与未经授权的访问,往往可以通过基于具体行为的规则加以应对,而无需赋予国家一种裁定「何为真理」的普遍性权力。研究人员则需要获得一种能够保护隐私的、针对平台数据的访问渠道,以便对关于操纵行为的种种论断进行独立评估。
个人能够做些什么
当一条信息制造出紧迫感、恐惧、愤怒或保密要求时,应当先停下来。相比信赖一张截图,更应当去寻找最初的信息来源。应当核实,是否有多家独立媒体报道了同一起基础事件,而不仅仅是在重复转发同一条帖子。紧急请求,应当通过一个已知的、独立的渠道加以核实。可疑信息应当予以保存以备举报之用,并应避免仅仅为了谴责它,而对其加以进一步传播扩散。
这些习惯能够降低风险,但个人无法单枪匹马地审视一整条工业化规模的信息流。各类平台、广告主、模型开发者、公共机构与媒体组织,掌控着制造出这种规模效应的各类系统。相应的责任,理应追随着这种控制力所在的地方。
切实可行的结论
信息层的防御,依靠的是经过身份验证的渠道、可问责的传播机制、溯源信息、审慎的检测手段、制度层面的核实机制、媒介素养,以及经过演练的事故应对能力。没有哪一项措施能够单独解决这个问题。溯源信息无法证明真相;检测手段无法提供确定性;媒介素养也不能成为不安全平台的免责借口。
真正的目标,并不是让所有人对一切都心存怀疑。而是要让值得信赖的证据变得更容易被核实,让欺骗性的规模效应变得更难以被购买获取,让错误变得更容易被纠正,也让制度层面的权力变得更容易受到质疑与挑战。