「真的还是假的?」往往不是应当首先追问的问题
一张真实的照片,可以配上一条虚假的图注。一幅由 AI 生成的示意图,可以用来解释一项真实的科学发现。一段真实的录音,可以被剪辑得意思完全相反。一个被伪造出来的声音,也可以复述真实的事实。媒体素养,首先要把至少三个问题区分开来:这份文件究竟来自哪里?它经历过什么处理?它所支撑的论断,是否真的能从相应的证据中得出?
没有哪一种检测工具或凭证机制,能够同时回答这三个问题。内容溯源信息,能够提供关于来源与编辑历史的证据。检测技术,能够估计其中是否涉及某种已知的生成过程。而新闻调查与相互印证,评估的则是背后那个具体论断本身。把其中任何一层单独当作一台断真伪的机器来看待,只会制造出新的漏洞。
C2PA 内容凭证究竟包含什么
「内容溯源与真实性联盟」(C2PA)发布了一项公开的技术标准,用于为数字媒体附加经过密码学签名的各项断言。一份清单可以标明签署的工具或设备、编辑操作、用于生成该资产的各项「原料」信息,以及实施者所选择的其他相关信息。密码学哈希值将该凭证与内容本身绑定在一起,使未经授权的更改能够被察觉。
这把原本「它看起来像是合成的吗?」这一问题,转变成了「究竟是谁对这份文件做出了怎样的断言,而这份经过签名的记录是否依然完好无损?」内容真实性倡议(CAI)将这类凭证描述为一张「营养成分表」,而不是一份定论(CAI 概述)。
一位核实者依然需要自行判断,自己是否信任签署方与相应的证书链。一个有效的签名只能说明,某个私钥的持有者对这些断言进行了签署;它无法证明该设备未曾被攻陷、操作者本人诚实可信,或画面所描绘的事件是自发发生的。
溯源信息无法证明真相
C2PA 的说明文档明确指出:溯源信息能够支持关于来源与历史记录的判断,但本身无法单独确定内容是否真实、准确或符合事实。文档同时也指出,溯源信息可能并不完整,元数据本身也是可以被移除的(C2PA 说明文档)。
这带来了若干实际层面的局限:
- 一个摆拍出来的场景,同样可以被一台真实的相机所拍摄;
- 一次诚实的编辑,可能缺乏与之兼容的溯源信息;
- 一个心怀恶意或已被攻陷的签署方,同样可以做出具有误导性的断言;
- 截图与平台处理过程,都可能剥离掉相应的元数据;
- 一台老旧或低成本的设备,可能从未生成过任何凭证;
- 持久性的水印或指纹关联机制,可能会失效,也可能产生错误匹配;
- 身份信息本身,可能会将记者、活动人士,或暴力侵害的幸存者置于危险之中。
因此,凭证的缺失,只是溯源信息未知,而不是伪造的证据。而凭证的存在,则是一个正面信号,其具体含义取决于签署方本身、所做出的断言,以及所处的语境。
持久性凭证及其取舍
C2PA 同时支持「硬绑定」机制(如密码学哈希值),以及「软绑定」机制(如水印或指纹),后者有助于在元数据被剥离之后,重新找回相应的凭证。持久性能够提升凭证留存下来的概率,但并不能让它变得无法被移除。裁剪、压缩、重新录制、对抗性编辑,或不受支持的平台,都可能切断这种关联。
托管在云端的凭证,带来了可用性、治理与隐私层面的种种问题。信任列表决定了验证程序会认可哪些证书颁发机构。一旦密钥被攻陷,便需要相应的撤销机制,以及区分「攻陷之前」与「攻陷之后」所签署内容的方法。标准的实施者应当就数据留存、查询、纠正与申诉机制留存相应文档。
在身份信息会造成危险的场合,溯源信息理应是可选的,或采用保护隐私的方式。该标准本身,并不天然要求披露创作者的个人身份。相关产品应当避免暗示与此相反的说法。
水印与标签
水印是在内容之中嵌入的一种信号。它可以是可见的,也可以是隐藏的,可以用来标识某个生成工具,或标明合成来源。稳健的水印能够在经历一些常规的转换处理后依然存在,但心存恶意、且掌控着一条开放式生成流程的行为体,依然可能将其移除或规避掉。
标签能够帮助用户理解相应的语境,但其措辞与呈现方式同样重要。「AI 生成」这一标签,对一张只经过轻微编辑的照片而言可能过于宽泛,而对一张配有合成旁白的真实图像而言,又可能过于狭窄。标签本身,也可能造就一种「说谎者红利」,促使人们对未加标注的真实证据不予理会。
NIST 关于合成内容的报告,梳理了溯源、水印、标注与检测这几种手段,并描述了其中在稳健性与危害缓解方面存在的不确定性(NIST AI 100-4)。相关政策应当要求在实际的平台流程中开展测试,并公布假阳性率、假阴性率与移除相关的结果数据。
检测是一种初步分类手段,而不是最终裁决
检测工具推断的是,一段文本、音频、图像或视频,是否与已知生成工具的输出相似。它们可以协助一位训练有素的分析人员、为审查工作排出优先顺序,或识别出某一个模型家族。它们可能会在经历压缩、翻译、编辑,或面对一个新发布的生成工具时失灵。一个对手完全可以试探一个公开的检测工具,并据此加以适应调整。
错误指控本身就是一种严重的伤害。一名学生、劳动者、记者或寻求庇护者,不应仅仅因为某个检测工具给出了一个概率数字,就失去一次机会。高风险的决策,需要相互印证的证据、对其局限性的说明、人工复核,以及申诉渠道。各机构应当保存原始文件与所用工具的版本信息,以便相关发现能够被复现。
检测与溯源信息可以相互补充。一份有效的凭证或许能够确立一条已知的工作流程;一个检测工具可能会标记出一处无法解释的不一致之处;而信源方面的报道,则可能对其加以厘清。多方结果一致,能够提升可信度,但依然无法证明所呈现的论断本身为真。
一套切实可行的核实流程
当一项具有重大影响的内容出现时:
- 分享之前先停一停。 紧迫感与强烈的情绪冲击,是需要加以核实的理由,而不是虚假性的证明。
- 找到现有可查的最早信源。 截图与转发会剥离掉相应的语境。
- 检查是否存在相应的凭证。 确认签署方、创建工具、编辑记录、验证状态,以及缺失的历史信息。
- 单独核实其中的论断。 这段媒体内容,是否真的展示了图注所说的内容?
- 寻求独立的相互印证。 应当寻找不同的目击者或不同的记录来源,而不是许多网站在重复转发同一条帖子。
- 核实时间与地点。 反向图像搜索、地标建筑、天气状况、阴影方向,以及发布历史,都可能揭示出被重新利用的旧素材。
- 通过带外渠道核实身份。 对于涉及资金或人身安全的紧急请求,应当使用一个已知号码或当面沟通的渠道。
- 保存相应证据。 在举报之前,保存好原始网址、文件、时间戳与相关消息记录。
对于日常的、风险较低的内容而言,并非每一项都需要开展一次法证级别的调查。相应的核实力度,应当与判断失误所带来的后果相匹配。
教授媒体素养,而不是教授犬儒主义
真正的目标,是一种经过校准的信任。「网上什么都不要相信」这种态度,只会让人对任何看起来熟悉的信息都失去防备。更好的教学方式,应当说明知识究竟是如何被生产出来的:第一手证据、编辑审核、更正机制、专业能力、利益冲突,以及不确定性本身。
联合国教科文组织关于媒体与信息素养的相关资源,强调的是对信息与数字系统(包括生成式 AI)展开批判性参与的能力(联合国教科文组织媒体与信息素养)。一套多元化的课程体系,应当使用来自不同政治与文化视角的例子,把「虚假信息」与「意见分歧」区分开来,并允许学生凭借证据,对值得信赖的机构提出质疑。
相应的练习,可以包括比较一份原始文件与相关评论、检视一份真实的凭证、追溯一张被重复利用的图像,以及评估某个检测工具所犯下的错误。应当教导学生,在新证据出现时修正自己原先的结论。
出版机构与平台应当做些什么
在安全可行的情况下,应当在信息源头就捕获溯源信息,让它在编辑过程中得以保留,并以易于获取的方式加以呈现。应当保存原始文件与更正历史记录。应当说明一份凭证究竟能够证明什么、又不能证明什么。不应自动降低所有未附带凭证内容的权重。
各类平台应当保留可互操作的元数据、在处理过程会移除元数据时予以披露、支持撤销机制,并为研究人员提供一种保护隐私的访问渠道,以便对其成效进行研究。新闻编辑室与公共机构,则需要建立经过身份验证的沟通渠道,以及针对账号或签名密钥遭到攻陷情形的应对预案。
模型开发者可以为其生成的媒体内容应用溯源机制,但心怀恶意的行为体完全可能使用那些不这样做的工具。这种采用行为,能够降低相互合作的参与者之间的模糊性;但它无法消除对抗性的合成内容本身。
切实可行的结论
内容溯源,是用于确立一份文件所声称的来源与历史记录的一项宝贵基础设施。它无法证明真相,无法保证历史记录的完整性,而且是可以被剥离的。检测技术能够为调查工作提供支持,但对于缺乏相互印证的高风险判断而言,依然过于脆弱。而媒体素养,提供的正是这两种技术手段本身都缺乏的推理能力。
最为有力的方法,是把经过签名的历史记录、审慎的检测手段、独立的相互印证、经过身份验证的沟通渠道、透明的更正机制,与申诉渠道结合起来。最终的结果,应当是更多的证据,以及经过更好校准的信任——而不是一枚要求公众把判断权拱手让出的新徽章。