治理把价值观转化为决策权
一个组织所秉持的 AI 原则本身,重要性其实不及「当证据与发布时间表相冲突时,究竟由谁来做出行动」这一点。行之有效的治理,分配的是权力、信息、资源与问责。它明确界定:哪些决策属于工程师、风险官、高管与董事会各自的职责范围;担忧应当如何逐级上报;以及谁能够在不遭受报复的情况下限制一个系统的运行。
NIST 的《AI 风险管理框架》指出,高层管理者应当为 AI 的研发与部署风险承担责任,问责结构应当清晰明确,应急流程也应当涵盖第三方失灵的情形(NIST AI RMF 核心内容)。该框架本身是自愿性的。一家公司宣称自己「采用了 NIST 框架」,并不能证明某项具体的管控措施真的有效。
公司治理,只是法律、采购、劳工权利、专业标准与技术实践这一系列杠杆中的一环。它可以改善内部决策,但它既无法代表所有受某个系统影响的人,也无法取代公共层面的执法。
从建立 AI 系统清单开始
一个连管理层都尚未摸清情况的东西,董事会自然也无从治理起。组织应当对内部开发与外部采购的模型、各个版本、责任人、用途、数据、工具、权限、用户、供应商,以及受影响人群逐一建立清单。高影响力的应用场景,需要有明确记录在案的风险责任人与审批历史。
这份清单应当把训练环节与部署环节区分开来,也应当把模型本身与其周边系统区分开来。一个仅用于起草内部文本的通用模型,与同一个模型被连接到资金转账或医疗记录系统相比,所面临的风险敞口截然不同。工具、提示词、微调、检索数据或供应商版本上的变化,都可能在模型名称本身没有改变的情况下,改变整体风险状况。
董事会应当获得一份整体性的组合视图:重大事故、尚未解决的高严重性发现、即将进行的部署、对单一供应商的依赖程度、审计覆盖范围,以及回滚准备情况。他们不需要对具体的提示词进行微观管理,但需要具备足够的技术素养,以便对各类摘要提出质疑,并理解其中的不确定性。
一个委员会需要的是实际权力,而不仅仅是一个头衔
董事会下设的风险或技术委员会,能够集中注意力,但设立这样一个委员会本身,并不能证明结果会因此变得更好。其章程应当明确界定:接触独立专家的渠道、与技术风险人员的直接沟通机制、委托开展测试的权力,以及向董事会全体上报的路径。委员会成员需要相应的时间与培训,而利益冲突也应当予以披露。
管理层层面的安全人员,需要独立于产品审批流程之外。切实可行的措施包括:受保护的报告渠道、有据可查的异议记录、针对达到某一阈值的决策要求双重签字确认,以及施加临时性遏制措施的权力。组织应当公开足够多关于其决策架构的信息,以便员工、客户与投资人清楚责任究竟落在何处。
薪酬结构值得审视。如果只奖励发布速度、使用量或收入,可能会削弱组织所宣称的风险容忍度。平衡的激励机制,或许应当包含可靠性、安全性、事故整改、审计结项情况,以及客户结果等因素。安全指标本身也可能被人为操纵,因此,董事会应当审视具体证据,而不是把整套治理简化为单一一个分数。
董事会应当追问的运营层面问题
良好的监督,应当延伸至事故应对准备程度这一层面:
- 公司能否识别出每一位受某次模型更新影响的客户与系统?
- 谁有权立即撤销某个模型、工具或账户的相应权限?
- 回滚程序是否经过技术层面的实测,且与当前数据兼容?
- 关键功能能否通过经过训练的人工后备方案继续运转?
- 日志记录是否保留了足以支撑调查的证据,同时又没有制造出不必要的监控?
- 是否有第三方评估机构在测试实际部署中的具体配置?
- 严重故障将如何上报给监管机构、客户、劳动者与受影响人群?
- 员工能否在自己的管理层级之外提出担忧?
NIST 明确将安全退役、监测、事故信息共享,以及第三方应急预案,纳入其治理成果之中。因此,这些运营层面的问题,并非独立于董事会治理之外的另一件事;它们所揭示的,是相关政策是否真的落到了实处。
股东能够做些什么
美国上市公司中符合资格的股东,可以依据《证券交易法》第 14a-8 条,提交某些提案,纳入代理材料之中。SEC 负责维护现行流程与指导意见,该流程于 2026 年 8 月再次发生变化(SEC 股东提案页面)。资格认定、截止日期、排除情形与公司章程,都各有讲究;寻求合格的法律或代理顾问的意见,是明智之举。
一份有价值的提案,要求的是实质性的、有助于决策的信息披露,而不是宣称一个股东自己无法核实的技术性结论。相关议题可以包括:董事会监督、清单与风险流程、事故报告、在高影响力领域中的应用、游说活动的一致性,或独立评估。提案人应当指出现有报告遗漏了什么、以及这项请求为何是合乎比例的。
大多数股东提案都只具有咨询性质,一次投票本身并不能直接改写公司的实际运营方式。低票数依然可能开启对话;高票数也依然可能被忽视,或只是表面化地加以落实。因此,衡量成效的证据,应当追踪政策变化、预算投入、权力归属与事故应对表现——而不仅仅是提案的数量本身。
机构投资者拥有更多的信息获取渠道与投票权,但其自身的激励机制各不相同。养老基金、资产管理公司、主动型基金与指数基金提供商,各自向不同的受益人负责,也承担着不同的法律义务。协同行动能够改善分析质量,但也会带来其自身在治理与反垄断层面的问题。个人投资者不应想当然地认为,持有一股股票就能带来有意义的实际控制力。
私营企业与前沿开发者
公开市场的代理机制,并不能直接触及大多数私人持股的前沿开发企业。投资人或许拥有董事会席位、知情权、保护性条款或合同层面的影响力,但这些条款往往是保密的。员工、客户、云服务合作伙伴、保险公司与监管机构,可能拥有更为实际的影响力。
一些特殊的架构安排——公益公司、非营利机构控股、目的信托,或安全委员会——能够改变正式的法定职责。它们的实际成效,取决于具有可执行力的文件、任免权限、资金来源、信息获取渠道,以及在一次真实冲突发生时究竟发生了什么。这种架构本身,应当被加以评估,而不应被当作一个安全标签来看待。
客户可以要求合同层面的保护条款:模型版本变更通知、相关评估结果、审计访问权限、事故通报、数据可携性,以及终止协助。大型企业与政府买家,或许能够获得分散的普通股东所无法获取的种种管控权。
劳动者与专业责任
员工往往比董事会更早察觉到问题。企业需要建立保密渠道、反报复规则、独立调查机制,以及一条明确的紧急应对路径。加州 SB 53 法案,保护特定的前沿 AI 从业者,使其能够向指定机构举报所涉及的公共安全危险或违法行为(加州司法部长指导意见)。其覆盖范围是有限定的;它并不是一部普适性的举报人保护法律。
劳动者委员会、工会、专业协会与伦理官员,能够就培训、监控限制、人员配置、安全审查,以及自动化决策的责任归属,展开谈判。工程师、临床医生、律师、教育工作者与审计人员,同样各自承担着不同的专业职责。一种在意识形态上保持多元包容的方法,应当同时尊重人们在安全、公民权利、就业、创新、国家安全、开放研究与市场集中等方面的种种关切,而不是要求所有人都接受同一套关于 AI 风险的理论。
信息披露应当既有用又安全
投资人需要获得关于重大风险、具有可比性的信息,但不加区分的披露,也可能暴露出安全层面的薄弱环节,或敏感的个人数据。面向公众的报告,可以描述治理结构、评估类别、汇总的事故情况,以及整改措施。而具备资质的监管机构或审计人员,则可以获得更详细的保密证据。
应当避免那些华而不实的虚荣指标。红队测试小时数、安全团队人数,或被拦截的提示词数量,如果缺乏相应的范围与结果说明,本身就没有多大意义。更好的报告,应当解释剩余风险、尚未解决的问题、框架本身的变化、险些酿成事故的情形,以及安全保障措施是否真的改变了某次发布决策。
局限与利益冲突
董事会依据适用法律,对公司本身承担义务,而不是对抽象意义上的全人类承担义务。股东可能会优先考虑短期回报或政治目标。董事本身也可能缺乏相应的技术专长。私人合同无法保护非客户群体。企业层面的信息披露,也可能沦为一种声誉管理手段。
正因如此,公司治理层面的改革,应当与具有强制力的法律、竞争机制、独立研究,以及针对受影响人群的救济手段相辅相成。当一家公司本身已经具备防止伤害发生的能力,而相应的改革又能赋予明确识别出来的人员真正行使这一能力的权力时,治理改革才最为有力。
切实可行的结论
企业层面的倡导行动,并不是「来自内部的压力」这样一种单一形式。股东可以要求信息披露并参与投票;董事会可以分配相应权力;劳动者可以揭示相关证据;客户可以设定合同条款;而机构投资者则可以审视各类激励机制。每一种杠杆,各自都有不同的作用范围与法律限制。
成效应当以运营层面的实际情况来衡量:在伤害发生之前发现的风险、在必要时被撤销的权限、被上报的事故、被安全回滚的系统、免受报复的人员,以及被真正吸收进制度的教训。一个新设立的委员会,或一份公开的承诺声明,只是这一切证据的起点。