内部の人間は公衆より先に証拠を目にする
従業員や契約社員は、危険な評価結果、セキュリティ上の失敗、誤解を招く公的な主張、違法なデータの取り扱い、あるいは懸念が解消される前に展開せよという圧力に遭遇することがある。規制当局や顧客は、多くの場合、取捨選択された報告しか目にしない。保護された内部・外部への報告は、発見から是正までの時間を短縮しうる。
これは仮定上の懸念ではない。2024年、OpenAIとGoogle DeepMindの現職・元従業員が公に、内部の経路が機能しなかった後に安全性の懸念を提起する職員に報復しないよう、AI企業に求めた——この要求は、この分野で最も多く引用される安全性研究者のうち3人、ヨシュア・ベンジオ、ジェフリー・ヒントン、スチュアート・ラッセルによって支持された(OpenAIおよびGoogle DeepMindの現職・元従業員、2024年)。この要求が実名で公に行われなければならなかったこと自体が、既存の内部経路が十分と見なされていなかったことの証拠である。
内部告発は、監査や有能な経営陣の代替にはならない。従業員は誤りを犯すことがあり、文脈を欠くことがあり、複雑な動機から行動することがある。優れた制度は、善意による報告を保護し、企業側あるいは告発者側のどちらかが正しいと決めつけるのではなく、証拠を独立に調査する。
法的な基盤は断片化している
あらゆる安全性上の懸念を対象とする単一の米国連邦「AI内部告発者法」は存在しない。既存の保護は、雇用主、業界、契約、管轄区域、そして何が報告されるかに依存する。法律は、証券詐欺、政府契約、差別、労働安全、あるいは特定の違反についての開示を保護しうるが、モデルの破滅的な能力についての懸念はきれいには当てはまらないかもしれない。
秘密保持契約は、保護されたあらゆる権利を合法的に消し去ることはできないが、従業員はその境界を知らないかもしれず、費用のかかる紛争に直面するかもしれない。営業秘密、プライバシー、国家安全保障に関する規則は、規制当局への保護された経路が本来存在すべき場合でも、公的な開示を制限しうる。このページは一般的な情報であって、法的助言ではない。
カリフォルニア州はAI固有の保護を創設した
カリフォルニア州の最先端人工知能における透明性法(SB53)は2026年に発効した。その定義の範囲内で、対象となる従業員は、違反や、破滅的リスクに起因する公衆衛生・安全への具体的かつ実質的な危険を報告できる。カリフォルニア州司法長官は報告経路を運営し、その対象範囲を説明している(カリフォルニア州司法省、2026年)。
SB53はまた、対象となる大規模な最先端開発企業に対し、最先端AIの枠組みを公表・遵守し、特定の重大な安全性インシデントを報告することを義務づけている。これは意義ある州レベルの仕組みではあるが、普遍的な保護ではない。開発企業、従業員、モデル、破滅的リスクの定義が、対象範囲を決定する。読者は、実際の事案については制定された条文と資格を持つ弁護士に相談すべきである。
ニューヨーク州のRAISE法は2025年12月に署名され、同様に、ニューヨーク州の管轄内で最先端モデルの安全性と報告に関する要件を創設した(ニューヨーク州知事)。州の制度は収斂することもあれば、衝突することもあり、訴訟に直面することもある。現状は確認する必要がある。
欧州連合は報告経路を追加した
EU AI法の執行枠組みには、AIシステムや汎用AIモデルの提供者と職業上のつながりを持つ人々が違反の疑いを報告するための安全な内部告発ツールが含まれている。AI事務局と各国当局が執行責任を分担する(欧州委員会、2026年8月)。
このツールは、適用されるEU法の違反を対象とするものであり、あらゆる倫理的な意見の相違や仮定上のリスクを対象とするものではない。EUの内部告発者保護と各国での実施もまた、救済手段に影響する。経路が有効であるのは、利用者が管轄、機密性、証拠の取り扱い、報復からの保護を理解している場合に限られる。
効果的な内部報告に必要なもの
従業員には、複数の経路が必要である。すなわち、管理職、独立した安全性・コンプライアンス機能、取締役会の委員会、そして権限を持つ外部の規制当局である。争いのあるリリースを承認したのと同じ経営陣の系統を通じて報告することは、利益相反を生む。安全性のリーダーには、取締役会へのアクセスと、商業的な報復からの保護が必要である。
方針は、禁止される報復行為を広く定義すべきである。解雇、降格、失われた株式報酬、望ましくない配置転換、脅迫、ブラックリスト化、移民に関する圧力、戦略的訴訟などである。契約社員、臨時労働者、レッドチームのベンダー、研究者は、従業員と同じ証拠を目にすることが多いため、しばしば保護の対象に含める必要がある。
受領確認の期限、証拠保全義務、独立した優先順位づけ、書面による結果の通知は、経路を監査可能なものにする。匿名での報告は助けになるが、技術的なメタデータや、ある出来事にアクセスできる人間の数が少ないことによって、匿名性が失われることがある。組織はアクセスを最小化し、その限界を正直に説明すべきである。
株式報酬と補償は異論を封じうる
最先端研究機関の報酬には、価値のある未確定の株式が含まれることがある。退職後にそれを失うことは、直接的な脅しがなくても、声を上げることを経済的に破滅的なものにしうる。退職合意には、誹謗禁止、機密保持、あるいは秘密保持の圧力が加えられることがある。
公正な制度は、既に得た報酬を保全し、リリースへの署名の前に時間と独立した助言を提供し、保護された報告の権利を明確に述べ、合法な安全性の懸念に関する沈黙に経済的価値を条件づける契約条項を禁止すべきである。これらの保護は、無関係な秘密の開示を認めることなく、強要を減らす。
証拠の取り扱いと責任あるエスカレーション
内部告発を検討する者は、機密データをコピーする前に、権限を与えられた経路を使い、法的助言を得るべきである。利用者記録、モデルの重み、個人情報、機密資料の大量持ち出しは、新たな害と法的リスクを生みうる。目標は、無関係な開示を最小化しながら必要な証拠を保全することである。
組織は、改ざん防止ログ、評価記録、展開の決定、異論を唱える分析、インシデントの時系列を維持すべきである。記録の保持は、ある懸念が一人の言葉と別の一人の言葉との対立になることを防ぐ。規制当局には、公にできない証拠を検討できる安全な施設と技術要員が必要である。
公的な開示が正当化される場合もあるが、あらゆる場合において最初の安全な選択肢とは限らない。成熟した制度は、従業員が沈黙と機密資料の世界への公開との間で選択を迫られていると感じる前に、信頼できる独立した経路を提供する。
悪意ある報告や質の低い報告を避ける
善意による報告への保護は、捏造された証拠や嫌がらせを受け入れることを要求しない。優先順位づけは、具体性、裏づけ、アクセス、緊急性を評価できる。故意の虚偽報告は制裁の対象であり続けることができるが、意見の相違や未確認の懸念を悪意と見なすべきではない。
フィードバックの循環が重要である。従業員が、説明なく報告が消えていくのを目にすれば、その経路を使わなくなるだろう。懸念の件数、カテゴリー、調査にかかった時間、立証状況、是正措置についての集計された透明性は、身元を保護しながら機能を示すことができる。
なぜ自主的な約束では不十分なのか
企業の方針は、法的要件を上回り、迅速に適応できる。しかし、それらは変更されたり、契約社員を除外したり、相反するインセンティブを持つ人々によって執行されたりすることもある。法的な権利は、外部の下限、救済手段、召喚権を提供する。最も強固な構造は、内部の文化、取締役会の責任、規制当局の経路、執行可能な報復禁止規定を組み合わせたものである。
研究機関は、自らの安全文化を語ることにおいて利害関係者である。退職した従業員もまた、部分的な視点を持つ利害関係者である。独立した調査は、文書と行動を評価すべきである。退職のパターンは警告シグナルであって、特定の申し立ての証明ではない。
モデルとなる政策課題
政府は、法律違反が起きる前であっても、定義された深刻なAIリスクについての善意による開示を保護し、従業員と契約社員の双方を対象とし、規制当局や立法府へのアクセスを保全し、機密性、暫定的な救済、復職、損害賠償、費用回収を提供し、故意の報復を処罰することができる。規則は、セキュリティやプライバシーに関する法律と調和させるべきである。
規制当局は、明確な受理基準を公表し、機微な証拠を保護し、専門の技術者を雇用し、匿名化された結果を報告すべきである。取締役会は、高リスクの展開の前に、重大な安全性の懸念が独立取締役に届いたことを証明すべきである。
結論
内部告発者保護は、最先端モデルの訓練や監査に比べれば比較的低コストであるが、自動的に実現するものではない。カリフォルニア州、ニューヨーク州、EUは今や、それぞれの管轄内で具体的なAI関連の仕組みを提供しているが、それ以外の地域での保護は依然として断片的である。成功の尺度は、政策のページではない。人々が具体的な証拠を提起でき、独立した調査官に到達でき、生計と合法的な権利を保全でき、害が拡大する前に是正を引き起こせるかどうかである。