問題には2つの方向がある
生成システムは、説得力のあるテキスト、画像、音声、動画を作成するのに必要な時間と技能を減らす。虚偽のメディアが本物として受け入れられることがある。同時に、本物の証拠が合成物として退けられることもある——いわゆる「嘘つきの配当」である。この第二の効果は完璧なディープフェイクを必要としない。否定をもっともらしく見せるのに十分なほど、捏造への公衆の認知が広まっていればそれで足りる。
これは現在の生成AIの問題であって、AGIが存在することの証拠ではない。現在の害には、なりすまし詐欺、本人の同意のない性的画像、捏造された政治的コンテンツ、偽造された証拠、そして安価なコンテンツの氾濫が含まれる。なりすまし詐欺が成功した後の家庭での復旧手順については、AIを悪用した詐欺の被害に遭った後にすべきことを参照のこと。AGI規模での個別化された説得は予測であり、将来の能力、個人データへのアクセス、展開のされ方、そして人間の受容性に依存する。
何が裏づけられており、何が裏づけられていないか
音声クローンと顔の合成は、詐欺やハラスメントに用いられてきた。政治的な主体は合成メディアを公開または増幅してきた。しかし、話題になった事例は、蔓延の度合いや正味の選挙への影響を明らかにするものではない。人々は社会的・党派的な理由から虚偽のコンテンツを共有し、通常の編集、誤解を招くキャプション、そして文脈から切り離されて提示された本物の映像は依然として強力である。派手なディープフェイクにばかり注目することは、自動化によって加速された、より平凡な欺瞞というより一般的な問題を見落とすことになりかねない。
検知に関する主張にも注意が必要である。検知器は、ある材料の特徴が自らの訓練データに似ているかどうかを推定しているにすぎない。性能は、圧縮、切り抜き、翻訳、モデルの更新、あるいは意図的な回避の後に低下しうる。誤検知はジャーナリスト、アーティスト、そして虐待を記録している人々を害しうる。検知器の信号が出ないことは真正性の証明にはならず、陽性の信号は調査を終わらせるのではなく開始させるべきものである。
来歴は有用だが真実を証明しない
コンテンツの来歴と真正性のための連合(C2PA)標準は、対応するツールがファイルの由来と編集履歴について暗号学的に検証可能な情報を添付することを可能にする。有効なクレデンシャルは、認識されたデバイスや組織が特定の主張に署名し、その署名されたデータが気づかれずに改変されていないことを示しうる。それは保管の連鎖を裏づけうる。
C2PA自体が、来歴だけではコンテンツが真実であること、正確であること、事実に基づいていることを立証できないと明言している。クレデンシャルを持つカメラでもやらせの場面を撮影できるし、権限を持つ編集者でも誤解を招く切り取りを公開できるし、信頼された組織でも間違いを犯しうる。本人確認の裏づけも、使用されるクレデンシャルと信頼システムに依存する(C2PA解説書、仕様2.2)。
クレデンシャルは本物のメディアにも欠落しうる。スクリーンショット、トランスコーディング、SNSプラットフォーム、そしてメタデータの除去によって取り除かれることがある。OpenAI自身のヘルプ文書は、スクリーンショットがC2PAのメタデータを除去しうると記している(OpenAIヘルプセンター)。したがって:
- 有効な来歴は、履歴についての肯定的な証拠であって、真実の証拠ではない;
- 無効な来歴は、壊れた、あるいは改変された連鎖を示すのであって、必ずしも偽の場面を示すものではない;
- 来歴が欠けていることは、捏造の証拠ではない。
この標準は、その採用から利益を得る技術企業とメディア企業によって形づくられている。その技術文書は、標準がどう機能するかについての一次的な証拠であって、情報エコシステム全体における有効性についての独立した証拠ではない。
開示義務が現実のものになりつつある
欧州連合では、AI法第50条の透明性義務が2026年8月2日に適用開始となった。特定のシステムのプロバイダーは、生成または改変されたコンテンツの機械可読なマーキングを支援しなければならず、展開者は、例外規定の対象となる場合を除き、指定されたディープフェイクおよび公共の利益に関わるテキストについて開示義務を負う。執行は、各国当局と、より限定的な状況ではAIオフィスとの間で分担される。欧州委員会によれば、関連違反に対する罰金は、比例性の規則のもとで最大1,500万ユーロまたは全世界年間売上高の3%に達しうる(欧州委員会、2026年7月)。
米国では、連邦のTAKE IT DOWN法が2025年5月に成立し、対象となるデジタル偽造物を含む、本人の同意のない性的画像を対象とし、対象プラットフォームに通知・削除プロセスの運用を義務づけた。これは一般的なディープフェイクの真正性に関する法律ではなく、そのように説明されるべきではない。選挙法、消費者保護法、パブリシティ権法、そして州法も、異なる定義と管轄のもとで適用されうる。
ラベルは正直なユーザーの助けとなり、執行を支えるが、詐欺を働く意思のある悪意ある行為者は確実に自己ラベル付けをするわけではない。開示は一つの層であって、解決策ではない。
より強固な検証ワークフロー
高い利害を伴う検証は、独立した証拠を組み合わせるべきである:
- **原本を保存する。**再圧縮や削除の前に、ファイル、URL、時刻、そして周辺の投稿を保存する。
- **来歴を確認する。**有効なクレデンシャルと署名者の信頼連鎖を検査しつつ、欠落は中立的に扱う。
- **最も早い出典を見つける。**キーフレームを逆検索し、最初に文書化されたアップロードを特定する。
- **外部で裏づけを取る。**独立した記録、公的な記録、目撃者、天候、地理、そして同時代の報道を探す。
- **別の経路で主張元に連絡する。**疑わしいメッセージ内にのみ記載された連絡先を使ってはならない。
- **動機とタイミングを評価する。**緊急性、秘密主義、支払いの要求、そして感情的な圧力は、メディアの品質とは独立した詐欺の兆候である。
家族の音声クローン電話については、電話を切り、既知の番号を使って本人か別の家族に電話をかける。家族だけの合言葉は役立ちうるが、それが露出したチャンネルで話されたり入力されたりした場合は、漏洩したものとして扱うべきである。企業の支払い依頼については、二人目による承認と帯域外での確認を必須とすること。
ジャーナリズム、裁判所、そしてアーカイブ
報道機関には、撮影から公開までの連鎖、透明な訂正の慣行、そして原本を保持する方法が必要である。裁判所には、認証された証拠、必要に応じた専門家による鑑定、そして捏造された証拠物件と、本物の証拠が偽物だとする日和見的な主張の両方に対する警戒が必要である。人権調査員は、来歴と情報源の安全性のバランスを取らなければならない。撮影者の身元や所在地を明らかにすることは危険を生みうる。
アーカイブは長期的な課題に直面する:フォーマット、証明書、そして検証インフラは失効しうる。プラットフォームがレンダリングしたコピーだけを保存することは、原本にのみ存在する証拠を破壊しかねない。永続的な完全性には、原本ファイル、ハッシュ値、タイムスタンプ、文脈記録、そして移行計画が必要であり、ユーザーインターフェース上のバッジだけでは足りない。
共有された基盤にかかるリスク
情報の健全性は合意と同じではない。健全な民主主義には、価値観や解釈をめぐる対立が存在する。目標は、基本的な出来事を確立するための信頼できる方法を保つことである:誰が何を言ったのか、どの文書が存在したのか、ある画像はどのように作られたのか、そしてどの独立した情報源がそれを裏づけるのか。
合成メディアの飽和は検証コストを引き上げ、認証を賄える確立された機関を優遇しうる。それは品質を守る一方で、門番機能を集中させることにもなりうる。オープンな標準、公共の利益にかなう検証ツール、地域ジャーナリズム、そして透明な手法は、真正性と多元性の間のトレードオフを緩和しうる。
より強力なシステムが加えうるもの
より高性能なエージェントは、相互に整合した多数の成果物を生成し、複数のチャンネルにわたって人になりすまし、物語を地域化し、メッセージを試し、個人の反応に適応するかもしれない。そのシナリオはもっともらしいが、一般的なAGIの効果としてまだ測定されてはいない。防御策は、人と過程を認証し、疑わしいキャンペーンをレート制限し、個人データを保護し、普遍的な身元監視を生み出すことなく人間による審査を維持する必要があるだろう。
実践的な結論は、普遍的な不信ではなく、鍛えられた懐疑主義である。本物に見えるという理由だけでメディアを信頼せず、合成が可能だという理由だけでそれを退けてもならない。来歴、裏づけ、出典の履歴、そしてインセンティブが組み合わさることで、自動検知や直感のいずれか単独よりも強固な事実の基盤が生まれる。