実効的な統制が失われた後も、形式的な権威は存続しうる
議会は、立法者が評価できないシステムに依存しながらも、選挙で選ばれ続けることができる。大臣は、いかなる公務員も再現できない助言を受けながらも、法的な責任を負い続けることができる。市民は、そのデータ、モデル、ベンダー契約、推論根拠がアクセス不能な自動化された決定に直面しながらも、不服申し立ての形式的な権利を保持し続けることができる。この構図のいずれも、クーデターや意識を持つ機械の支配者を必要としない。別の道を選ぶという実務上の能力が蝕まれていくにつれ、権威は儀礼と化していく。
これはAGIのリスクである前に、統治のリスクである。政府はすでに、給付、課税、警察活動、移民、教育、医療、行政においてアルゴリズムを利用している。より高性能なシステムは、一貫性を改善し、サービスを翻訳し、不正を発見し、証拠を要約し、小規模な機関にも専門知識をアクセス可能にしうる。同時に、依存を深め、公的な決定への異議申し立てをより困難にもしうる。
既存の国際的な枠組みは出発点となる語彙を提供するが、その法的拘束力は異なる。欧州評議会の人工知能枠組条約は、締約国に対する拘束力のある条約として設計されており、人権、民主主義、法の支配を中心に据えている。その公式のステータスページには、2026年9月11日時点で発効日が記載されておらず、したがって署名をもって、ある国家がすでに法的に拘束されていると記述してはならない(CETS第225号のステータス)。UNESCOの人工知能倫理勧告は、監督、透明性、説明責任、そして環境的・社会的影響を扱う法的拘束力のない勧告である。どちらの枠組みも、AGI後の統治を解決するものではない。だが両者は、能力と効率だけが公共の価値として問われているのではないことを示している。
行為主体性とは、結果を変えられることを意味する
「人間による監督」はしばしば人員配置図として扱われる——モデルの後に誰かを置けば、その決定は人間のものになる、というわけだ。だが本当の監督とは、一連の能力のことである。
審査者は、事案を理解するのに十分な時間と情報を必要とする。モデルの限界を認識するための訓練を必要とする。推奨を却下するための法的・組織的な権限を必要とする。自動化されたスコアから外れたというだけの理由で、異なる選択が処罰の対象になってはならない。組織は、監査と不服申し立てを支える記録を保持し続けなければならない。
これらの条件が欠けているとき、人間によるクリックは儀式にすぎない。高度な自動化はむしろ、審査の質を悪化させることさえある。人々が目にする異例のケースが減り、独立した判断を実践する機会が減るにつれ、その専門性は衰えていく。システムが通常の分布の外で最終的に破綻したとき、名目上の監督者こそが介入への備えが最も乏しいかもしれない。
実務上の試金石は反実仮想的なものである。すなわち、資格のある人間が異なる決定に到達し、その理由を説明し、その決定を維持させることができるかどうかである。
政府を空洞化させうる四つの依存
ベンダーへの依存
公的機関は、単一の提供者なしに運用するための人員、計算資源、データの権利、契約条件を欠いているかもしれない。切り替えは調達文書の上では可能に見えても、実際にはシステムの再訓練、データの移行、業務フローの書き換え、そして長期のサービス中断の受容を要するだろう。それは、明示的な政治権力を伴わなくとも、民間の供給者に影響力を与える。
したがって契約は、あるシステムが不可欠になる前に、可搬性、監査アクセス、インシデント開示、下請け業者、データ保持、セキュリティ、サービス継続性、退出支援に対応しておくべきである。最初の入札が最も安価であっても、それが恒久的な依存を購入するものであれば高くつく。
認識論的な依存
制度は、ある出力が良いものかどうかを知る能力を失いうる。AIが分析、起草、シミュレーション、検証の大半を行う場合、人間の組織は最終的な署名の権限を保持しながらも、世界についての独立したモデルを失うかもしれない。
冗長性が必要である。機関には、内部の専門知識、重大な結果を伴う問いに対する競合する分析、不確実性の記録、そして異論のための保護された経路が必要である。一部の機能は、主要システムなしで定期的に実行されるべきである。手動作業が常に優れているからではなく、試されていないフォールバックはフォールバックではないからだ。
インフラへの依存
高度なサービスは、電力、通信網、ID管理システム、クラウド基盤、そして上流のモデルに依存している。停電や商業上の紛争は、一度に多くの公的機能へと波及しうる。複数の機関が単一のモデルやクラウドに集中することは、別々の契約の陰に隠れた相関的な障害を生みうる。
依存関係の地図は、一つの部門内だけでなく、政府全体にわたって共有される提供者と単一障害点を特定すべきである。復旧訓練は、機能低下時の運用、データの復元、手動での優先順位付け、そして広報を試験すべきである。
正統性への依存
人々が困難な決定を受け入れるのは、部分的には、誰が権限を持ち、どの規則が適用され、誤りにどう異議を唱えられるかを理解しているからである。統計的には正確でも不可解なシステムは、市民がそれを恣意的だと感じるならば、それでも正統性を損ないうる。
説明だけでは不十分である。生成された説明は、結果の実際の根拠を明かすことなく、もっともらしく聞こえるかもしれない。意味のある異議申し立て可能性には、関連する証拠、適用される規則、責任を負う機関、そして利用可能な救済策が必要である。それはまた、システムがなぜその結果を生んだかを説明するだけでなく、その決定を実際に変える能力を持つ人間の窓口を必要とする。
民主主義には公的な技術的能力が必要である
立法府、裁判所、規制当局、監査官、労働組合、市民社会には、評価、セキュリティ、調達、データガバナンス、モデルの証拠についての専門知識が必要である。専門職の職員、独立した研究機関、監察官、標準化団体、当事者対抗的な手続きが、その厚みを提供しうる。
NISTのAIリスクマネジメント枠組みは、AIリスクを統治し、把握し、測定し、管理するための任意の構造を提供する。その価値は手続き的なものである。組織は、ベンチマークの精度をリスク評価のすべてとして扱うのではなく、文脈と影響を受ける人々を特定しなければならない。AGI後の制度は、これらの習慣のより強力で法的強制力のある版を、民主的な承認と組み合わせて必要とするだろう。
選挙は必要だが十分ではない
変革的なAIは、説得、合成メディア、監視、政策分析、選挙運動、情報インフラの統制を通じて民主主義に影響を及ぼしうる。偽の画像だけに注目することは、より広い問題を見落とす。すなわち、政治的な関心を媒介するシステムの目的を誰が選び、影響力を最適化するためにどのデータが使われているのか、という問題である。
開示は助けになりうるが、コンテンツに「AI生成」というラベルを貼ることは、それが真実であるか操作的であるかを確定しない。来歴情報は、あるファイルの履歴の一部を示すことはできても、その主張を証明するわけではない。政治的なレジリエンスにはまた、プライバシー保護、独立したジャーナリズム、選挙運動の透明性、プラットフォームの説明責任、安全な選挙管理、そして市民が信頼できる経路を通じて重要な情報を検証できることが必要である。
政府による利用には特別な自制が求められる。強力な予測・説得システムを持つ国家は、公共のコミュニケーションを有益に個人化することもできれば、異論をより容易に特定し、行動をより容易に形作ることもできる。分析能力が高まるにつれ、法的な禁止、令状、最小化、監査ログ、独立した監督は、重要性を減じるのではなく、むしろ増す。
権力の複数の源を保つ
いかなる単一の企業も、公共の分析、身元確認、コミュニケーション、行政インフラの唯一の源であってはならない。いかなる中央政府も、高度な能力を利用できる唯一の機関であってはならない。いかなる普遍的なスコアリングシステムも、雇用、信用、給付、言論、移動へのアクセスを決定してはならない。
多元性は摩擦を生み、その摩擦は時に保護的に働く。連邦制度、地方政府、裁判所、独立した規制当局、大学、労働組合、専門職団体、開かれた技術コミュニティ、市民社会は、単一の中央システムであれば抑え込んだり見落としたりするであろう失敗を明るみに出すことができる。競合する機関はまた、人々に不服申し立てと組織化のための場所を与える。
多元性は、無秩序な乱立と同じではない。高リスクの能力については、意思決定が制度的に多様なままであっても、アクセス制限が必要になりうる。設計上の課題は、民間の独占と国家による完全な中央集権化の両方を避けることである。
政治的に争われ続けるべき決定
AIは、公共の目的を定義することなく、公共の決定に情報を提供することができる。所得をどう分配するか、どのリスクが許容できるか、誰の権利を優先するか、実力を行使するかどうか、子どもたちが何を学ぶべきか、どの程度の監視が許容されるか——こうした問いは、中立的な目的関数を持つ最適化問題ではない。それらは、価値観と人々の間の政治的な選択である。
実装を委任することは、目的そのものを作り変えもする。処理時間の短縮を最適化した給付システムは、複雑な申請者を遠ざけるかもしれない。予測されるインシデントに最適化された警察システムは、歴史的な取り締まりのパターンを増幅するかもしれない。測定可能なコストに最適化された医療システムは、記録するのが難しい成果を過小評価するかもしれない。民主的な統制には、あるシステムが述べる目的を承認するだけでなく、そのシステムが実際に何に報酬を与えているかを検証することが必要である。
規範的な提案:最低限の行為主体性の保証
重大な公的利用については、人々は次のことを特定できるべきである。
- AIシステムがその決定に実質的な影響を与えたこと。
- 法的責任を負う機関と当局者。
- 用いられた統治規則と証拠。
- 重要な限界、不確実性、データの来歴。
- 結果を変える権限を持つ、時宜にかなった人間による不服申し立て。
- 裁判所、規制当局、オンブズマン、あるいは選挙で選ばれた機関へのアクセス可能な経路。
- システムを安全に利用できない人々のための、デジタルに依らない経路。
これらの保証は、誤りや政治的な意見の相違をなくすものではない。それらは、行政と支配との違いを保つ。影響を受ける人が、単に分類される対象であるのではなく、理由と救済の体系の参加者であり続けるということである。
AGI後の憲法的な問い
最も深い論点は、AIが正式な政府の肩書きを与えられるかどうかではない。人間とその制度が、重大なシステムを見直すための能力、独立性、てこの力を保持し続けるかどうかである。あるモデルを取り除くことが、医療、金融、通信、政府を一斉に停止させてしまうならば、法的な主権はほとんど実務上の慰めにならない。
したがって、変革的AI後の民主主義の存続は、依存が完全になる前に築かれた能力に懸かっている。公的な専門知識、相互運用可能なインフラ、法的強制力のある権利、複数の機関、独立した証拠、意味のある不服申し立て、そして自動化された推奨が利用できない、あるいは拒否された場合に運用する、実際に試された方法である。これらは反技術的な措置ではない。それらは、社会が自らの目的を選ぶ能力を手放すことなく強力な技術を利用できるようにする仕組みである。