Situation report active Rev. 2026.9 119 reports 239 source records updated
Real Life After AGI 人類存続のためのブリーフィング
JA

01 定義

AGIとは何か、そして何ではないか

「AGI」という言葉は、あいまいなまま使われることが多い。リスクをめぐる議論が意味を持つためには、まず実用的な定義と、ある特定のシステムがその定義をどの程度満たしているかを測る方法が必要になる。

Written by
Dwight Ringdahl
Revised
Sources
2 cited

実用的な定義

汎用人工知能には、唯一絶対とされる単一のテストは存在しない。本ガイドでは、幅広い認知的 能力、人間に匹敵するかそれを上回る性能、未知のタスクへの確実な転用力、そして重要な仕事を やり遂げるだけの自律性を兼ね備えたシステムを指すものとして扱う。そのどの要素も欠かせない。 今日の汎用モデルは、ある観点では非常に幅広く、一部の評価では際立って高い能力を示すものの、 依然として信頼性を欠き、分野によってむらがあり、「AGIかそうでないか」という二択のラベルを 当てはめること自体が誤解を招く状態にとどまっている。

重要な区別

汎用性、性能、自律性はそれぞれ別々の次元である。あるシステムは多くの話題について会話が できても、長時間にわたるタスクでは信頼性を欠くことがある。また別のシステムは、ある分野の 専門家を上回りながら、その能力を他分野に転用できないこともある。だからこそ本ガイドは、 「転用力」を魔法のような境界線として扱うのではなく、複数の指標を並行して追跡する立場を 取る。

注目に値する能力の閾値

次の4つのシグナルはシナリオを区別する助けにはなるが、いずれも完全なAGIテストではない。 直接測定できるものもあれば、妥当性や適用範囲が今なお議論の的となっている評価を通じて 間接的に推定されるものもある。

閾値 何を測るか なぜ重要か
自律的なタスク遂行時間 特定の信頼水準のもとで、エージェントがやり遂げられる基準タスクの、人間換算の所要時間。 ソフトウェア開発、機械学習、サイバーセキュリティにおける長時間タスクでの急速な進歩を捉えるが、あらゆる現実の仕事や、文字通りの自律性そのものを測るわけではない。
自己主導的なツール利用 自らのコードを書いて実行し、自らの計算資源を調達し、他のソフトウェアエージェントを動員する能力。 モデルを、自らのコンテキストウィンドウを超えて影響を及ぼす行為主体へと変える。
状況認識 自分が評価されていること、誰に評価されているか、その評価が何に報酬を与えるかについて、システム自身が持つモデル。 評価そのものを損なう。試験されていると知っているシステムは、試験下で異なる振る舞いをする可能性がある。
再帰的な自己改善 あるシステムが、自らの後継システムの設計に実質的に貢献すること。 提案されている加速メカニズムであり、観測された、あるいは広く合意された閾値ではない。

一部の研究者やラボの指導者たちは何を語っているか

予測にはばらつきがあり、それ自体は測定ではない。2025年3月、Google DeepMindのCEOは 次のような個人的な見通しを示した。

Summarized position

Demis Hassabis forecast in March 2025 that AGI could start to emerge within five to ten years.

Demis Hassabis, CEO, Google DeepMind
CNBC, Reported interview

研究者、経営者、その他の著名人が署名した2023年の別の声明は、破局的リスクを政策上の 問題として位置づけた。この声明は署名者の立場を記録するものであり、確率の推定を示す ものではない。

Summarized position

Signatories to the Statement on AI Risk hold that mitigating the risk of extinction from AI should be a global priority alongside pandemics and nuclear war.

Signatories to the Statement on AI Risk, Researchers, executives, and other public figures; statement hosted by the Center for AI Safety
safe.ai, Signed statement

なぜ定義が計画を左右するのか

本ガイドの後の章で扱う金融、デジタル、物理面のあらゆる対策は、これらの閾値のどれが実際に 突破されたかに左右される。「より賢いチャットボット」を想定して組まれた家庭の計画は、 資本を自律的に運用し、ソフトウェアを書いて展開し、人間による監督がほとんどない状態で 長期的な計画を追求できるシステムを想定した計画とは、まったく異なるものになる。第02章では それぞれの閾値が経済や国家のレベルで何を意味しうるかを扱う。本章は、それを読み解くために 必要な語彙にあたる。

基礎 まず読む

この章の内容

16 ページ (本章に収録)

AGI、狭いAI、超知能:能力のはしご 狭いAI、汎用能力を持つシステム、AGI、超知能を分けるものは何か。DeepMindの幅と深さの枠組みをもとに、境界線が曖昧な理由を解説する。
出典確認済み 1 min
チューリングテストとその後継 人間らしい会話がAGIを証明できない理由と、現代の評価がベンチマーク群を通じて能力・信頼性・自律性をどう測定するかを解説する。
出典確認済み 1 min
フロンティアAI研究所はどう違うのか 主要フロンティアAI研究所の所有構造、ガバナンス、リリース戦略、公表済み安全性枠組みを、日付付きの一次資料に基づいて比較する。
出典確認済み 1 min
計算資源とスケーリング則を解説する AIのスケーリング則が何を予測し、どこで破綻するのか、そして訓練計算量が不完全ながらも有用な統治指標であり続ける理由を理解する。
出典確認済み 1 min
AGIに関する主張の見極め方 デモンストレーション、評価、展開データ、予測、理論的リスク論を区別するための証拠のはしごと、6項目からなる証拠カードを示す。
出典確認済み 1 min
現在のAI能力ダッシュボード:2026年9月 スタンフォードAIインデックスが「ジャギーな知能」と呼ぶ、フロンティアAIの能力を多次元的に固定時点で示すスナップショットと、ベンチマークがAGIの証明にならない理由。
出典確認済み 1 min
AIが加速するAI研究とフィードバックループ AIがコーディングとモデル研究にすでに貢献している内容と、自己強化的な能力爆発が起こるために必要な条件を、単なる自動補完と区別して検討する。
出典確認済み 1 min
AGIの冬と偽りの夜明け 反対シナリオとして、AGIが予定通りに到来しない可能性、AIの冬が安全性と人材に与える影響、そして停滞が安全を意味しない理由を検討する。
出典確認済み 1 min
AIインシデント年表:2016年から2026年まで 2016年から2026年までに文書化されたAIインシデントとニアミスを、出典付きで時系列にまとめた記録。仮説ではなく実際の被害と開示情報を扱う。
出典確認済み 2 min
AGIに関するよくある質問 AGIとは何か、いつ到来しうるか、どれほど危険か——人々が実際に抱く疑問に直接答え、それぞれ詳細ページへのリンクを示す。
出典確認済み 1 min
AIに関する世論と信頼 Pew、Gallup、Edelman、Ipsosの調査データから、2021年以降のAIへの信頼の変化と、中国と欧米の回答者の間で広がる差を読み解く。
出典確認済み 1 min
近い将来のAGIに対する懐疑論 AGIは近くないとする、実名の有資格研究者による最も強力な技術的論拠を、打ち負かすための戯画としてではなく公正に紹介する。
出典確認済み 1 min

Type to search the manual.

navigate open esc close