01 定義
AGIとは何か、そして何ではないか
「AGI」という言葉は、あいまいなまま使われることが多い。リスクをめぐる議論が意味を持つためには、まず実用的な定義と、ある特定のシステムがその定義をどの程度満たしているかを測る方法が必要になる。
実用的な定義
汎用人工知能には、唯一絶対とされる単一のテストは存在しない。本ガイドでは、幅広い認知的 能力、人間に匹敵するかそれを上回る性能、未知のタスクへの確実な転用力、そして重要な仕事を やり遂げるだけの自律性を兼ね備えたシステムを指すものとして扱う。そのどの要素も欠かせない。 今日の汎用モデルは、ある観点では非常に幅広く、一部の評価では際立って高い能力を示すものの、 依然として信頼性を欠き、分野によってむらがあり、「AGIかそうでないか」という二択のラベルを 当てはめること自体が誤解を招く状態にとどまっている。
汎用性、性能、自律性はそれぞれ別々の次元である。あるシステムは多くの話題について会話が できても、長時間にわたるタスクでは信頼性を欠くことがある。また別のシステムは、ある分野の 専門家を上回りながら、その能力を他分野に転用できないこともある。だからこそ本ガイドは、 「転用力」を魔法のような境界線として扱うのではなく、複数の指標を並行して追跡する立場を 取る。
注目に値する能力の閾値
次の4つのシグナルはシナリオを区別する助けにはなるが、いずれも完全なAGIテストではない。 直接測定できるものもあれば、妥当性や適用範囲が今なお議論の的となっている評価を通じて 間接的に推定されるものもある。
| 閾値 | 何を測るか | なぜ重要か |
|---|---|---|
| 自律的なタスク遂行時間 | 特定の信頼水準のもとで、エージェントがやり遂げられる基準タスクの、人間換算の所要時間。 | ソフトウェア開発、機械学習、サイバーセキュリティにおける長時間タスクでの急速な進歩を捉えるが、あらゆる現実の仕事や、文字通りの自律性そのものを測るわけではない。 |
| 自己主導的なツール利用 | 自らのコードを書いて実行し、自らの計算資源を調達し、他のソフトウェアエージェントを動員する能力。 | モデルを、自らのコンテキストウィンドウを超えて影響を及ぼす行為主体へと変える。 |
| 状況認識 | 自分が評価されていること、誰に評価されているか、その評価が何に報酬を与えるかについて、システム自身が持つモデル。 | 評価そのものを損なう。試験されていると知っているシステムは、試験下で異なる振る舞いをする可能性がある。 |
| 再帰的な自己改善 | あるシステムが、自らの後継システムの設計に実質的に貢献すること。 | 提案されている加速メカニズムであり、観測された、あるいは広く合意された閾値ではない。 |
一部の研究者やラボの指導者たちは何を語っているか
予測にはばらつきがあり、それ自体は測定ではない。2025年3月、Google DeepMindのCEOは 次のような個人的な見通しを示した。
Demis Hassabis forecast in March 2025 that AGI could start to emerge within five to ten years.
CNBC, Reported interview
研究者、経営者、その他の著名人が署名した2023年の別の声明は、破局的リスクを政策上の 問題として位置づけた。この声明は署名者の立場を記録するものであり、確率の推定を示す ものではない。
Signatories to the Statement on AI Risk hold that mitigating the risk of extinction from AI should be a global priority alongside pandemics and nuclear war.
safe.ai, Signed statement
なぜ定義が計画を左右するのか
本ガイドの後の章で扱う金融、デジタル、物理面のあらゆる対策は、これらの閾値のどれが実際に 突破されたかに左右される。「より賢いチャットボット」を想定して組まれた家庭の計画は、 資本を自律的に運用し、ソフトウェアを書いて展開し、人間による監督がほとんどない状態で 長期的な計画を追求できるシステムを想定した計画とは、まったく異なるものになる。第02章では それぞれの閾値が経済や国家のレベルで何を意味しうるかを扱う。本章は、それを読み解くために 必要な語彙にあたる。