本マニュアルが真剣に検討すべきシナリオ
この柱の各ページは急速に変化する分野について論じており、予測やダッシュボードのページは、急速な進歩が今後も続くことを作業上の前提としている。本ページはその釣り合いを取るものだ。もしAGIが予定通りに到来しなかったらどうなるのか。真剣なマニュアルは、最頻値の見出しではなく、起こりうる結果の分布全体に備えるべきであり、その分布には停滞も含まれる。これは歴史的に文書化された現象についてのシナリオ分析であって、進歩が止まったという主張ではない。
過去2度の「冬」は実際にはどのようなものだったか
この分野は過去に2度、同じ経験をしている。
最初の冬(おおよそ1974年から1980年)は、制度的な直接の一撃によって引き起こされた。英国科学研究会議の委託によるジェイムズ・ライトヒル卿の1973年の報告書『Artificial Intelligence: A General Survey』は、機械翻訳、ロボット工学、汎用問題解決といったAI研究の壮大な約束が、想定していた規模ではまったく実現していないと結論づけ、より狭い領域の研究へと資金を振り向けるよう勧告した。その後数年のうちに、大西洋の両岸で主要な政府系資金提供者が資金を引き揚げ、大学院プログラムは急激に縮小した。
第二の冬(おおよそ1987年から1993年)が葬り去ったのは別の対象、すなわちエキスパートシステムだった。こうしたルールベースの商用製品は1980年代に企業と政府から莫大な投資を吸収した後、自らの脆さのもとで崩壊した。学習できず、例外を処理できず、維持費が高くつくシステムだったのである。この市場の崩落は、記号主義AIというパラダイム全体への資金供給を道連れにした。全米科学アカデミーによる連邦コンピュータ研究の歴史書『Funding a Revolution』(1999年)は、DARPAの緊縮とLispマシンベンダーの消滅が、いかにして一部分野の失敗を分野全体の干ばつへと変えたかを記録している(全米アカデミーズ・プレス)。より詳しい経緯についてはクレヴィエの『AI: The Tumultuous History of the Search for Artificial Intelligence』(1993年)とニルソンの『The Quest for Artificial Intelligence』(2009年)が参考になる——事実そのものだけでなく、パターンを読み取るために一読の価値がある。
このパターンとは、それぞれの冬が技術的な行き詰まりではなく、信頼と資金の崩壊だったということだ。科学それ自体は水面下で前進を続けていたが、資金、人材、そして社会の忍耐はそうではなかった。冬が終わったのは、チェス、そしてImageNetという低コストの実証が、この分野を再び投資対象にしたときであり、それはほとんど一夜にして起きた。
「偽りの夜明け」説の根拠
停滞論の最も強力な形には、3本の柱がある。
データとアルゴリズムの限界。 Epochによる人間生成テキストの分析は、当時の傾向が続いた場合、高品質な公開訓練データの蓄積はおよそ10年以内に枯渇すると推計しており(Villalobos et al., 2022)、そうなれば合成データなど他の代替手段への依存を強いられるが、その長期的な価値は本当に不確かなままである。また別の問題として、この分野はベンチマークの飽和を汎用的な能力の獲得だと繰り返し取り違えてきた——これは本マニュアルの創発的能力とチューリングテストのページが詳しく展開している警告である。ベンチマークは飽和しうる一方で、経済が実際に対価を払う対象である現実世界での信頼性は、大きく遅れて進むことがある。
ジャギー(でこぼこ)な能力プロファイルは、床ではなく天井かもしれない。 モデルがある次元では超人的でありながら、隣接する次元では説明のつかないほど弱いという根強い観察結果には、悲観的な解釈が成り立つ。すなわち、次トークン予測器をスケールさせることで得られるのは幅の広さだけであり、スケーリング則の楽観派が見込むような、頑健で構成的な推論は得られないという解釈だ。現代のベンチマークは、新奇性のもとでの技能獲得を要求する代わりに記憶を許容しているために知能を過大評価している、というショレの主張は、この懐疑論を代表する典型的な論説である(Chollet, 2019)。
能力オーバーハングは諸刃の剣である。 たとえ得られた成果が本物だとしても、それはすでに引き出し尽くされているかもしれない。「能力オーバーハング」論は、製品化・評価・組織体制が追いついていないために、今日のモデルは訓練の成果を十分に発揮できていないと示唆する。もしそうであれば、さらなるスケーリングは目に見える形での収穫逓減をもたらす——その根本原因が何であれ、市場はそれを頭打ちと読み取る。スケールに逆行する現象すら文書化されている。逆スケーリングと呼ばれる現象で、真実性や機微な推論を要する一部のタスクにおいて、より大きなモデルの方が成績が悪くなるというものだ(McKenzie et al., 2023)。
「冬は来ない」という主張
冬を唱える論者は、今回のサイクルがなぜ過去2回と韻を踏むのかを説明しなければならないが、その違いは大きい。
今回は本物の資金が動いている。 これまでの冬は、収益を伴わない誇大宣伝の後にやって来た。今回のサイクルでは、展開による収益が年間数百億ドル規模に達しており、生成AIへの民間投資も記録を更新し続けている。スタンフォードAIインデックス2025によれば、2024年単年の生成AIへの民間投資額は339億ドルに上り、前年から急増している。この規模の資金は、ベンチマークが期待外れだったからといって蒸発するものではない。蒸発するのは、バランスシートが破綻したときである。
ハードウェアの基盤が巨大である。 かつての冬は、いくつかの助成金を打ち切るだけでこの分野を干上がらせることができた。しかし今日この分野は、投資家が数十年単位の回収を見込む、資本集約的な半導体・クラウド・エネルギーの大規模な建設の上に成り立っている。これは進歩の継続を支える下支えであると同時に、より暗い見方をすれば、たとえ慎重論が「止めるべきだ」と言っても押し進め続ける利害関係者の存在でもある。
広範な統合そのものが需要を生み出している。 現在、数億人もの人々と多くの企業が、日常業務においてAIシステムに依存している。目新しさとは違い、実用性は流行遅れにならない。立証責任は冬派の側にある。単に進歩が減速することを示すだけでなく、これほどの規模で導入が進んだ基盤に対して資金崩壊を再現するに十分なほど、そして十分に長い期間、減速することを示さなければならない。
冬が到来した場合に何を意味するか
停滞が実際に起きたと仮定しよう。その先に続くのは、文字通り諸刃の剣である。
人材の分散。 冬はフロンティアの研究者たちを、ヘッジファンドやバイオテクノロジー、あるいは次に注目される分野へと押しやる。これは一方で安全性にとって悪いことだ——ただでさえ薄く、一握りの研究所に集中しているアラインメントの専門知識が拡散してしまう。しかし他方では、恩恵となる可能性もある。危険な能力の開発が減速する一方で、同じ頭脳の一部が、より狭く、より検証しやすい問題に取り組むようになるからだ。正味の効果は事前には分からないが、アラインメント人材の分散は、冬を楽観視する論者が見落としがちな、現実のコストである。
ハードウェアのオーバーハング。 ソフトウェア面の進歩が一時停止しても、チップが溶けてなくなるわけではない。仮に明日、フロンティアモデルの訓練が世界的に停止したとしても、すでに展開された膨大な能力の蓄積は残り続け、その多くは安全担当の人員を維持するインセンティブに乏しいままだろう。冬は既存システムの周りの防御を薄くするのであって、システムそのものを薄くするわけではない。
読み違えのリスク。 ここが最悪の部分である。本物の数年単位の踊り場は、政治的には「危険は去った」と解釈されるだろうが、これはまさに間違った結論である。進歩の停止は、進歩の反証ではない。根底にある推進力(計算資源、アルゴリズムの効率化、商業的インセンティブ)は、背景で複利的に積み上がり続けているはずであり、やがて再始動するときには、それ以前の助走期間よりも速く、そして監督の行き届かない形で進む可能性が高い。本マニュアルの便益と機会費用の議論も同じ切り口を持つ。停滞した移行であっても現実の便益は存在し、早々に勝利を宣言する世界は、その便益と警戒心の両方を失うことになる。
読み違えのリスクは強調に値する。最も危険な冬とは、危険が去ったと社会を納得させてしまう冬である。歴史上の冬はいずれも再始動で終わった。停滞のなかに、安全性に関する取り組みが次の雪解けまで生き残る保証は何もない。
見出しではなく、結果の分布に備える
マニュアルとして誠実な姿勢は、本ページの冒頭で示したものと同じである。指数関数的な進歩が続くことに分析全体を賭けてはならないし、停滞にも賭けてはならない。能力が予定通りに到来する場合、遅れて到来する場合、不均一に到来する場合、そして本サイトの他の箇所で扱っている制度的失敗のただ中で到来する場合、そのすべてに備えるべきである。なぜなら、頑健な制度、保存された知識、分散された対応能力といった同じ備えが、結果の分布全体にわたって効果を発揮するからだ。冬は到来のタイミングを変えるだろう。しかし、十分に備えた社会がどのようなものであるべきかを変えることはない。