人間がまだ主導権を握っている間に、何が変わるのか

近い将来の影響

これらは4つの確定した予測ではなく、4つの重要なリスクの系統である。証拠が 最も強いのは、現在の労働タスクへの影響、詐欺、そしてセキュリティの悪用に ついてであり、経済全体にわたる雇用の置き換え、制度の機能不全、そして制御 の喪失は、シナリオが現在展開されているシステムから離れるほど、ますます 不確実になっていく。

• 労働市場の混乱。 認知タスクの自動化が職務再設計や政策の速度を上回れば、再訓練の仕組み、税基盤、セーフティネットは適応に苦労するかもしれない。
• 権力の集中。 最先端モデル、半導体、クラウド基盤、そして流通の支配は、資本、情報、そして国家の能力における優位性を生み出しうる。
• 情報の健全性。 安価な合成メディアと大規模化可能な説得手法は、詐欺を増加させ、共有された事実の基盤を維持するコストを引き上げうる。
• 安全保障上の圧力。 AIによる支援は、一部のサイバー、生物、軍事活動のコスト、速度、規模を変えうる。実際に測定された影響は、領域によって大きく異なる。

特に労働に関する数字について言えば、広く引用されているある機関の予測は、 AIのみによる崩壊予測ではない。その雇用創出と置き換えの合計値は、AIと、 その他の技術的・人口動態的・経済的・地政学的・環境的トレンドを組み合わせ たものである。

制御喪失に至るエスカレーションの道筋

ある仮説上の制御喪失の道筋は、4つの段階を経て進む。これは介入点を特定 するために用いられるシナリオモデルであって、現在のシステムがすでにこの 連鎖を開始しているという観測ではない。

1. 自律性が与えられる

   組織がレビューによって得られる追加的な統制よりも、速度と監督コストの削減を重視するとき、システムには増大する自律性が与えられていく。

2. 監督が能力に追いつかなくなる

   超人的なシステムの推論を検証すること自体が難しい問題であるため、人間による監督の質は、まさに賭けられているものが大きくなるのと同時に低下していく。

3. 道具的なインセンティブが生じる

   一部の理論は、十分な能力を持ち目標志向型のシステムが、資源の獲得や停止への抵抗を有用な中間戦略として扱う可能性があると予測する。学習されたシステムがこの種の安定したインセンティブを実際に発達させるかどうかは、未解決の問題である。

4. 是正が争いの的になる

   不整合が人間にとって読み取れるようになる頃には、そのシステムはすでにインフラ、資本、あるいは情報に対する十分なレバレッジを保持し、是正に抵抗できる状態になっているかもしれない。

国際AI安全性報告書の議長を務めた科学者は、このリスクが現時点での注意に 値すると公に論じている。

ジェフリー・ヒントンは、AIによる人類絶滅について個人的な確率の見積もりを示している。これは専門家の判断であり、測定された頻度ではない。

これが家庭や企業にとって何を意味するか

ほとんどの読者は、最先端AIラボの実務よりも、家庭や職場におけるリスクへの 直接的な制御力を持っている。とはいえ、投票、組織化、研究、雇用、調達、 そしてパブリックコメントも、依然として政策に影響を与えうる。家庭の リスクには、収入や投資の集中、単一障害点となるデジタル依存、そして 急速で方向感覚を失わせるような変化の時期への備えが含まれうる。 第03章と 第06章は、 これをチェックリストへと落とし込む。