08 未来
未来は能力の問題だけでなく、分配の問題でもある
AGIは、完成された社会契約とともにやってくるわけではない。その先に何が起こるかは、誰が生産的なシステムを所有するか、どの制度が権限を保持し続けるか、利益がどう分配されるか、そして人々が意味のある選択肢を保ち続けられるかにかかっている。
予言ではなく、シナリオ
AGI後の生活を記述するデータセットは存在せず、そうした移行が実際に 起きたことを確定する合意された評価基準もない。そのため本章は、 現在の労働市場や現在の詐欺についての報告とは異なる方法で書かれて いる。制度、技術の普及、そして過去の経済的移行についての証拠から 出発し、そのうえで自らの前提を明示しながら、複数のもっともらしい 道筋をたどる。所有が集中した状態での急速な能力の移行は、たとえ 最終的にはどちらも誰かが「AGI」と呼ぶシステムを使うことになる としても、幅広いアクセスを伴うより緩やかな移行とは異なる選択肢を 生み出す。
未来を扱うすべての記事は、現在の事実と、モデル化されたシナリオ と、編集上の提言とを区別している。前提の連鎖が長くなるほど、 確信の度合いは下がるべきである。その目的は、知りえない未来を あたかも確定したことであるかのように語ることではなく、さまざま な未来にわたって頑健な意思決定を可能にすることにある。
能力だけでは答えられない問い
- 所有: 価値ある仕事のますます大きな割合をこなせるようになるシステムから生まれる収入は、誰の手に渡るのか。
- 権力: その技術力と経済力が多くの国家を上回る組織を、民主的な制度は監督できるのか。
- 主体性: 委任のほうが安く正確であったとしても、意味のある形で人間が下し続けなければならない決定はどれか。
- アクセス: 健康、教育、科学の進歩は、すべての人に届くのか、それとも主にすでにそれを買える立場にある人々に届くのか。
- 意味: 有償労働の重要性が薄れていくとすれば、人々はどのようにして地位、目的、そしてコミュニティを築いていくのか。
ここでの「存続」が意味すること
存続とは、絶滅を避けること以上のものである。社会は、自治、経済的 独立、プライバシー、能力、あるいは人々が未来に自分の取り分がある と信じられる理由を失いながらも、なお存続し続けることがありうる。 したがって本章で用いる編集上の基準は、規範的で要求水準の高いもの である。すなわち、人間が重大な選択を行う実践的な能力を保持し、 制度に異議を申し立て、物質的な利益を分かち合い、互いをケアし、 そして自分たちが依存しているシステムを見直し続けられることである。