未来是一个分配问题,而不仅仅是能力问题

情景推演,而非预言

没有任何数据集描述了 AGI 之后的生活,也没有任何公认的评估方法能够 确认这样一场转型已经发生。因此,本章的运作方式不同于关于当前劳动 力市场或当下欺诈行为的报告。它从关于制度、技术扩散与以往经济转型 的证据出发,继而将自身的假设明确呈现出来,并沿着不止一条可能的路 径展开。一场所有权高度集中的快速能力转型,会产生与一场访问权广泛 分布的缓慢转型截然不同的选择,即便两者最终使用的都是某些人称之为 AGI 的系统。

单靠能力无法回答的问题

• 所有权: 能够完成越来越大比例有价值工作的系统,其收益由谁获得?
• 权力: 民主制度能否监督那些技术与经济能力已超越许多国家的组织?
• 自主决策权: 即便委托系统处理更便宜或更准确,哪些决策仍必须真正掌握在人类手中?
• 可及性: 健康、教育与科学领域的进步,是惠及所有人,还是主要惠及那些已经有能力购买它们的人?
• 意义: 如果有偿工作变得不再那么核心,人们将如何建立地位、目标与社群归属感?

「生存」在此处意味着什么

生存不仅仅是避免灭绝。一个社会即便失去了自治、经济独立性、隐私、 能力,或人们相信自己在未来中拥有一份利害关系的理由,依然可以维持 存续。因此,本章所采用的编辑标准是规范性的,也是高要求的:人类保 留切实做出重大决策的能力,能够质疑与挑战各类机构,分享物质收益, 彼此照护,并能够修订自己所依赖的各类系统。