本章に必要な思考実験
本章のほとんどすべては大人の現在形で書かれている。それは、移行が労働者、市民、親、有権者——移行前の世界を知っていた人々——に何をもたらすかを問うている。本ページは異なる問いを立てる。AGI後の世界は、その記憶を継承することなく結果だけを継承する、その世界に生まれた人々にとってどう見えるのか。以下の多くは確立された知見というより理にかなった論証であり、その旨を明記する。証拠が存在する箇所では、直接それを引用する。
この問いは感傷的なものではない。どの世代がリスクを負い、どの世代が権力を握り、どの世代が変化を判断する基準を握るかが、「良い結果」がそもそも何を意味するかを決める。それを生き抜いた人々によって成功と判断された移行が、それ以後に到来する人々にとっては破局でありうるし、その逆もありうる。
到来の非対称性
移行期に生きていた人々は、次の世代が背負うことのない二つの重荷を背負っている。喪失そのものと、何が失われたかの記憶である。彼らは、職業が消え、制度がしなり、仕事や学校や友情の肌触りが変わっていくのを目撃した。その変化が差し引きで良かったか悪かったかにかかわらず、彼らには少なくとも基準がある。彼らは比較できる。
移行後に生まれた人々は、悲嘆も基準もなしに結果を継承する。彼らにとって、機械が媒介する交友は何か別のものの劣化版ではない。それは交友がずっとそうであったものである。生産のほとんどが少数の人間しか必要としない経済は、切断ではない。それは天候である。以前の技術的な転換——活版印刷、電化、インターネット——についての世代間分析は、一貫してこのパターンを見出している(この文献の多くは理にかなった歴史的な論証であり、ここでもそう読まれるべきである)。すなわち、ある技術を築いた世代はそれを議論し、その中で育った世代はそれを自然なものとして受け入れる。
この非対称性は両方向に働く。移行後の世代は、悲嘆、方向感覚の喪失、そして時代遅れになったアイデンティティへの喪の作業を免れる。しかし彼らはまた、自分たちに与えられたものを評価する能力も失う。筆算を一度もしたことのない人は、それを学ばなかったことの代償を感じることができない。人間だけの法廷を一度も見たことのない社会は、判断が委任されたときに何が引き換えにされたのかを感じることができない。基準とは単なる郷愁ではない。それは計器盤である。
遍在する機械の権威のもとで育つこと
移行後に生まれた子どもたちにとって、AIは彼らが採用するツールではない。それは環境である——あらゆる問いに答えるチューターであり、決して疲れない話し相手であり、彼らと他のあらゆる人との間に立つ媒介者である。
本マニュアルの「教育と成長」と「子どもとAI」のページは、目下のリスクと子育ての問いを扱っている。本ページが扱うのは、より長い弧である。あらゆる形成的な相互作用が機械によって媒介されうるとき、愛着、信頼、権威の形成はどのようなものになるのか。真摯な文献を支配する懸念は二つある。第一は発達的なものである。子どもは周囲の心から他者の心についての期待を形成するが、常に忍耐強く、常に同意し、常に利用可能な機械は、他者がどのようなものであり、人間関係にどのような代償が伴うかについての、通常とは異なるモデルを教え込む。第二は認識論的なものである。あらゆる答えが即座に、流暢に、確信を持って届く子ども時代は、知らないということがどう感じられるかについての実践的な感覚を欠いた大人を生み出す——それは学習することと騙されることの両方にとっての前提条件である。
規制当局はこの特有の危険に気づいている。EUのAI法は、子どもの脆弱性を利用する、あるいは重大な害を引き起こしうるサブリミナルあるいは操作的な手法を用いるシステムを禁止しており(規則(EU)2024/1689)、ユニセフの「子どものためのAIに関する政策指針」(2020年)は、より広い分野が運用に移すのに手間取ってきた子ども固有の要件を定めている。どちらも解決策としてではなく、下限の目印として読む価値がある。それらは何が展開されうるかを制限するが、機械による媒介の中で過ごす子ども時代が人に何をもたらすかを制限するものではない。遍在するAIの権威が、レジリエンスのある大人を生むのか、依存した大人を生むのかは、本稿執筆時点で、正真正銘、未解決の実証的な問いである——正直な答えは、この実験が今、対照群なしに、可能な限り最大のコホートで進行中だということである。
知識喪失の問い
あらゆる移行は技能を取り残す。問題は、どの技能が取り残されるのか、そしてそれが重要かどうかである。
移行前の最後の世代だけが持つものを考えてみてほしい。機械の助けなしに形成された実践的な判断力。手作業で学ばれ、いかなるマニュアルにも載っていない仕方で失敗する、物理的なシステム——エンジン、土壌、外科手術、交渉——についての暗黙知。そして最も重要なのは、古い基準が何のためにあったかについての生きた記憶である。その世代が死ぬとき、意図的に伝達されない限り、その知識も一緒に死んでいく。保存のための機関は存在する——インターネット・アーカイブ(archive.org)とユネスコの「世界の記憶」計画(UNESCO)が著名な例である——が、それらが保存するのは文書であって能力ではない。スキャンされた教科書は、働ける機械工ではない。
この喪失が重要かどうかは、それが着地する経済に依存する。AIシステムが失われた技能を本当に代替するならば、その喪失は美的な傷にすぎない——自らの手でできることが少なくなった文化である。もし技能が、モデルにはない形で構造を支えていた——頑健性、物理的な修理、未知の状況下での判断——ことが判明すれば、その喪失は構造的なものになる。正直な立場は、次の世代がどちらの経済を継承することになるのか、誰にも分からないというものであり、まさにそれゆえに、本マニュアルは「知識の保存と復旧」を、博物館的な企画ではなく、生きた学問分野として扱っている。名指す価値のある、より繊細な、記録された効果もある。認知的な外部委託についての初期の証拠は、記憶を外部のツールに委任することが、人々が何を記憶し、自らの知識をどう評価するかを変えることを示唆している(Sparrow、Liu & Wegner、「記憶に対するグーグル効果」、『サイエンス』誌、2011年)——これは、個人のスケールにおける、文明のスケールでの技能の死がどのようなものかについての、小さな予告編である。
若者はテールリスクを継承する
AGIについての最も鋭い世代間の事実は、分配に関するものである。決定を下すのは高齢者であり、最悪の結果を生き抜くことになるのは若者である。2035年の破局的な失敗は、その判断を下した幹部や当局者にとってはキャリアの終わりを意味する出来事だが、何の判断も下していない子どもたちにとっては命の終わりを意味する出来事である。後者の集団から同意が求められたことはない。
これは新しい構造ではない。気候変動は確立された雛形である。何十年にもわたって複利的に増大する被害、現在の有権者と株主による決定、そしてまだ生まれていない人々が負う代償である。気候正義の文献は、これが何を意味するかを30年かけて練り上げてきた——世代間の公正を、慈善としてではなく制約として扱うのだ。最も有名なのは、ブルントラント委員会が持続可能性を、将来世代がそのニーズを満たす能力を損なうことなく現在のニーズを満たすことと定義したことである(『我ら共有の未来』、1987年)。物理科学は、この非対称性を具体的な形にする。IPCCの統合報告書は、事実上、この場に議席を持たなかった将来の人口のための被害評価である(IPCC第6次評価報告書 統合報告書)。
これらは類推として、類推であると明記した上で述べている。AIのリスクは、速度、可逆性、形において気候リスクとは異なる——アラインメントを誤った移行は何世紀もかけて緩やかに悪化するわけではなく、訴えかけるべき後の世代がそもそも存在しないかもしれない。だが道徳的な構造はそのまま転用できる。小さな集団がある決定の便益を集中させ、最悪の場合の代償を投票権を持たない人々にばらまくとき、その決定には、受益者の同意に依存しない正当化が必要である。
現世代が次世代に負うもの
気候変動の文献はもう一つの輸出品を提供する。修辞的ではなく具体的な義務である。三つがAGIの移行にうまく転用できる。
**可読性。**何が選ばれ、なぜそうなったかの記録を残すこと。将来の世代は、どのトレードオフが意図的に行われ、どれがインセンティブの偶発的な産物だったかを知る資格がある。プレスリリースと封印された安全性文書の中だけで起こる移行は、設計上、可読性を欠いている。可読性は、今はほとんど費用のかからない選択だが、後になってからでは取り戻せない。
**能力。**モデルへの依存を生き延びる教育。子どもが学ぶあらゆる技能が、モデルの方がうまくこなせる技能であるならば、その子どもに与えられたのは能力ではなく消費である。AGI後のいかなるカリキュラムにとっても試金石となるのは、モデルが不在のときでも機能し、考え、築くことのできる人々を生み出すかどうかである——それは「仕事と目的」のページが大人に適用しているのと同じ基準である。
**選択可能性。**本物の代替肢を生かし続けること。学ぶ方法が一つ、働く方法が一つ、伴侶を得る方法が一つしかない世界で育った世代は、鍵のかかった贈り物を与えられたことになる。人間が教える学校、人間が下す判断、人間が運営する制度を保つことは、郷愁ではない。それは、この移行の合意が誤っていた可能性に対して、次の世代の選択肢を開いたままにしておくことである。
これらの義務のいずれも、移行がどう終わるかを知っている必要はない。それらはあらゆるシナリオにわたって頑健である——そしてそれこそが、不確実性に満ちたこのマニュアルの中で、本ページが行う最も強い主張である。