医学的な答えは医療制度ではない
ほぼすべての関連論文を読み、患者の病歴を何百万もの症例と比較し、診断を提案し、分子を設計し、あらゆる言語で選択肢を説明できるAIシステムを想像してほしい。それは専門知識の目覚ましい拡大となるだろう。それでも患者は、信頼できる検査、ケアに責任を負う臨床医あるいはチーム、免許を得て製造された治療、何かがうまくいかなかったときの病床、そして支払う手段を必要とし続ける。
変革的AI後の健康は、情報と提供の間のギャップによって形作られるだろう。認知的な作業は医療のほんの一部にすぎない。生物学には依然として不確実性があり、臨床試験には時間がかかり、製造は管理されなければならず、外科手術と看護は物理的な世界で行われ、希少なスタッフと施設が実際の地域社会に奉仕しなければならない。あるモデルは一部のボトルネックを解消しながら、別の場所へと圧力を移すこともある。
現在の証拠が支持するのは慎重な楽観であって、目前に迫った不死という主張ではない。大規模マルチモーダルモデルに関する世界保健機関の2024年指針は、臨床ケア、患者による利用、事務、訓練、研究における応用を特定する一方で、不正確な出力、自動化バイアス、サイバーセキュリティ、プライバシー、そして不平等なアクセスについて警告している。その勧告は公衆衛生の指針であって、特定の製品が臨床的に有効であるという証拠ではない。ベンチマークでの成績は臨床的な証明ではない。
ケアが改善する前に、発見が加速するかもしれない
AIはすでに、医薬品の発見と開発の一部——検索、予測、分析を含む——にわたって利用されているが、その証拠と規制上の状況は用途によって異なる(WHO、2024年3月)。より高性能なシステムは、より広範な仮説を生成し実験を設計しうるし、改良されたロボット工学とシミュレーションは、着想から検証済みの結果に至るまでの周期を短縮しうる。それらは条件付きの予測であって、観測されたAGI後の結果ではない。
発見は安全な治療法と同じではない。もっともらしい分子は、それでも合成され、特性を明らかにされ、毒性を試験され、一貫して製造され、人間で研究され、展開後も監視され続けなければならない。一部の段階は加速しうるが、それぞれの段階は異なる種類の失敗から守っている。あるモデルが高い確信を示したという理由で一つの段階を省くことは、目に見える遅延を、目に見えないリスクと交換することになる。
正しい尺度は、生成された論文や候補分子の数ではない。生存率、機能、生活の質、手頃さ、アクセスにおいて検証された改善であり、それには不都合なデータとしてろ過されるのではなく報告された副作用も含まれる。
AIはまた、科学的な革命を生み出す前に、日常業務——スケジューリング、文書作成、翻訳、事前承認、供給予測、コーディング、患者とのコミュニケーション——を改善するかもしれない。これらの変化は時間をケアに還元することもあれば、業務量を増やす口実になることもある。どちらの結果になるかは制度が決める。
診断には責任と後追いが必要である
診断システムは、複数の役割で有用となりうる。臨床医が見逃した可能性を提示すること、緊急度を選別すること、画像を解釈すること、薬の相互作用を確認すること、あるいは患者が症状を説明する手助けをすることである。同時に、利用者を誤った答えに固定させ、証拠が薄いときにも確信ありげに聞こえ、集団によって異なる失敗をすることもありうる。
臨床上の性能は、そのシステムが実際に運用される文脈で測定されなければならない。整った過去の記録で評価されたモデルは、不完全な病歴、異例のワークフロー、変更された機器、あるいは訓練対象の集団と異なる患者のもとでは失敗しうる。全症例で平均化された精度は、より小さな集団に対する危険な性能を覆い隠しうる。
責任は「AI」に帰属させることはできない。導入者は、誰が性能を監視し、インシデント報告を受け取り、モデルを更新し、稼働停止に対応し、影響を受けた患者に知らせるかを把握していなければならない。臨床医には、非効率だとみなされることなく異議を唱える権限が必要である。患者は、あるシステムがケアに実質的な影響を与えたこと、そしてどこで見直しを求められるかを知る必要がある。
家庭での利用では、会話型システムは救急サービス、診断、あるいは免許を持つ治療の見えない代替物になるべきではない。それは質問の準備や用語の説明を助けることができる。新しい、重篤な、あるいは急速に悪化する症状には、依然として適切な人間によるケアが必要であり、危機に関する案内は人々を実際のサービスへと導かなければならない。
個別化医療は不平等を減らすことも深めることもありうる
高度なシステムは、ゲノム、環境、行動、画像、臨床のデータを組み合わせて予防と治療を個別化しうる。それは試行錯誤を減らし、希少疾患の治療法を特定しうる。同時に、質の高いケアを、広範な監視と高価な独自データインフラに依存させてしまうこともありうる。
将来の用途が予測できないとき、同意は難しくなる。ゲノム記録は本人を特定するものであり、持続的であり、同意していない親族についても情報を与える。ウェアラブルや行動データは健康を明らかにする一方で、雇用、保険、信用、広告にも影響を及ぼしうる。名前を取り除くだけでは、あらゆる豊富な縦断データセットが匿名になるわけではない。
したがってアクセスはシステムに組み込んで設計されなければならない。公的・非営利の研究インフラ、代表性のあるデータセット、便益の共有、プライバシー法、安全な計算、二次利用の制限は、技術的な性能と並んで重要である。広範な公共データに由来する治療法が、その情報を可能にした地域社会にとって手の届かないものになるべきではない。
長寿についての主張は、別個の証拠を必要とする
より長い健康寿命は、多くの形の進歩——心血管疾患の予防、がんの早期発見、感染症の治療、組織の修復、公衆衛生の改善、老化の生物学への取り組み——から生じうる。AIはそれぞれの分野の一部を加速するかもしれない。しかし、科学的推論のできるモデルが、老化を一つの工学的問題として速やかに解決できるということにはならない。
生物学的なシステムには、相互作用する機構、長い時間軸、そして検証の難しいトレードオフが含まれる。動物実験の結果はしばしば人間には転用できない。あるバイオマーカーを変える治療が、健康寿命を延ばすとは限らない。劇的な寿命延長についての主張には、モデルが生成した機序や企業の評価額、自信ありげな予測ではなく、適切な臨床エンドポイントからの証拠が必要である。
社会的な帰結もまた、ブレークスルーが起きる前に注目に値する。より長い健康寿命は、退職、介護、住宅、政治的な代表、家族構成、そして異なるアクセスを持つ人々の間の不平等に影響を与えながら、計り知れない善でありうる。それらは分配の問題であって、研究を拒む理由ではない。
身体的なケアは関係的な仕事であり続ける
看護、リハビリテーション、障害者支援、保育、高齢者介護、精神保健治療には、予測不可能な環境における観察、触れ合い、信頼、励まし、同意、責任が伴う。ロボット工学は一部を自動化するかもしれず、AIは文書作成を減らしたり、指導を提供したりするかもしれない。ケアを「本物の」認知的な仕事の残余のタスクとして扱うことは、既存の過小評価を繰り返すことになる。
より良い技術は、ケアの仕事をより安全に、より人員を厚く、より持続可能にすべきである。それは、一人の労働者に安全とは言えない数の自動化されたシステムを名目上監督させることを正当化すべきではない。患者は、とりわけコミュニケーション、認知、トラウマ、言語、障害が同意と理解の要件を変える場合には、人間との接触を求められるべきである。
AIの話し相手は、一部の人にとって孤独を減らしうるが、模擬的な可用性は相互的な関係や臨床上の安全性を保証しない。エンゲージメントに報酬を与えるビジネスモデルを持つシステムは、患者の長期的な幸福とは異なるインセンティブを持ちうる。メンタルヘルスの製品には、境界線、危機のエスカレーション、プライバシー、そしてその主張に見合った証拠が必要である。
公衆衛生は共有された知性から利益を得られる
健康は個人の治療だけではない。高度なシステムは、発生の検知、供給計画、環境モニタリング、証拠の統合、そして言語を越えたコミュニケーションを改善しうる。同時に、誤った健康情報を増幅させ、侵襲的な監視を可能にし、あるいは新たな生物学的な悪用のリスクを生み出しうる。
公衆衛生システムには、信頼できる報告経路、検査能力、地域の専門家、そして協力しようとする地域社会が必要である。技術的には正確でも正統性を欠いて届く警告は失敗しうる。透明な不確実性の提示、誤りの訂正、独立した審査、そして健康データが無関係な取り締まりに利用されることからの保護は、その信頼を保つ助けとなる。
生物学的なセキュリティのための保護策は、有益なツールと並行して発展すべきである。合成注文のスクリーニング、実験室のバイオセーフティ、能力評価、アクセス管理、そして迅速なインシデント共有である。目的は生物学を抑圧することではない。有益な研究をより容易にしながら、情報が大量の害への唯一残る障壁になってしまわないようにすることである。
普遍的なアクセスのための規範的要件
安価な推論だけでは普遍的なケアは生まれない。真剣なアクセス計画は、以下に対応しなければならない。
- 信頼できる電力、通信、機器、言語、アクセシビリティ。
- プライマリケアの関係と紹介の経路。
- 診断機器、検査室、薬局、製造、サプライチェーン。
- プライバシーと、機微な用途のための非商業的な選択肢。
- 地域の集団と疾病負荷にわたる検証。
- 法的責任、インシデント報告、人間による不服申し立て。
- 結果として生まれる治療についての価格と知的財産の取り決め。
- 提供者、モデル、あるいはネットワークが利用できなくなったときの継続性。
低所得国は、単なるデータの供給源、あるいは将来の市場としてのみ扱われるべきではない。現地の研究者、保健省、臨床医、患者は、優先順位と展開に対する権限を必要とする。裕福な病院向けに最適化されたシステムは、制約となっているのが公衆衛生、基礎医薬品、輸送、あるいは臨床スタッフである場所では的外れになりうる。
AGI後の健康の主張を見極める試金石
期待される画期的な進歩を評価する際には、次のように問うてほしい。
- その証拠はベンチマークか、後ろ向き研究か、前向き試験か、規制上の決定か、それとも観測された健康上の成果か。
- どの集団と、どの臨床の現場で試験されたのか。
- そのシステムが誤ったとき、利用できないとき、あるいは変更されたときに何が起きるのか。
- ケアの経路全体について誰が責任を負うのか。
- その介入は総コストを減らしアクセスを改善するのか、それとも一つの認知的な段階を改善するだけなのか。
- 人はどのようなデータを差し出さなければならず、ケアを失うことなく拒否できるのか。
- その便益は、エンゲージメント、産出量、あるいは代理指標だけではなく、健康と機能において測定されているか。
変革的AIは、歴史上最大級の健康知識の拡大の一つをもたらす助けとなりうる。人類がその恩恵を受けるのは、その知識が生物学、制度、不平等、そしてケアという物理的な仕事との接触を生き延びたときだけである。目標は医学を知るシステムではない。より多くの人々が確実に健康になり、健康であり続けられる世界である。