Медицинский ответ — это ещё не система здравоохранения
Представьте систему ИИ, способную прочитать почти все релевантные статьи, сопоставить историю пациента с миллионами случаев, предложить диагноз, спроектировать молекулу и объяснить варианты на любом языке. Это было бы впечатляющим расширением экспертизы. Пациенту всё равно потребуются надёжный анализ, клиницист или команда, отвечающая за лечение, лицензированное и произведённое средство, больничная койка на случай, если что-то пойдёт не так, и способ за всё это заплатить.
Здоровье после трансформирующего ИИ будет определяться разрывом между информацией и её доставкой. Когнитивная работа — лишь часть медицины. Биология остаётся неопределённой, клинические испытания требуют времени, производство должно контролироваться, хирургия и уход за больными происходят в физическом мире, а дефицитный персонал и учреждения должны обслуживать реальные сообщества. Модель может устранить одни узкие места, перенося давление на другие.
Нынешние данные поддерживают осторожный оптимизм, а не заявления о скором бессмертии. Руководство Всемирной организации здравоохранения 2024 года по крупным мультимодальным моделям указывает на применения в клинической помощи, использовании пациентами, администрировании, обучении и исследованиях, одновременно предупреждая о неточных результатах, предвзятости в пользу автоматизации, кибербезопасности, приватности и неравном доступе. Его рекомендации — это руководство по общественному здравоохранению, а не доказательство того, что конкретный продукт клинически эффективен. Результат на бенчмарке — не клиническое доказательство.
Открытия могут ускориться раньше, чем улучшится лечение
ИИ уже используется в отдельных частях фармацевтических исследований и разработок, включая поиск, прогнозирование и анализ, хотя доказательная база и регуляторный статус различаются в зависимости от применения (ВОЗ, март 2024). Более способные системы могли бы генерировать гипотезы и проектировать эксперименты с большим охватом, а улучшенная робототехника и моделирование могли бы сократить цикл от идеи до проверенного результата. Это условные прогнозы, а не наблюдаемые результаты мира после AGI.
Открытие — не то же самое, что безопасное лечение. Правдоподобную молекулу всё равно нужно синтезировать, охарактеризовать, проверить на токсичность, стабильно производить, изучить на людях и отслеживать после внедрения. Некоторые этапы тоже могут ускориться, но каждый из них защищает от своего собственного вида сбоя. Отказ от этапа из-за того, что модель выражает высокую уверенность, обменял бы видимую задержку на скрытый риск.
Правильная мера — не количество статей или предложенных молекул-кандидатов. Это подтверждённое улучшение выживаемости, функции, качества жизни, доступности по цене и доступа — при этом побочные эффекты должны сообщаться, а не отфильтровываться как неудобные данные.
ИИ может также улучшить рутинные операции ещё до того, как произведёт научную революцию: планирование расписания, документацию, перевод, предварительное согласование, прогнозирование поставок, кодирование и коммуникацию с пациентами. Эти изменения могут вернуть время для лечения или стать поводом увеличить нагрузку. Какой из исходов реализуется, решают институты.
Диагностике нужны ответственность и доведение до конца
Диагностическая система может быть полезна в нескольких ролях: предлагать варианты, которые упустил клиницист, определять срочность, интерпретировать снимок, проверять лекарственные взаимодействия или помогать пациенту описать симптомы. Она также может закрепить пользователей на неверном ответе, звучать уверенно при скудных доказательствах и давать сбои по-разному для разных групп населения.
Клиническую результативность нужно измерять в том контексте, где система будет работать. Модель, оценённая на чистых ретроспективных записях, может давать сбой при неполной истории болезни, необычных рабочих процессах, изменённом оборудовании или пациентах, непохожих на обучающую популяцию. Точность, усреднённая по всем случаям, способна скрывать опасную результативность для меньшей группы.
Ответственность нельзя возлагать на «ИИ». Тот, кто внедряет систему, должен знать, кто отслеживает результативность, получает отчёты об инцидентах, обновляет модель, справляется с простоями и информирует пострадавших пациентов. У клиницистов должно быть право не соглашаться, не будучи из-за этого воспринятыми как неэффективные. Пациенты должны знать, когда система существенно повлияла на лечение и куда обратиться за пересмотром.
Для бытового использования разговорная система не должна становиться невидимой заменой службам экстренной помощи, диагностике или лицензированному лечению. Она может помочь подготовить вопросы и объяснить терминологию. Новые, тяжёлые или быстро ухудшающиеся симптомы всё равно требуют надлежащей человеческой помощи, а рекомендации в кризисной ситуации должны направлять людей к реальным службам.
Персонализированная медицина может снизить или углубить неравенство
Продвинутые системы способны объединять геномные, средовые, поведенческие, визуализационные и клинические данные, чтобы адаптировать профилактику и лечение. Это могло бы сократить метод проб и ошибок и выявить терапии для редких заболеваний. Это также могло бы поставить качественную помощь в зависимость от масштабного наблюдения и дорогой проприетарной инфраструктуры данных.
Согласие становится сложным, когда будущее использование данных невозможно предсказать. Геномная запись идентифицирует человека, сохраняется навсегда и информативна в отношении родственников, которые согласия не давали. Данные носимых устройств и поведенческие данные способны раскрывать состояние здоровья, одновременно влияя на трудоустройство, страхование, кредит или рекламу. Удаление имени не делает анонимным любой богатый по содержанию продольный набор данных.
Поэтому доступ должен быть заложен в саму систему проектирования. Государственная и некоммерческая исследовательская инфраструктура, репрезентативные наборы данных, распределение выгод, законодательство о приватности, защищённые вычисления и ограничения на вторичное использование важны наравне с технической результативностью. Терапия, полученная из широких общественных данных, не должна становиться недоступной для сообществ, чья информация сделала её возможной.
Заявления о долголетии нуждаются в отдельных доказательствах
Более долгая здоровая жизнь может стать результатом многих форм прогресса: профилактики сердечно-сосудистых заболеваний, более раннего выявления рака, лечения инфекций, восстановления тканей, улучшения общественного здравоохранения и изучения биологии старения. ИИ может ускорить отдельные части каждой из этих областей. Из этого не следует, что модель, способная к научному рассуждению, может быстро решить старение как единую инженерную задачу.
Биологические системы содержат взаимодействующие механизмы, долгие временные горизонты и компромиссы, которые трудно проверить. Результаты на животных часто не переносятся на людей. Лечение, изменяющее биомаркер, может не продлевать здоровую жизнь. Заявления о резком увеличении продолжительности жизни нуждаются в доказательствах из подходящих клинических конечных точек, а не в сгенерированных моделью механизмах, оценках стоимости компаний или уверенных прогнозах.
Социальные последствия тоже заслуживают внимания ещё до прорыва. Более долгая здоровая жизнь могла бы стать огромным благом, одновременно затрагивая выход на пенсию, уход за близкими, жильё, политическое представительство, структуру семьи и неравенство между людьми с разным доступом. Это вопросы распределения, а не поводы отвергать исследования.
Физический уход остаётся отношенческим трудом
Уход за больными, реабилитация, поддержка людей с инвалидностью, уход за детьми, уход за пожилыми и лечение в области психического здоровья включают наблюдение, прикосновение, доверие, поддержку, согласие и ответственность в непредсказуемой среде. Робототехника может автоматизировать часть этого, а ИИ может сократить документацию или обеспечить наставничество. Отношение к уходу как к остаточной задаче, оставшейся после «настоящей» когнитивной работы, повторило бы уже существующую недооценку.
Более совершенная технология должна делать труд по уходу безопаснее, лучше укомплектованным персоналом и устойчивее. Она не должна оправдывать ситуацию, при которой один работник номинально контролирует небезопасное число автоматизированных систем. Пациенты должны иметь возможность запросить человеческий контакт, особенно когда коммуникация, когнитивные способности, травма, язык или инвалидность меняют то, что требуется для согласия и понимания.
ИИ-компаньоны способны снижать одиночество у некоторых людей, но симулированная доступность не гарантирует ни взаимных отношений, ни клинической безопасности. У системы, чья бизнес-модель вознаграждает вовлечённость, могут быть стимулы, отличные от долгосрочного благополучия пациента. Продукты в области психического здоровья требуют границ, эскалации при кризисе, приватности и доказательств, соответствующих заявлениям, которые они делают.
Общественное здравоохранение может выиграть от совместного интеллекта
Здоровье — это не только индивидуальное лечение. Продвинутые системы могли бы улучшить обнаружение вспышек заболеваний, планирование поставок, экологический мониторинг, синтез доказательств и коммуникацию между языками. Они также могли бы усиливать ложные утверждения о здоровье, обеспечивать инвазивную слежку или создавать новые риски злоупотребления биологическими знаниями.
Системам общественного здравоохранения нужны доверенные каналы отчётности, лабораторные мощности, местные специалисты и сообщества, готовые сотрудничать. Технически точное предупреждение, приходящее без легитимности, может не сработать. Прозрачная неопределённость, исправление ошибок, независимая проверка и защита от использования медицинских данных для не связанного с ними правоприменения помогают сохранять это доверие.
Меры биобезопасности должны развиваться вместе с полезными инструментами: проверка заказов на синтез, биобезопасность лабораторий, оценки возможностей, контроль доступа и быстрый обмен информацией об инцидентах. Цель — не подавить биологию. Цель — облегчить полезные исследования, не допуская, чтобы информация стала единственным оставшимся барьером против массового вреда.
Нормативные требования к всеобщему доступу
Дешёвый вывод модели сам по себе не создаёт всеобщего лечения. Серьёзная программа доступа должна учитывать:
- надёжное электроснабжение, подключение к интернету, устройства, язык и доступность;
- отношения первичной помощи и пути направления к специалистам;
- диагностическое оборудование, лаборатории, аптеки, производство и цепочки поставок;
- приватность и некоммерческий вариант для чувствительного использования;
- проверку на местных группах населения и структуре заболеваемости;
- юридическую ответственность, отчётность об инцидентах и человеческую апелляцию;
- цены и договорённости об интеллектуальной собственности на получаемые методы лечения;
- непрерывность работы, когда поставщик, модель или сеть недоступны.
К странам с низким доходом не следует относиться только как к источникам данных или будущим рынкам сбыта. Местным исследователям, министерствам здравоохранения, клиницистам и пациентам нужны полномочия определять приоритеты и порядок внедрения. Системы, оптимизированные под богатые больницы, могут оказаться неуместными там, где реальными ограничениями являются санитария, базовые лекарства, транспорт или клинический персонал.
Проверка для заявлений о здоровье после AGI
Оценивая обещанный прорыв, задайте вопросы:
- Является ли доказательство результатом бенчмарка, ретроспективным исследованием, проспективным испытанием, регуляторным решением или наблюдаемым результатом для здоровья?
- Какая популяция и какой клинический контекст были протестированы?
- Что происходит, когда система ошибается, недоступна или меняется?
- Кто отвечает за весь путь оказания помощи целиком?
- Снижает ли вмешательство общую стоимость и улучшает доступ, или лишь улучшает один когнитивный этап?
- Какие данные должен предоставить человек и может ли он отказаться, не теряя при этом лечения?
- Измеряются ли выгоды в показателях здоровья и функции, а не только вовлечённости, выработки или суррогатного показателя?
Трансформирующий ИИ мог бы помочь произвести одно из крупнейших расширений медицинских знаний в истории. Человечество выигрывает только тогда, когда эти знания выдерживают контакт с биологией, институтами, неравенством и физическим трудом ухода. Цель — не система, которая знает медицину. Цель — мир, в котором больше людей смогут надёжно становиться и оставаться здоровыми.