Une réponse médicale n’est pas un système de santé
Imaginez un système d’IA capable de lire presque tous les articles pertinents, de comparer l’historique d’un patient à des millions de cas, de proposer un diagnostic, de concevoir une molécule, et d’expliquer les options dans n’importe quelle langue. Ce serait une expansion remarquable de l’expertise. Le patient aurait encore besoin d’un test fiable, d’un clinicien ou d’une équipe responsable des soins, d’un traitement homologué et fabriqué, d’un lit d’hôpital quand quelque chose tourne mal, et d’un moyen de payer.
La santé après une IA transformatrice sera façonnée par l’écart entre l’information et la délivrance des soins. Le travail cognitif n’est qu’une partie de la médecine. La biologie reste incertaine, les essais cliniques prennent du temps, la fabrication doit être contrôlée, la chirurgie et les soins infirmiers ont lieu dans le monde physique, et le personnel et les installations, rares, doivent servir des communautés réelles. Un modèle peut réduire certains goulots d’étranglement tout en déplaçant la pression vers d’autres.
Les preuves actuelles justifient un optimisme prudent, non des affirmations d’immortalité imminente. Les orientations 2024 de l’Organisation mondiale de la santé sur les grands modèles multimodaux identifient des applications dans les soins cliniques, l’usage par les patients, l’administration, la formation, et la recherche, tout en mettant en garde contre les résultats inexacts, le biais d’automatisation, la cybersécurité, la vie privée, et l’accès inégal. Ses recommandations relèvent de l’orientation en santé publique, non d’une preuve qu’un produit précis est cliniquement efficace. La performance sur des tests de référence n’est pas une preuve clinique.
La découverte pourrait s’accélérer avant que les soins ne s’améliorent
L’IA est déjà utilisée dans certaines parties de la découverte et du développement pharmaceutiques, notamment la recherche, la prédiction, et l’analyse, bien que les preuves et le statut réglementaire varient selon l’usage (OMS, mars 2024). Des systèmes plus capables pourraient générer des hypothèses et concevoir des expériences avec une plus grande portée, et une meilleure robotique et simulation pourraient raccourcir le cycle entre l’idée et le résultat testé. Ce sont des projections conditionnelles, non des résultats post-AGI observés.
La découverte n’équivaut pas à un traitement sûr. Une molécule plausible doit encore être synthétisée, caractérisée, testée pour la toxicité, fabriquée de façon constante, étudiée chez l’humain, et surveillée après son déploiement. Certaines étapes peuvent aussi s’accélérer, mais chacune protège contre un échec différent. Supprimer une étape parce qu’un modèle exprime une grande confiance échangerait un retard visible contre un risque caché.
La bonne mesure n’est pas le nombre d’articles ou de molécules candidates générées. C’est l’amélioration validée de la survie, de la fonction, de la qualité de vie, de l’accessibilité financière, et de l’accès — avec les effets indésirables rapportés plutôt que filtrés comme des données gênantes.
L’IA pourrait aussi améliorer les opérations ordinaires avant de produire une révolution scientifique : la prise de rendez-vous, la documentation, la traduction, l’autorisation préalable, la prévision des approvisionnements, le codage, et la communication avec les patients. Ces changements peuvent redonner du temps au soin ou devenir une raison d’augmenter la charge de travail. Les institutions décident quel résultat se produit.
Le diagnostic exige responsabilité et suivi
Un système de diagnostic peut être utile dans plusieurs rôles : suggérer des possibilités qu’un clinicien a manquées, trier l’urgence, interpréter une image, vérifier les interactions médicamenteuses, ou aider un patient à décrire ses symptômes. Il peut aussi ancrer les utilisateurs sur une mauvaise réponse, sembler certain quand les preuves sont minces, et échouer différemment selon les populations.
La performance clinique doit être mesurée dans le contexte où le système fonctionnera. Un modèle évalué sur des dossiers rétrospectifs propres peut échouer avec des historiques incomplets, des flux de travail inhabituels, des équipements changés, ou des patients différents de la population d’entraînement. La précision moyennée sur tous les cas peut masquer une performance dangereuse pour un groupe plus restreint.
La responsabilité ne peut pas être attribuée à « l’IA ». Un déployeur doit savoir qui surveille la performance, reçoit les rapports d’incidents, met à jour le modèle, gère les interruptions, et informe les patients concernés. Les cliniciens ont besoin de l’autorité pour être en désaccord sans être traités comme inefficaces. Les patients ont besoin de savoir quand un système a façonné matériellement leurs soins et où demander une révision.
Pour un usage domestique, un système conversationnel ne devrait pas devenir un remplacement invisible des services d’urgence, du diagnostic, ou d’un traitement homologué. Il peut aider à préparer des questions et expliquer une terminologie. Des symptômes nouveaux, sévères, ou qui s’aggravent rapidement exigent toujours des soins humains appropriés, et l’orientation en cas de crise doit diriger les personnes vers de vrais services.
La médecine personnalisée pourrait réduire ou approfondir les inégalités
Des systèmes avancés peuvent combiner des données génomiques, environnementales, comportementales, d’imagerie, et cliniques pour adapter la prévention et le traitement. Cela pourrait réduire les tâtonnements et identifier des thérapies pour des maladies rares. Cela pourrait aussi rendre des soins de haute qualité dépendants d’une surveillance étendue et d’une infrastructure de données propriétaire coûteuse.
Le consentement devient difficile quand les usages futurs ne peuvent pas être prévus. Un dossier génomique identifie, persiste, et informe sur des proches qui n’ont pas consenti. Les données de dispositifs portables et comportementales peuvent révéler la santé tout en influençant l’emploi, l’assurance, le crédit, ou la publicité. Retirer un nom ne rend pas anonyme tout jeu de données longitudinal riche.
L’accès doit donc être conçu au sein même du système. L’infrastructure de recherche publique et à but non lucratif, les jeux de données représentatifs, le partage des bénéfices, le droit de la vie privée, le calcul sécurisé, et les limites à l’usage secondaire comptent autant que la performance technique. Une thérapie issue de vastes données publiques ne devrait pas devenir inaccessible aux communautés dont les informations l’ont rendue possible.
Les affirmations sur la longévité exigent des preuves distinctes
Des vies plus longues et en meilleure santé pourraient résulter de nombreuses formes de progrès : prévenir les maladies cardiovasculaires, détecter le cancer plus tôt, traiter les infections, réparer les tissus, améliorer la santé publique, et s’attaquer à la biologie du vieillissement. L’IA peut accélérer des parties de chaque domaine. Il ne s’ensuit pas qu’un modèle capable de raisonnement scientifique puisse résoudre rapidement le vieillissement comme un simple problème d’ingénierie.
Les systèmes biologiques comportent des mécanismes en interaction, des horizons temporels longs, et des compromis difficiles à valider. Les résultats chez l’animal se transposent souvent mal à l’humain. Un traitement qui modifie un biomarqueur peut ne pas prolonger la vie en bonne santé. Les affirmations sur une extension spectaculaire de l’espérance de vie exigent des preuves issues de critères cliniques appropriés, non des mécanismes générés par un modèle, des valorisations d’entreprises, ou des prévisions confiantes.
Les conséquences sociales méritent aussi attention avant toute percée. Des vies plus longues et en meilleure santé pourraient être un bien immense tout en affectant la retraite, le soin, le logement, la représentation politique, la structure familiale, et l’inégalité entre personnes ayant un accès différent. Ce sont des questions de répartition, non des raisons de rejeter la recherche.
Le soin physique reste un travail relationnel
Les soins infirmiers, la réadaptation, le soutien au handicap, la garde d’enfants, le soin aux aînés, et le traitement en santé mentale impliquent observation, contact, confiance, encouragement, consentement, et responsabilité dans des environnements imprévisibles. La robotique peut en automatiser des portions, et l’IA peut réduire la documentation ou offrir un accompagnement. Traiter le soin comme une tâche résiduelle laissée après le « vrai » travail cognitif reproduirait une dévalorisation déjà existante.
Une meilleure technologie devrait rendre le travail de soin plus sûr, mieux doté en personnel, et plus durable. Elle ne devrait pas justifier de laisser un seul travailleur superviser nominalement un nombre dangereux de systèmes automatisés. Les patients doivent pouvoir demander un contact humain, en particulier quand la communication, la cognition, le traumatisme, la langue, ou le handicap changent ce qu’exigent le consentement et la compréhension.
Les compagnons d’IA peuvent réduire la solitude pour certaines personnes, mais une disponibilité simulée ne garantit ni relation réciproque ni sécurité clinique. Un système dont le modèle d’affaires récompense l’engagement peut avoir des incitations différentes du bien-être à long terme d’un patient. Les produits de santé mentale exigent des limites, une escalade en cas de crise, la vie privée, et des preuves à la hauteur des affirmations qu’ils font.
La santé publique peut bénéficier d’une intelligence partagée
La santé n’est pas seulement un traitement individuel. Des systèmes avancés pourraient améliorer la détection d’épidémies, la planification des approvisionnements, la surveillance environnementale, la synthèse des preuves, et la communication entre langues. Ils pourraient aussi amplifier de fausses affirmations de santé, permettre une surveillance invasive, ou créer de nouveaux risques d’usage biologique malveillant.
Les systèmes de santé publique ont besoin de canaux de signalement fiables, d’une capacité de laboratoire, de professionnels locaux, et de communautés disposées à coopérer. Un avertissement techniquement exact qui arrive sans légitimité peut échouer. Une incertitude transparente, la correction des erreurs, une révision indépendante, et une protection contre l’usage des données de santé à des fins d’application de la loi sans rapport aident à préserver cette confiance.
Les garde-fous de biosécurité devraient se développer aux côtés des outils bénéfiques : filtrage des commandes de synthèse, biosécurité de laboratoire, évaluations de capacité, contrôles d’accès, et partage rapide des incidents. L’objectif n’est pas de supprimer la biologie. C’est de faciliter la recherche bénéfique tout en empêchant que l’information ne devienne la seule barrière restante contre un préjudice massif.
Exigences normatives pour un accès universel
Une inférence bon marché ne produit pas à elle seule des soins universels. Un programme d’accès sérieux doit traiter :
- l’électricité, la connectivité, les appareils, la langue, et l’accessibilité fiables ;
- les relations de soins primaires et les parcours de référence ;
- l’équipement diagnostique, les laboratoires, les pharmacies, la fabrication, et les chaînes d’approvisionnement ;
- la vie privée et une option non commerciale pour un usage sensible ;
- la validation à travers les populations locales et les charges de maladie ;
- la responsabilité légale, le signalement des incidents, et l’appel humain ;
- les prix et les arrangements de propriété intellectuelle pour les traitements qui en résultent ;
- la continuité quand un fournisseur, un modèle, ou un réseau est indisponible.
Les pays à faible revenu ne devraient pas être traités seulement comme des sources de données ou des marchés éventuels. Les chercheurs locaux, les ministères de la santé, les cliniciens, et les patients ont besoin d’autorité sur les priorités et le déploiement. Des systèmes optimisés pour des hôpitaux riches peuvent être hors sujet là où les contraintes déterminantes sont l’assainissement, les médicaments de base, le transport, ou le personnel clinique.
Un test pour les affirmations de santé après l’AGI
En évaluant une percée promise, demandez :
- La preuve est-elle un test de référence, une étude rétrospective, un essai prospectif, une décision réglementaire, ou un résultat de santé observé ?
- Quelle population et quel cadre clinique ont été testés ?
- Que se passe-t-il quand le système se trompe, est indisponible, ou change ?
- Qui est responsable du parcours de soins complet ?
- L’intervention réduit-elle le coût total et améliore-t-elle l’accès, ou n’améliore-t-elle qu’une seule étape cognitive ?
- Quelles données une personne doit-elle céder, et peut-elle refuser sans perdre l’accès aux soins ?
- Les bénéfices sont-ils mesurés en santé et en fonction plutôt qu’en engagement, en production, ou en un simple indicateur de substitution ?
L’IA transformatrice pourrait contribuer à produire l’une des plus grandes expansions du savoir en santé de l’histoire. L’humanité n’en profite que si ce savoir survit au contact de la biologie, des institutions, de l’inégalité, et du travail physique du soin. Le but n’est pas un système qui connaît la médecine. C’est un monde où davantage de personnes peuvent devenir et rester en bonne santé de façon fiable.