L’analyse de risque doit aussi compter les bénéfices
Un site consacré à la survie face à une IA puissante peut se déformer s’il ne compte que les préjudices. Les décisions de sécurité impliquent deux types d’erreur : déployer un système qui cause un dommage, et retenir un système qui aurait pu éviter un dommage. La réponse n’est pas l’accélération automatique. C’est de comparer bénéfices, préjudices, alternatives, incertitude, et qui supporte chaque conséquence.
Les preuves actuelles concernent l’apprentissage automatique et l’IA générative, non l’AGI. Un bénéfice mesuré est un résultat observé dans un cadre défini. Un bénéfice projeté dépend d’hypothèses d’adoption et de capacité. Les affirmations selon lesquelles l’AGI guérira les maladies, mettra fin à la pénurie ou résoudra le changement climatique sont des scénarios conditionnels, pas des résultats établis.
La productivité est réelle mais dépend du contexte
Des études contrôlées et des expériences de terrain en milieu de travail ont constaté que les outils génératifs peuvent accélérer certaines tâches d’écriture, de programmation et de service à la clientèle. Les effets varient selon l’expérience du travailleur, la tâche, le modèle, et le coût des erreurs. Terminer plus vite n’équivaut pas automatiquement à un bien-être social plus élevé : le temps gagné peut faire augmenter les salaires, réduire les prix, accroître la production, réduire l’emploi, ou intensifier les objectifs de performance.
L’analyse mondiale d’exposition de 2025 de l’OIT a conclu que la transformation était plus probable que le remplacement total pour la plupart des professions exposées, car les emplois combinent des ensembles mixtes de tâches (OIT–NASK, mai 2025). C’est une évaluation d’exposition modélisée, pas une preuve que chaque travailleur en bénéficie. La répartition, la négociation et la conception du travail déterminent où vont les gains de productivité.
Les petites organisations peuvent gagner des capacités auparavant réservées aux grandes entreprises : traduction, analyse de brouillons, assistance logicielle, conception et service à la clientèle. Cependant, les coûts d’abonnement, les règles sur les données, la fiabilité et la dépendance à un fournisseur peuvent limiter cet avantage. Une évaluation utile mesure le coût total du flux de travail, le temps de correction, les échecs et les compétences conservées, plutôt que des démonstrations impressionnantes.
Santé et accessibilité
L’IA soutient déjà l’imagerie, la documentation clinique, la découverte de médicaments, la surveillance des populations et les interfaces d’assistance. L’Organisation mondiale de la santé identifie des usages potentiels dans le diagnostic et les soins, le soutien aux patients, l’administration, la formation et la recherche, tout en mettant en garde contre les résultats inexacts, les biais, les atteintes à la vie privée, le biais d’automatisation et l’inégalité d’accès (directives de l’OMS, janvier 2024).
Ces mises en garde ne sont pas des raisons d’abandonner le domaine. Retarder un outil de dépistage ou un outil administratif déjà validé peut prolonger des retards évitables et la charge du personnel clinique. Déployer un chatbot non validé comme s’il était un médecin peut créer un préjudice évitable. Les preuves doivent correspondre à l’usage : performance du dispositif médical, résultats cliniques, résultats par sous-groupe, surveillance prospective, et un professionnel responsable nommément identifié.
Les systèmes génératifs peuvent fournir des sous-titres, des descriptions d’images, une simplification de texte, des interfaces vocales et une communication personnalisée. Pour certains utilisateurs handicapés, ce sont des outils d’autonomie, pas de simples commodités. Les affirmations d’accessibilité doivent tout de même être testées avec les personnes concernées. Un système qui échoue face à une parole atypique, ne peut pas fonctionner hors ligne, ou rend un site incompatible avec les technologies d’assistance peut créer de nouveaux obstacles.
Science et services publics
L’apprentissage automatique peut explorer des espaces chimiques et biologiques, analyser de grands ensembles de données, assister le travail mathématique, et aider les scientifiques à écrire du code ou à trouver de la littérature. Une hypothèse générée n’est pas une découverte ; les expériences, la réplication et la révision par les pairs restent nécessaires. Les systèmes propriétaires peuvent accélérer la recherche tout en rendant les méthodes moins reproductibles.
Les usages gouvernementaux peuvent inclure la traduction, l’assistance aux formulaires, le triage de la fraude, la maintenance des infrastructures et la planification des urgences. Les bénéfices sont les plus grands lorsque l’IA élargit l’accès sans rendre l’admissibilité ou l’application des règles irresponsables. Le refus automatisé de prestations, la police prédictive ou une notation de risque opaque peuvent transformer l’efficacité administrative en violations de droits.
Les administrations publiques devraient mesurer les taux d’achèvement, les temps d’attente, la précision, les appels, les résultats par sous-groupe et la charge de travail du personnel. La précision rapportée par le fournisseur ne suffit pas. Les contrats ont besoin d’un accès à l’audit, d’une protection des données, d’un signalement des incidents et d’un plan de sortie.
Éducation et développement des compétences
Les tuteurs IA peuvent offrir de la pratique et une rétroaction à faible coût marginal. Le Panorama de l’éducation numérique 2026 de l’OCDE trouve un potentiel lorsque les outils s’intègrent dans une pédagogie solide, et souligne la distinction entre la performance assistée par IA et la compétence humaine durable (OCDE, 2026).
Le coût d’opportunité d’une interdiction générale peut être le plus élevé pour les élèves sans tutorat privé, traduction ou soutien spécialisé. Le coût d’une génération de réponses sans restriction peut être une perte de pratique et un creusement des inégalités entre utilisateurs guidés et non guidés. Un accès structuré, la vérification des sources, une évaluation fondée sur le processus, et un travail continu sans assistance préservent à la fois les bénéfices et l’apprentissage.
L’énergie et le climat jouent dans les deux sens
Les centres de données consomment électricité, eau, matériaux et terrain. L’IA peut aussi optimiser les réseaux électriques, les bâtiments, les transports, les procédés industriels et la modélisation scientifique. L’Agence internationale de l’énergie traite les deux effets comme substantiels et incertains. Elle projette une forte hausse de la demande d’électricité des centres de données, tout en analysant l’efficacité et les bénéfices du système énergétique (AIE, avril 2025).
Les affirmations d’émissions évitées nécessitent un contrefactuel. Une optimisation qui économise de l’énergie par opération peut augmenter la consommation totale si elle rend l’activité moins coûteuse. Les entreprises devraient déclarer leur empreinte directe et valider de façon indépendante les économies en aval qu’elles revendiquent, plutôt que de soustraire des bénéfices spéculatifs des émissions mesurées.
Le coût d’opportunité d’un retard indiscriminé
Le retard peut signifier un diagnostic reporté, des services inaccessibles, une recherche plus lente, un coût administratif plus élevé, ou une capacité défensive perdue. Il peut aussi préserver le temps nécessaire pour tester, bâtir des institutions, former des travailleurs et prévenir un déploiement irréversible. La distinction clé est celle entre apprentissage réversible et exposition irréversible.
Un essai clinique borné, un assistant scientifique en bac à sable, ou un outil d’accessibilité à faible enjeu peuvent générer des preuves avec un risque limité. Publier des poids puissants, intégrer un agent dans une infrastructure critique, ou automatiser une décision affectant des droits peut être difficile à inverser. La précaution devrait être proportionnelle à la conséquence et à la réversibilité.
Il existe aussi un coût d’opportunité à concentrer le développement. Si seules quelques entreprises peuvent se conformer à des règles coûteuses, la société peut perdre en concurrence, en examen indépendant et en innovation locale. À l’inverse, des règles faibles peuvent externaliser les préjudices vers des personnes qui ne reçoivent aucun des bénéfices. Une bonne politique finance la capacité d’intérêt public et calibre les obligations selon le risque.
Les affirmations sur les bénéfices de l’AGI exigent la même rigueur que les affirmations de risque
Si des systèmes largement capables pouvaient automatiser la recherche, ils pourraient accélérer la médecine, les matériaux, l’énergie propre et l’éducation. Ils pourraient aussi produire des conceptions dangereuses, concentrer la propriété, ou optimiser des objectifs déconnectés du bien-être humain. Les deux sont des prévisions. La capacité n’est pas la même chose que la sélection avisée, le déploiement physique, l’accès équitable ou la légitimité politique.
La pénurie ne disparaîtrait pas simplement parce que le travail cognitif deviendrait bon marché. L’énergie, le terrain, les minéraux, le temps, la confiance et la gouvernance demeurent des contraintes. La production scientifique peut devenir abondante tandis que la capacité expérimentale, la réglementation et l’attention deviennent des goulots d’étranglement.
Un cadre de décision
Pour un usage proposé, posez-vous ces questions :
- Quel résultat compte, et quelle est l’alternative sans IA ?
- Le bénéfice revendiqué est-il mesuré, modélisé, ou spéculatif ?
- Qui reçoit le bénéfice et qui supporte les erreurs ?
- Comment la performance varie-t-elle selon les groupes et les conditions ?
- Les personnes peuvent-elles faire appel, se retirer, et obtenir une révision humaine ?
- Le déploiement est-il réversible, et des journaux et solutions de repli sont-ils maintenus ?
- Quelles preuves déclencheraient une expansion, une refonte ou un arrêt ?
Les conflits d’intérêts devraient être rendus visibles. Les fournisseurs profitent des affirmations optimistes sur l’adoption ; les défenseurs de la sécurité peuvent insister sur les risques ; les administrations peuvent privilégier l’efficacité ; les professionnels peuvent protéger, ou défendre à juste titre, leurs normes. La réplication indépendante et la participation des communautés concernées améliorent la décision.
La position équilibrée n’est ni « tout accélérer » ni « tout arrêter ». Il s’agit de capter les bénéfices démontrés dans des cadres bornés et responsables ; de préserver des normes élevées là où l’échec porte atteinte aux droits ou à la vie ; et de traiter les promesses extraordinaires sur l’AGI comme des scénarios. La sécurité réussit quand elle protège la capacité des personnes à bénéficier de la technologie, non quand elle réduit son usage comme une fin en soi.