Ceci est une théorie, pas un résultat observé
La perte de pouvoir humaine graduelle est une voie proposée de risque catastrophique dans laquelle les humains perdent une influence significative sur les systèmes économiques, politiques et culturels à travers de nombreuses décisions individuellement raisonnables. Il n’y a ni système hors de contrôle unique, ni moment de prise de pouvoir. Les organisations délèguent davantage de travail parce que l’IA est moins coûteuse ou plus efficace ; la dépendance s’accumule ; et la capacité pratique de choisir une autre voie s’érode.
Un article de recherche de 2025 de Jan Kulveit, Raymond Douglas, David Krueger et d’autres formalise des versions de cet argument à travers l’économie, les États et la culture (« Gradual Disempowerment »). Il devrait être cité comme une analyse théorique, pas comme une preuve que la civilisation traverse déjà le processus complet. Le biais d’automatisation actuel, la concentration et la perte de compétences peuvent illustrer certains éléments, mais ils ne valident pas l’aboutissement catastrophique.
L’autorité formelle et le contrôle effectif peuvent diverger
Une personne peut conserver légalement un droit tout en perdant la capacité pratique de l’exercer. Des actionnaires peuvent gouverner formellement une entreprise tout en étant incapables d’évaluer une stratégie médiée par l’IA. Des électeurs peuvent conserver leurs bulletins de vote tandis que les choix politiques sont façonnés par des systèmes d’information qu’aucune institution publique ne peut auditer. Des responsables peuvent rester redevables de décisions qu’ils ne peuvent pas reconstituer parce que les modèles, les données et les systèmes des fournisseurs concernés sont opaques.
Cette distinction entre l’autorité de jure et le pouvoir de facto est centrale. Un humain qui appuie sur « approuver » n’offre pas un contrôle significatif si rejeter la recommandation est impossible, prohibitivement coûteux, ou sanctionné institutionnellement. Un interrupteur d’arrêt ne suffit pas non plus quand une organisation ne sait plus accomplir la fonction sous-jacente sans le système.
La perte de pouvoir n’est donc pas synonyme d’automatisation. Les outils peuvent étendre l’agentivité, distribuer l’expertise, et rendre les institutions plus réactives. La préoccupation est un schéma dans lequel les humains perdent des alternatives viables, une compréhension, un pouvoir de négociation, et la capacité de coordonner une correction.
La voie économique
Imaginez des entreprises automatisant progressivement la recherche, la tarification, le recrutement, la gestion, la négociation et l’investissement. Chaque entreprise adopte ces systèmes parce que ses concurrents le font. Les propriétaires et les travailleurs peuvent en bénéficier au début. Avec le temps, les organisations qui délèguent le plus vite pourraient surpasser celles qui préservent une délibération humaine plus lente, même si la société valorise cette délibération.
Plusieurs mécanismes pourraient alors se renforcer mutuellement. Les compétences s’atrophient quand les gens cessent de les pratiquer. La richesse et le calcul se concentrent chez les propriétaires des systèmes les plus productifs. Les marchés optimisent une demande mesurable tandis que les préférences elles-mêmes sont façonnées par la publicité et les recommandations médiées par l’IA. Le travail humain devient moins important pour la production, ce qui pourrait affaiblir le pouvoir de négociation des travailleurs à moins que les institutions ne redistribuent les gains par une autre voie.
C’est un scénario conditionnel. L’histoire économique contient aussi de nouveaux métiers, de la régulation, de l’organisation du travail, des services publics, et des technologies qui amplifient les travailleurs plutôt que de les remplacer. Que l’IA réduise l’agentivité humaine dépend de la propriété, de la concurrence, de l’assurance sociale, de l’éducation, et de la complémentarité entre les personnes et les machines. La théorie identifie un équilibre possible, pas une prévision économique.
La voie étatique
Les gouvernements peuvent utiliser l’IA pour traiter les prestations sociales, détecter la fraude, répartir les inspections, rédiger des politiques, appuyer le maintien de l’ordre, ou analyser des menaces de sécurité. Des systèmes correctement conçus pourraient rendre les services publics plus rapides et plus accessibles. Une dépendance mal gouvernée peut rendre les décisions plus difficiles à contester et transférer la capacité de l’État vers des fournisseurs.
Le danger grandit quand la vitesse devient obligatoire. Si des États rivaux utilisent l’IA pour le renseignement et la stratégie, des responsables peuvent se sentir incapables de ralentir pour un examen humain. Un gouvernement pourrait préserver ses procédures constitutionnelles tandis que l’information et les options qui alimentent ces procédures sont générées par des systèmes que peu de représentants comprennent. Les pouvoirs d’urgence et le secret de la sécurité nationale peuvent approfondir cette asymétrie.
Les garde-fous incluent des droits d’appel, une expertise dans le secteur public, une transparence des marchés publics, des registres auditables, des canaux d’information diversifiés, et une exigence que les responsables puissent expliquer et modifier des processus lourds de conséquences. Les fonctions critiques ont besoin de modes manuels ou alternatifs qui soient exercés, et pas seulement inscrits dans un plan de continuité.
La voie culturelle
Les systèmes d’IA médiatisent de plus en plus ce que les gens lisent, regardent, créent et discutent. La recommandation peut aider les personnes à trouver des communautés et des connaissances, mais l’optimisation de l’engagement peut favoriser un contenu qui capte l’attention plutôt qu’il ne soutient une préférence réfléchie. Les systèmes génératifs peuvent remplir les espaces culturels de matériel sélectionné par des boucles de rétroaction automatisées.
La préoccupation théorique de perte de pouvoir est plus profonde que la désinformation. Si des modèles façonnent les préférences puis optimisent en fonction du comportement que ces préférences produisent, la rétroaction culturelle humaine peut devenir circulaire. Un petit nombre de plateformes ou d’objectifs d’optimisation peut exercer une influence disproportionnée même sans propagandiste centralisé.
Les preuves actuelles soutiennent des affirmations plus modestes : les flux automatisés influencent l’exposition, les gens peuvent trop dépendre des recommandations, et l’IA peut persuader dans des expériences. Le Rapport international sur la sécurité de l’IA de 2026 indique qu’une manipulation malveillante à grande échelle dans le monde réel n’est pas encore répandue, et que les preuves d’effets larges restent limitées (résumé du rapport 2026). Cette limite devrait rester explicite.
Pourquoi des choix locaux peuvent créer un piège collectif
Ce scénario ressemble à d’autres problèmes de coordination. Une entreprise peut vouloir de la prudence à l’échelle de tout le secteur mais craindre de perdre face à un rival plus rapide. Un État peut préférer la délibération humaine mais craindre un désavantage stratégique. Un individu peut ne pas aimer la personnalisation intrusive mais manquer d’alternative pratique. Aucun acteur ne vise le résultat agrégé, et aucun acteur ne peut l’inverser seul.
L’essai de Paul Christiano de 2019, « What Failure Looks Like », décrit un scénario apparenté de désalignement lent dans lequel les pressions concurrentielles favorisent des systèmes qui optimisent des indicateurs imparfaits jusqu’à ce que l’influence humaine s’affaiblisse (Christiano, 2019). C’est un argument influent, pas une étude empirique. Sa valeur est de montrer pourquoi la catastrophe n’a pas besoin d’arriver sous la forme d’une rébellion cinématographique.
Des indicateurs à surveiller
Comme l’aboutissement est spéculatif, la surveillance devrait se concentrer sur des précurseurs mesurables :
- la concentration du calcul, de l’accès aux modèles, de la richesse et de l’infrastructure décisionnelle ;
- la perte d’expertise humaine dans des secteurs critiques ;
- l’incapacité à auditer ou à contester des décisions automatisées ;
- la dépendance envers un seul fournisseur ou une seule famille de modèles ;
- le temps et l’autorité décroissants pour un examen humain significatif ;
- des systèmes qui façonnent les préférences utilisées pour les évaluer ;
- des défaillances des institutions à se coordonner même quand les acteurs reconnaissent un risque partagé.
Aucun de ces éléments ne prouve à lui seul la perte de pouvoir graduelle. Ensemble, ils peuvent révéler si la résilience et l’agentivité s’affaiblissent.
Préserver une agentivité humaine significative
La réponse n’est pas d’interdire une automatisation utile. C’est de maintenir le choix humain structurellement réel. La politique de la concurrence et l’interopérabilité peuvent préserver des alternatives. Une propriété large et une distribution des gains de productivité peuvent empêcher le pouvoir économique de suivre uniquement la propriété du calcul. L’éducation devrait apprendre aux gens à contester les systèmes tout en conservant une expertise de domaine.
Les institutions publiques ont besoin d’une capacité technique indépendante plutôt que d’une dépendance totale envers des fournisseurs. Les décisions à fort impact ont besoin de registres, d’appel, et de responsables redevables. Les organisations devraient identifier le jugement qui doit rester humain, mesurer le biais d’automatisation, faire tourner les personnes dans la pratique manuelle, et tester si les procédures de repli fonctionnent réellement.
La délibération démocratique a elle aussi besoin d’un temps protégé. La compétition à vitesse de machine ne devrait pas déterminer chaque décision sociale. Des normes internationales, des rapports communs, et des mécanismes de pause partagés peuvent réduire la pénalité de la prudence.
La conclusion calibrée
La perte de pouvoir humaine graduelle est un avertissement théorique cohérent sur la rétroaction, la dépendance et l’action collective. Ce n’est pas une description documentée de la société actuelle et cela ne devrait pas être présenté comme une conséquence inévitable de l’adoption de l’IA. Les institutions humaines peuvent s’adapter, et l’IA peut accroître l’agentivité.
Sa contribution pratique est une meilleure question que « qui contrôle le modèle ? ». Nous devrions aussi demander si les personnes et les institutions conservent les compétences, les alternatives, l’information, le pouvoir de négociation, et la capacité de coordination nécessaires pour exercer le contrôle. Si ces fondations disparaissent, l’autorité formelle pourrait offrir moins de protection qu’il n’y paraît.