L’autorité formelle peut survivre après la disparition du contrôle pratique
Un parlement peut rester élu tout en dépendant de systèmes que les législateurs ne peuvent évaluer. Un ministre peut rester légalement responsable tout en recevant des recommandations qu’aucun fonctionnaire ne peut reproduire. Un citoyen peut conserver un droit formel d’appel tout en faisant face à une décision automatisée dont les données, le modèle, le contrat avec le fournisseur et le raisonnement sont inaccessibles. Rien dans ce tableau n’exige un coup d’État ou une machine dirigeante consciente. L’autorité devient cérémonielle parce que la capacité pratique de choisir autrement s’est érodée.
C’est un risque de gouvernance avant d’être un risque d’AGI. Les gouvernements utilisent déjà des algorithmes dans les prestations sociales, la fiscalité, le maintien de l’ordre, les migrations, l’éducation, la santé et l’administration publique. Des systèmes plus capables pourraient améliorer la cohérence, traduire les services, détecter la fraude, résumer les preuves et rendre l’expertise accessible à de petites agences. Ils pourraient aussi approfondir la dépendance et rendre les décisions publiques plus difficiles à contester.
Les instruments internationaux existants offrent un vocabulaire de départ, mais leur force juridique diffère. La Convention-cadre du Conseil de l’Europe sur l’intelligence artificielle est conçue comme un traité contraignant pour les parties et place au centre les droits humains, la démocratie et l’État de droit. Sa page de statut officielle n’indiquait aucune date d’entrée en vigueur au 11 septembre 2026, si bien que la signature ne doit pas être décrite comme si un État était déjà juridiquement lié (statut du CETS n° 225). La Recommandation de l’UNESCO sur l’éthique de l’intelligence artificielle est une recommandation non contraignante portant sur la supervision, la transparence, la responsabilité et les effets environnementaux et sociaux. Aucun des deux instruments ne résout la gouvernance post-AGI. Tous deux montrent que la capacité et l’efficacité ne sont pas les seules valeurs publiques en jeu.
L’agentivité signifie pouvoir changer le résultat
La « supervision humaine » est souvent traitée comme un organigramme de personnel : placer une personne quelque part après le modèle, et la décision devient humaine. La supervision réelle est un ensemble de capacités.
Le relecteur a besoin d’assez de temps et d’information pour comprendre le dossier. Il a besoin d’une formation pour reconnaître les limites du modèle. Il a besoin d’une autorité légale et organisationnelle pour rejeter la recommandation. Une décision différente ne doit pas déclencher de sanction simplement parce qu’elle s’écarte d’un score automatisé. L’institution doit conserver des registres qui permettent l’audit et l’appel.
Quand ces conditions sont absentes, un clic humain est un rituel. Une automatisation élevée peut même aggraver la révision : à mesure que les gens voient moins de cas inhabituels et exercent moins de jugement indépendant, leur expertise se dégrade. Quand le système finit par échouer en dehors de sa distribution normale, le superviseur nominal peut être le moins préparé à intervenir.
Le test pratique est contrefactuel : une personne qualifiée peut-elle parvenir à une décision différente, l’expliquer, et faire prévaloir cette décision ?
Quatre dépendances qui peuvent vider le gouvernement de sa substance
Dépendance au fournisseur
Une agence publique peut manquer du personnel, du calcul, des droits sur les données ou des conditions contractuelles nécessaires pour fonctionner sans un fournisseur donné. Changer de fournisseur peut sembler possible dans les documents d’appel d’offres, mais exigerait de réentraîner les systèmes, migrer les données, réécrire les flux de travail et accepter une longue interruption de service. Cela confère à un fournisseur privé une influence même sans pouvoir politique explicite.
Les contrats devraient donc traiter la portabilité, l’accès à l’audit, la divulgation d’incidents, les sous-traitants, la conservation des données, la sécurité, la continuité de service et l’aide à la sortie avant qu’un système ne devienne indispensable. L’offre initiale la moins chère peut coûter cher si elle achète une dépendance permanente.
Dépendance épistémique
Une institution peut perdre la capacité de savoir si un résultat est bon. Si l’IA réalise l’essentiel de l’analyse, de la rédaction, de la simulation et de la vérification, l’organisation humaine peut conserver l’autorité de signature finale tout en perdant ses modèles indépendants du monde.
La redondance est nécessaire. Les agences ont besoin d’une expertise interne, d’analyses concurrentes pour les questions à fortes conséquences, de registres d’incertitude et de canaux protégés pour la dissidence. Certaines fonctions devraient être exécutées périodiquement sans le système principal, non parce que le travail manuel serait toujours supérieur, mais parce qu’un filet de secours jamais testé n’en est pas un.
Dépendance à l’infrastructure
Les services avancés dépendent de l’électricité, des réseaux, des systèmes d’identité, de l’infrastructure infonuagique et des modèles en amont. Une panne ou un différend commercial peut se propager à travers de nombreuses fonctions publiques à la fois. Concentrer plusieurs agences sur un seul modèle ou un seul nuage peut créer une défaillance corrélée dissimulée derrière des contrats distincts.
Les cartographies de dépendance devraient identifier les fournisseurs partagés et les points de défaillance uniques à travers tout le gouvernement, pas seulement au sein d’un ministère. Les exercices de reprise devraient tester le fonctionnement dégradé, la restauration des données, la priorisation manuelle et la communication publique.
Dépendance à la légitimité
Les gens acceptent des décisions difficiles en partie parce qu’ils comprennent qui détient l’autorité, quelles règles s’appliquent, et comment contester les erreurs. Un système statistiquement précis mais impénétrable peut malgré tout saper la légitimité si les citoyens le vivent comme arbitraire.
L’explication seule ne suffit pas. Une explication générée peut sembler plausible sans révéler la base réelle d’un résultat. Une contestabilité véritable exige les preuves pertinentes, la règle applicable, l’institution responsable et le recours disponible. Elle exige aussi un bureau humain capable de changer la décision, et non seulement d’expliquer pourquoi le système l’a produite.
La démocratie a besoin d’une capacité technique publique
Les parlements, les tribunaux, les régulateurs, les auditeurs, les syndicats et la société civile ont besoin d’expertise en évaluation, sécurité, achats publics, gouvernance des données et preuves relatives aux modèles. Des équipes professionnelles, des laboratoires indépendants, des inspecteurs généraux, des organismes de normalisation et des procédures contradictoires peuvent fournir cette profondeur.
Le NIST AI Risk Management Framework offre une structure volontaire pour gouverner, cartographier, mesurer et gérer les risques de l’IA. Sa valeur est procédurale : les organisations doivent identifier le contexte et les personnes affectées plutôt que de traiter la précision sur des tests de référence comme l’évaluation complète du risque. Une institution post-AGI aurait besoin de versions plus solides et exécutoires de ces habitudes, associées à une autorisation démocratique.
Les élections sont nécessaires mais non suffisantes
L’IA transformatrice pourrait affecter la démocratie par la persuasion, les médias synthétiques, la surveillance, l’analyse des politiques, les opérations de campagne et le contrôle de l’infrastructure de l’information. Se concentrer uniquement sur les fausses images fait manquer la question plus large : qui choisit les objectifs des systèmes qui médiatisent l’attention politique, et quelles données sont utilisées pour optimiser l’influence ?
La divulgation peut aider, mais étiqueter un contenu « généré par IA » n’établit pas s’il est véridique ou manipulateur. La provenance peut montrer des parties de l’historique d’un fichier sans prouver ses affirmations. La résilience politique nécessite aussi la protection de la vie privée, un journalisme indépendant, la transparence des campagnes, la responsabilité des plateformes, une administration électorale sécurisée, et des citoyens capables de vérifier une information importante via des canaux fiables.
L’usage gouvernemental mérite une retenue particulière. Un État doté de puissants systèmes de prédiction et de persuasion pourrait personnaliser la communication publique de façon utile — ou rendre la dissidence plus facile à repérer et le comportement plus facile à façonner. Les interdictions légales, les mandats judiciaires, la minimisation, les journaux d’audit et la supervision indépendante importent davantage à mesure que la capacité analytique augmente, pas moins.
Préserver des sources plurielles de pouvoir
Aucune entreprise unique ne devrait être la seule source d’analyse publique, d’identité, de communication et d’infrastructure administrative. Aucun gouvernement central ne devrait être la seule institution capable d’utiliser des capacités avancées. Aucun système universel de notation ne devrait déterminer l’accès à l’emploi, au crédit, aux prestations, à la parole et à la mobilité.
Le pluralisme crée de la friction, et la friction est parfois protectrice. Les systèmes fédéraux, les gouvernements locaux, les tribunaux, les régulateurs indépendants, les universités, les syndicats, les associations professionnelles, les communautés techniques ouvertes et la société civile peuvent exposer des défaillances qu’un système central unique supprimerait ou manquerait. Des institutions concurrentes donnent aussi aux gens un lieu où faire appel et s’organiser.
Le pluralisme n’est pas la même chose qu’une prolifération incontrôlée. Les capacités à haut risque peuvent exiger des restrictions d’accès tout en conservant une prise de décision institutionnellement diverse. Le problème de conception est d’éviter à la fois le monopole privé et la centralisation étatique totale.
Décisions qui doivent rester politiquement contestables
L’IA peut éclairer les décisions publiques sans définir l’objectif public. Des questions comme comment répartir le revenu, quels risques sont acceptables, quels droits priment, s’il faut recourir à la force, ce que les enfants doivent apprendre, et quel degré de surveillance est admissible, ne sont pas des problèmes d’optimisation dotés de fonctions objectifs neutres. Ce sont des choix politiques entre valeurs et entre personnes.
Déléguer la mise en œuvre peut aussi remodeler l’objectif. Un système de prestations optimisé pour réduire le temps de traitement peut décourager les demandeurs à dossier complexe. Un système policier optimisé pour des incidents prévus peut amplifier des schémas issus de l’application historique de la loi. Un système de santé optimisé selon un coût mesuré peut sous-évaluer des résultats difficiles à consigner. Le contrôle démocratique exige d’examiner ce qu’un système récompense réellement, pas seulement d’en approuver l’objectif déclaré.
Proposition normative : une garantie minimale d’agentivité
Pour les usages publics à conséquences, les personnes devraient pouvoir identifier :
- qu’un système d’IA a matériellement influencé la décision ;
- l’institution et le responsable légalement redevables ;
- la règle applicable et les preuves utilisées ;
- les limites importantes, l’incertitude et la provenance des données ;
- un appel humain rapide, doté du pouvoir de changer le résultat ;
- une voie accessible vers un tribunal, un régulateur, un médiateur ou un organe élu ;
- une voie non numérique pour les personnes qui ne peuvent pas utiliser le système en toute sécurité.
Ces garanties n’élimineront ni les erreurs ni le désaccord politique. Elles préservent la différence entre administration et domination : la personne concernée reste participante d’un système de raisons et de recours, et non simplement un objet que l’on classe.
La question constitutionnelle post-AGI
La question la plus profonde n’est pas de savoir si une IA reçoit un titre gouvernemental formel. C’est de savoir si les humains et leurs institutions conservent la compétence, l’indépendance et le levier nécessaires pour réviser des systèmes lourds de conséquences. Si retirer un seul modèle arrêtait à la fois la santé, la finance, les communications et le gouvernement, la souveraineté juridique offrirait peu de réconfort pratique.
La survie démocratique après une IA transformatrice dépend donc d’une capacité construite avant que la dépendance ne devienne totale : expertise publique, infrastructure interopérable, droits exécutoires, institutions plurielles, preuves indépendantes, appels significatifs, et façons éprouvées de fonctionner quand les recommandations automatisées sont indisponibles ou rejetées. Ce ne sont pas des mesures anti-technologiques. C’est la machinerie qui permet à une société d’utiliser une technologie puissante sans renoncer à la capacité de choisir ses propres finalités.