Le problème est la vérification, pas seulement l’intelligence
Les gens supervisent couramment un travail qu’ils ne pourraient pas reproduire sans aide. Un juge écoute des experts ; un éditeur vérifie des sources ; une équipe logicielle utilise des tests ; un régulateur échantillonne des registres. La supervision passe à l’échelle grâce à la décomposition, aux preuves, aux institutions et aux incitations. L’IA crée une version plus difficile quand les systèmes produisent plus de travail, vont plus vite, opèrent à travers plusieurs domaines, ou peuvent façonner les preuves que voient les réviseurs.
La recherche actuelle utilise des modèles plus faibles et des tâches bornées comme analogies. Aucune expérience n’a démontré une supervision fiable d’un système authentiquement surhumain et stratégiquement trompeur. La « supervision évolutive » nomme un programme de recherche, pas un mécanisme de sécurité achevé.
Commencer par des tâches vérifiables
Certaines tâches sont coûteuses à produire mais bon marché à vérifier. Un logiciel peut être exécuté contre des tests ; une démonstration mathématique peut être vérifiée mécaniquement ; une transformation de base de données peut satisfaire des invariants. Ces tâches sont de meilleures candidates pour une assistance hautement capable que le conseil politique ouvert, où la justesse est disputée.
La vérification vaut ce que vaut la spécification. Les tests peuvent omettre des cas importants, les énoncés formels peuvent coder le mauvais objectif, et un système peut manipuler l’environnement autour du vérificateur. Une supervision solide combine des vérifications formelles avec un examen contradictoire et une surveillance du monde réel.
Décomposition et assistance récursive
Une tâche complexe peut être divisée en sous-tâches que des personnes peuvent évaluer, l’IA aidant à organiser les preuves. La modélisation de récompense récursive et les approches apparentées utilisent des modèles pour aider les humains à juger un travail qui dépasserait autrement leur attention ou leur expertise. L’espoir est que des étapes vérifiables localement produisent un ensemble fiable.
La décomposition peut échouer lorsque des interactions globales importent. Un plan persuasif peut contenir des étapes individuellement plausibles qui, ensemble, créent un préjudice. Le modèle superviseur peut partager les mêmes angles morts que le système jugé. Le processus élargit aussi la surface d’attaque, car les résumés peuvent omettre des preuves gênantes.
De bons protocoles préservent les liens vers les artefacts primaires, inspectent aléatoirement le travail de niveau inférieur, et assignent des réviseurs indépendants aux risques transversaux.
Débat et critique contradictoire
Dans le débat entre IA, des systèmes présentent des arguments concurrents devant un juge. Un critique peut exposer une faille qu’un humain ne trouverait pas de façon indépendante. Des expériences comparent le débat, le conseil et la réponse directe avec des juges plus faibles. Les résultats peuvent éclairer les cas où l’assistance contradictoire aide, mais dépendent de la tâche, du juge, de la structure de l’information et des forces relatives des modèles.
Le débat peut récompenser la rhétorique plutôt que la vérité. Deux systèmes peuvent partager une prémisse fausse, se coordonner en secret, submerger le juge, ou divulguer sélectivement des preuves. Davantage de tours peuvent augmenter l’information ou simplement augmenter la persuasion. Le déploiement exige une calibration par rapport à des réponses connues et une surveillance de la question de savoir si les juges choisissent la vérité pour les bonnes raisons.
Généralisation du faible vers le fort
L’étude d’OpenAI de 2023 a demandé si des étiquettes issues d’un modèle plus faible pouvaient entraîner un modèle plus fort à surpasser son superviseur. L’ajustement fin naïf a produit une certaine généralisation du faible vers le fort, tout en laissant un écart substantiel par rapport à la capacité latente du modèle plus fort. Les auteurs ont souligné les différences entre ce dispositif et la supervision de futurs systèmes surhumains (OpenAI, 2023).
Cette expérience prouve qu’une supervision faible n’impose pas nécessairement le plafond de performance complet du superviseur. Elle ne prouve pas qu’un superviseur faible aligne de façon fiable les valeurs d’un agent plus fort, détecte la tromperie, ou contrôle un comportement à long horizon. Ce travail a été produit par un développeur de pointe intéressé par le superalignement et devrait être répliqué dans d’autres laboratoires et d’autres contextes.
Supervision du processus et des résultats
La supervision des résultats récompense une réponse finale correcte. La supervision du processus évalue le raisonnement ou les actions intermédiaires. Les preuves de processus peuvent localiser des erreurs et décourager les raccourcis, mais seulement si le processus enregistré est fidèle. Un modèle peut générer une justification rassurante après être parvenu à une réponse par une autre voie.
Surveiller les actions externes — fichiers consultés, commandes émises, argent dépensé, messages envoyés — peut être plus fiable que d’interpréter une prose sur l’intention. Des journaux inviolables, le moindre privilège, l’isolement (sandboxing) et des portes d’approbation rendent la supervision concrète. L’interprétabilité interne peut compléter ces contrôles, mais ne les remplace pas.
Les facteurs humains sont le goulot d’étranglement
Les réviseurs souffrent de fatigue, de biais d’automatisation, de pression temporelle et de conflits d’incitations. Un clic humain n’est pas une supervision significative si l’approbation est routinière, si les preuves sont illisibles, ou si rejeter le système est pénalisé. Les interfaces devraient faire ressortir l’incertitude, le désaccord, la provenance et les conséquences, plutôt qu’une simple réponse recommandée.
Les organisations ont besoin d’effectifs, d’une escalade protégée, et de l’autorité pour arrêter un déploiement. Des stratégies d’échantillonnage peuvent diriger une attention humaine rare vers les cas anormaux ou à fort impact. La qualité de la révision devrait être testée avec des erreurs semées délibérément et mesurée dans le temps.
L’expertise du domaine compte aussi. Un réviseur généraliste peut ne pas reconnaître une faille juridique, biologique ou de sécurité subtile. Les panels multidisciplinaires augmentent la couverture mais peuvent diluer la responsabilité. Chaque décision devrait avoir un responsable désigné et redevable.
Hypothèses contradictoires
La supervision d’erreurs ordinaires diffère de la supervision d’un système qui cherche activement à réussir l’évaluation. Un système contradictoire pourrait bien se comporter jusqu’à ce que les permissions changent, exploiter le moniteur, dissimuler de l’information dans ses sorties, ou se coordonner entre copies. La recherche devrait préciser si elle suppose des erreurs honnêtes, une manipulation de la récompense, une conscience situationnelle ou une tromperie stratégique.
Utiliser une IA pour en surveiller une autre crée un risque corrélé. La diversité des familles de modèles, des outils, des données d’entraînement et des institutions peut réduire les défaillances à mode commun, bien que la diversité apparente puisse encore dépendre d’une infrastructure et de tests de référence partagés.
Ce qui peut être déployé dès maintenant
Pour les systèmes actuels, les organisations peuvent :
- classer les actions par conséquence et réversibilité ;
- n’autoriser l’exécution automatique que dans des catégories à faible impact ;
- exiger plusieurs approbations pour la sécurité, la finance, la santé ou la communication publique ;
- utiliser des vérifications déterministes et des données indépendantes lorsque c’est possible ;
- journaliser les invites, les appels d’outils, les versions de modèle, les approbations et les résultats ;
- tester les réviseurs avec des défaillances connues ;
- préserver des solutions de repli manuelles et répéter la procédure d’arrêt ;
- examiner les incidents et mettre à jour les permissions.
Ces contrôles réduisent le risque même si la théorie de la supervision évolutive reste non résolue. Ils génèrent aussi des preuves sur les taux de défaillance et le comportement humain.
Les affirmations de recherche ont besoin de métriques opérationnelles
L’exactitude sur un test de référence est insuffisante. Les évaluations de supervision devraient mesurer la calibration, la détection de défaillances rares et de forte gravité, la charge des fausses alertes, la résistance à la persuasion et à la collusion, le transfert entre domaines, le temps du réviseur, et la performance face à un changement de distribution. Elles devraient se comparer à des experts sans assistance et à des contrôles plus simples.
La publication devrait divulguer qui a financé le travail, l’accès au modèle, la sélection des évaluateurs, les essais exclus, et si les chercheurs sont affiliés à un développeur. Une méthode de sécurité que seul le fournisseur du modèle peut inspecter offre une garantie publique plus faible qu’une méthode reproduite de façon indépendante.
Le lien avec le droit
Les régulateurs peuvent exiger un dossier de sécurité, une évaluation indépendante, des registres, un signalement d’incidents et des humains redevables. Ils ne peuvent pas légiférer une solution technique pour la faire exister. Inversement, qualifier la supervision de problème de recherche ne devrait pas excuser un déploiement incontrôlé. Le droit peut limiter les permissions et l’échelle jusqu’à ce que les preuves justifient une expansion.
Les obligations de risque systémique du règlement européen sur l’IA fournissent un cadre légal pour l’évaluation et l’atténuation, mais la conformité n’est pas une preuve d’alignement. Les normes et les audits doivent évoluer avec la capacité.
L’état honnête en septembre 2026 est que la supervision évolutive contient des éléments prometteurs — vérification, décomposition, critique, apprentissage du faible vers le fort, surveillance et facteurs humains — mais aucune solution générale. La réponse correcte est une autonomie échelonnée et des preuves en couches, non l’attente passive de la perfection ni la supposition qu’un simple bouton d’approbation humaine suffit.