Assistance, automatisation et amélioration récursive sont des affirmations distinctes
Les systèmes d’IA assistent déjà le travail logiciel et d’apprentissage automatique. Ils génèrent du code, explorent la littérature, analysent des expériences, proposent des tests et aident au débogage. Automatiser des pans de la recherche en IA peut raccourcir les cycles de développement. Rien de tout cela, en soi, ne démontre l’auto-amélioration récursive : une boucle dans laquelle un système d’IA améliore substantiellement le processus qui crée ses successeurs, ces successeurs l’améliorant à leur tour, avec une croissance des capacités qui s’accélère hors du contrôle humain.
Une analyse rigoureuse distingue trois niveaux :
- Assistance à la recherche : les personnes utilisent des outils d’IA tout en conservant la planification, le jugement et le travail d’intégration.
- Automatisation de flux de travail : un agent accomplit une tâche de recherche ou d’ingénierie délimitée avec une intervention limitée.
- Automatisation de bout en bout de la R&D en IA : les systèmes accomplissent l’essentiel du travail nécessaire pour produire des avancées algorithmiques importantes et les intégrer dans des systèmes améliorés.
Seul le troisième niveau fonde l’argument de boucle de rétroaction le plus fort, et même dans ce cas, le matériel, les expériences, les organisations et les décisions de déploiement peuvent en limiter la vitesse.
Capacité de programmation observée
La programmation est l’un des domaines actuels les plus solides. Des agents publics parviennent à réparer certains problèmes de dépôts de code et à générer des programmes fonctionnels. Pourtant, les tests de référence fournissent souvent un problème propre, des tests, des outils et un point de terminaison évaluable automatiquement. Le développement logiciel mature implique un contexte non documenté, de la coordination, du jugement produit, de la sécurité et de la maintenance.
L’étude randomisée de METR portant sur 16 développeurs open source expérimentés ayant réalisé 246 tâches dans des dépôts qu’ils connaissaient bien a constaté que les outils d’IA du début 2025 augmentaient le temps de réalisation de 19 pour cent, alors même que les développeurs croyaient que ces outils les rendaient plus rapides (étude de productivité des développeurs de METR). C’est un résultat étroit et daté — pas une preuve que les outils ultérieurs ou d’autres développeurs seraient plus lents. Il montre pourquoi les gains sur les tests de référence ne peuvent pas être convertis directement en accélération économique.
METR a lancé un suivi de plus grande ampleur et a modifié son protocole en 2026 à mesure que les outils et les usages évoluaient (mise à jour sur le gain de productivité de METR). La productivité réelle dépend de la charge de révision, de la sélection des tâches, de la familiarité du développeur, des interfaces d’agent et des erreurs qui passent les tests.
Preuves issues des tests de référence de recherche en IA
RE-Bench place des agents et des experts humains dans sept environnements ouverts d’ingénierie de recherche en apprentissage automatique. Dans son étude d’origine, les meilleurs agents ont obtenu un score environ quatre fois supérieur à celui des humains avec un budget de deux heures. Les humains se sont davantage améliorés avec du temps supplémentaire, ont légèrement dépassé les agents à huit heures, et ont atteint environ le double du score des agents sur 32 heures (article RE-Bench).
Ce résultat montre une forte capacité d’expérimentation à court horizon : les agents peuvent générer et tester rapidement de nombreuses solutions candidates et produisent parfois un excellent travail d’optimisation. Il montre aussi une limite : les agents restent bloqués, ne parviennent pas à se réorienter, ou tirent moins profit d’un budget plus long. Sept tâches ne peuvent représenter toute la distribution de la recherche, et un échantillonnage répété n’équivaut pas à un chercheur persistant unique.
D’autres évaluations couvrent d’autres portions du pipeline. PaperBench, d’OpenAI, demande à des agents de reproduire les résultats de 20 articles de l’ICML à partir de leur description et d’exécuter les expériences correspondantes (PaperBench). MLE-bench évalue l’ingénierie d’apprentissage automatique via des compétitions de type Kaggle (MLE-bench). Ces tests de référence mesurent des compétences significatives mais n’établissent pas la formation de théories originales, la définition d’un programme de recherche, la gestion de laboratoire, l’évaluation par les pairs ou le déploiement sûr.
Ce que rapportent les développeurs
Les laboratoires de pointe traitent désormais la R&D automatisée comme un seuil de risque. Le rapport de risque d’Anthropic de février 2026 indiquait que Claude Opus 4.6 n’était ni au niveau, ni très proche, d’une automatisation complète des activités nécessaires à la R&D dans des domaines clés, tout en avertissant qu’une automatisation partielle pourrait néanmoins accélérer le progrès (Rapport de risque d’Anthropic). Il s’agit d’une auto-évaluation d’un développeur, comportant des passages caviardés et un conflit d’intérêts.
Anthropic a de nouveau révisé son seuil de R&D automatisée dans la version 3.4 de sa Politique de mise à l’échelle responsable en juillet 2026, ce qui illustre que l’objet mesuré n’est pas stabilisé (archive de la RSP d’Anthropic). Les seuils fixés par les entreprises peuvent guider l’action interne, mais ne doivent pas être traités comme un consensus scientifique.
En août 2026, des chercheurs d’Anthropic ont rapporté des expériences dans lesquelles des agents de recherche automatisés ont trouvé des mesures d’atténuation pour certaines défaillances d’alignement sélectionnées (rapport d’Anthropic sur la recherche automatisée). C’est une preuve encourageante que la recherche accélérée par l’IA peut renforcer la sécurité. C’est aussi une recherche interne portant sur des tâches construites, non la preuve d’une science de l’alignement entièrement automatisée.
L’argument de la boucle de rétroaction
Une boucle simple compte quatre étapes : déployer l’IA pour faire de la recherche sur l’IA ; obtenir une amélioration algorithmique ou d’ingénierie ; entraîner ou configurer un système meilleur ; utiliser ce système pour produire de nouvelles améliorations. L’accélération dépend du produit de plusieurs facteurs, pas de la simple existence de la boucle.
Couverture de la recherche : quelle part du travail pertinent les agents peuvent-ils accomplir ? L’assistance à la programmation a de la valeur, mais les humains peuvent rester le goulot d’étranglement pour la sélection des problèmes, l’évaluation, le matériel, les données, la gestion et la sécurité.
Ampleur de l’amélioration : la plupart des expériences échouent ou apportent des gains modestes. Un agent doit produire des innovations qui améliorent matériellement le système suivant, et non simplement optimiser un test de référence.
Temps de cycle : l’entraînement, la fabrication de puces, la construction de centres de données, les évaluations et le déploiement peuvent prendre bien plus de temps que l’écriture de code. Une meilleure recherche ne peut pas fabriquer instantanément du calcul.
Réinvestissement : les organisations doivent choisir d’appliquer les gains à davantage de capacité. Elles peuvent au contraire les affecter au coût, à la fiabilité, aux produits ou à la sécurité.
Rendements décroissants : les découvertes peuvent devenir plus difficiles à mesure que les améliorations faciles s’épuisent. Une boucle peut se poursuivre sans s’accélérer de façon explosive.
Vérification : une recherche peu fiable engendre des coûts de révision et de réplication. Si des systèmes peuvent manipuler les évaluations, une production plus rapide peut ralentir un progrès digne de confiance.
L’amélioration récursive est donc un scénario conditionnel. Ce n’est pas une extrapolation directe des taux de génération de code.
Le logiciel peut avancer plus vite que le matériel
L’efficacité algorithmique, les recettes d’entraînement, la curation des données, les méthodes d’inférence, les compilateurs et les échafaudages d’agents peuvent s’améliorer à matériel constant. Ces gains « logiciels » peuvent se diffuser rapidement et augmenter la capacité par puce. L’IA peut aider à explorer ces espaces, créant un authentique canal de rétroaction positive.
Mais les modèles de pointe dépendent toujours de l’énergie, des puces, des réseaux, de la mémoire, des installations et des chaînes d’approvisionnement. Un système ne peut pas contourner par simple édition récursive chaque contrainte physique. Il peut améliorer l’usage des ressources ou aider à concevoir du matériel, tandis que la fabrication et la construction conservent des délais réels.
La trajectoire la plus rapide pourrait donc être une poussée d’amélioration logicielle et des processus, suivie de limites physiques ou organisationnelles — non une exponentielle lisse à l’infini. D’autres trajectoires restent possibles ; les preuves disponibles ne permettent pas d’en privilégier une avec confiance.
Pourquoi la boucle pourrait accroître le risque
Des cycles de capacité rapides peuvent dépasser la vitesse de l’évaluation, de la régulation et de l’apprentissage institutionnel. Si des agents de recherche internes accèdent aux poids du modèle, à l’infrastructure d’entraînement, au déploiement de code et à des évaluations sensibles, une erreur ou un usage malveillant a une portée accrue. La pression concurrentielle peut inciter les développeurs à recourir à l’automatisation avant que la supervision ne soit mature.
La boucle peut aussi concentrer le pouvoir. Les organisations disposant de calcul et de systèmes de recherche automatisés peuvent prendre de l’avance, attirant davantage de capital et de talents. À l’inverse, des algorithmes efficaces peuvent se diffuser et réduire la concentration. Ces effets opposés devraient être modélisés plutôt que supposés.
Pourquoi la boucle pourrait améliorer la sécurité
L’IA peut rechercher des vulnérabilités, générer des tests, analyser des incidents, améliorer les outils d’interprétabilité et automatiser la vérification de routine. La recherche en sécurité peut bénéficier de la même échelle et de la même itération. La question critique de gouvernance est de savoir si la capacité de sécurité croît avant et parallèlement à la capacité générale — non si l’assistance de l’IA à la recherche est intrinsèquement dangereuse.
Les mécanismes de contrôle incluent des environnements de recherche cloisonnés (bacs à sable), des ensembles d’évaluation protégés, un accès à privilège minimal, une surveillance indépendante, une intégration par étapes, des expériences reproductibles et une approbation humaine avant que les changements n’atteignent l’entraînement ou le déploiement. Les agents de recherche ne devraient pas pouvoir modifier leur propre évaluateur, leurs identifiants, ou les systèmes de production.
Les organisations peuvent mesurer à la fois l’accélération des capacités et celle de la sécurité : heures de chercheur économisées, découvertes validées, expériences défaillantes détectées, charge de révision, taux d’incidents et temps nécessaire à une reproduction indépendante.
Preuves qui changeraient l’évaluation
Des preuves plus solides en faveur d’une boucle de rétroaction rapide incluraient des agents générant des avancées algorithmiques nouvelles et importantes dans plusieurs domaines ; une réplication indépendante ; un succès soutenu sur des projets longs ; un temps de cycle de bout en bout réduit ; et des systèmes successifs améliorant de façon mesurable l’agent de recherche sans croissance équivalente du travail humain.
Des preuves contre une accélération explosive à court terme incluraient une dépendance persistante à la définition humaine du programme de recherche, des rendements rapidement décroissants, des coûts de vérification élevés, une incapacité à mener des projets longs, et des goulots d’étranglement matériels durs en calcul ou en expérimentation.
La conclusion pratique
La recherche en IA accélérée par l’IA est déjà réelle au niveau de l’assistance et de certaines automatisations délimitées. Les tests de référence montrent une remarquable ingénierie de recherche à court horizon, tandis que les études de productivité en conditions réelles et les budgets plus longs révèlent des lacunes importantes. Aucune preuve publique, à la date du 13 septembre 2026, ne démontre une R&D en IA autonome de bout en bout ni une boucle d’amélioration récursive incontrôlable.
La réponse correcte n’est ni le rejet ni l’inévitabilité. Il s’agit de suivre chaque goulot d’étranglement, de tester le système de recherche déployé, de protéger ses outils et ses évaluateurs, et de rendre explicites les hypothèses sur la couverture, l’ampleur de l’amélioration, le temps de cycle et le réinvestissement.