Deux significations sont souvent confondues
Une capacité d’IA peut être « émergente » en au moins deux sens. Au sens large, un modèle affiche un comportement utile qui n’était pas un objectif d’entraînement explicite et spécifique à une tâche. Un modèle de langage entraîné principalement à prédire des tokens peut traduire, écrire du code, résumer un texte juridique, ou résoudre certains problèmes arithmétiques. Ces capacités peuvent surgir parce que les données d’entraînement et l’objectif récompensent des motifs internes réutilisables.
Au sens plus fort, l’émergence signifie qu’une capacité apparaît abruptement à mesure que l’échelle augmente : les modèles plus petits échouent, puis un modèle plus grand réussit soudainement. Un article de 2022 largement discuté a rapporté des exemples de tels sauts à travers différentes familles de modèles et de tâches (Wei et al., 2022). La distinction compte. L’existence de capacités non planifiées est bien établie ; savoir si une capacité mesurée a subi une véritable discontinuité dépend de la métrique, des données et de l’échantillonnage.
Aucune des deux significations n’implique conscience, intention, ou magie. Des systèmes complexes peuvent acquérir des représentations à usage général sans qu’un concepteur n’écrive un module pour chaque usage. La question scientifique est de savoir comment le comportement change avec l’entraînement et la conception du système, et dans quelle mesure nous pouvons l’anticiper.
Pourquoi certains sauts sont des artefacts de mesure
Supposons que la précision arithmétique d’un modèle passe progressivement de 20 à 30 puis 40 pour cent. Un test de référence qui n’attribue un point que lorsque la précision dépasse 35 pour cent affichera zéro, zéro, puis un — une discontinuité créée par le mode de notation. Le même effet se produit lorsqu’une notation par correspondance exacte n’accorde aucun crédit à une réponse presque correcte, ou lorsqu’une tâche exige plusieurs sous-compétences et échoue si l’une d’elles manque.
Schaeffer, Miranda et Koyejo ont réanalysé des cas rapportés et montré que de nombreuses transitions abruptes devenaient progressives lorsqu’elles étaient mesurées avec des métriques continues, non linéaires ou sensibles à l’erreur (« Are Emergent Abilities of Large Language Models a Mirage? »). Cela ne prouve pas que des discontinuités authentiques ne se produisent jamais. Cela montre qu’un graphique de test de référence ne peut en établir une sans écarter les effets de métrique, l’échantillonnage épars et les différences entre familles de modèles.
L’échelle n’est pas non plus la seule variable qui change. Les modèles plus grands peuvent utiliser des données, des recettes d’entraînement, des tokeniseurs, un réglage par instructions, des outils ou des budgets d’inférence différents. Comparer des produits nommés peut confondre une amélioration d’ingénierie au niveau du système avec un pur seuil de paramètres. Les chercheurs ont besoin de séries de mise à l’échelle contrôlées, de points de contrôle denses et de plusieurs métriques pour identifier le mécanisme en jeu.
Ce qui reste réellement difficile à prédire
Même une amélioration sous-jacente progressive peut produire un seuil lourd de conséquences. Un agent cybernétique qui passe de 40 à 60 pour cent de réussite peut franchir le point où son déploiement devient économiquement rentable. La capacité d’un modèle à relier des sous-compétences individuellement faibles peut débloquer tout un flux de travail. Des systèmes externes peuvent amplifier de petites améliorations : les outils fournissent des actions, la mémoire étend le contexte, et l’échantillonnage répété permet de trouver une réponse réussie.
Les développeurs ne peuvent pas non plus tester exhaustivement chaque tâche possible. Les modèles sont entraînés sur des données vastes et déployés auprès de millions d’utilisateurs qui découvrent des usages et des défaillances que les évaluateurs n’avaient pas imaginés. Une capacité peut donc surprendre le laboratoire même si elle s’est développée progressivement. La surprise peut refléter une mesure limitée plutôt qu’un changement de phase mathématiquement net, mais elle n’en compte pas moins sur le plan opérationnel.
Le Rapport international sur la sécurité de l’IA de 2026 souligne que les évaluations de pointe peuvent avoir une validité externe limitée et devenir rapidement obsolètes à mesure que les systèmes et les échafaudages changent (Rapport international sur la sécurité de l’IA 2026). C’est une affirmation d’incertitude pratique, non une preuve que tout comportement redouté apparaîtra spontanément.
La capacité n’est pas la propension
Un modèle peut être capable d’une action lorsqu’on le sollicite délibérément, sans pour autant être susceptible de l’entreprendre de lui-même. L’analyse de sécurité devrait distinguer la capacité — le système peut-il faire quelque chose — de la propension — a-t-il tendance à le faire dans des conditions pertinentes. Un modèle capable de produire un plan trompeur dans un jeu de rôle n’a pas ainsi démontré qu’il poursuit la tromperie en déploiement réel. À l’inverse, une propension mesurée faible peut refléter une évaluation qui n’a pas créé le bon déclencheur.
La même distinction s’applique à la conscience situationnelle, à l’évasion des garde-fous, à l’autopréservation et au comportement stratégique. Ce sont des sujets de recherche actifs et des composantes possibles de modèles de menace. Il est inexact de dire qu’ils sont destinés à émerger simplement parce que la traduction ou l’arithmétique l’ont fait. Les preuves devraient identifier le modèle testé, l’invite, l’environnement, la fréquence et les explications alternatives.
Le langage anthropomorphique ajoute à la confusion. Les modèles peuvent générer des déclarations sur le désir de survivre parce qu’un langage similaire figure dans leurs données d’entraînement ou parce que l’interaction récompense un personnage. Un tel texte constitue un comportement qui mérite d’être étudié ; ce n’est pas un accès direct à un objectif interne stable. Les affirmations sur les motivations exigent des preuves plus solides que des citations tirées d’une seule conversation.
Pourquoi l’émergence reste pertinente pour la sécurité
La leçon de sécurité raisonnable n’est pas « n’importe quoi peut arriver soudainement ». C’est qu’un entraînement large crée davantage de comportements que les concepteurs n’en énumèrent explicitement, et que l’évaluation actuelle offre une couverture incomplète. Cela justifie des tests par étapes, une surveillance et une défense en profondeur. Cela invite aussi à la prudence face à l’idée que l’absence sur un test de référence signifie l’absence sous tout échafaudage ou toute invite.
L’évaluation devrait commencer dès l’entraînement, en utilisant des points de contrôle pour mesurer les tendances avant l’exécution finale. Les équipes peuvent maintenir des suites de tests pour les risques cybernétiques, l’assistance biologique, la persuasion, l’autonomie et le contrôle du modèle, tout en ajoutant du red teaming ouvert pour trouver des comportements non anticipés. Des tests privés réduisent la contamination ; des évaluateurs externes réduisent les angles morts institutionnels. Le signalement d’incidents après déploiement capture des défaillances que les tâches de laboratoire manquent.
Les politiques de seuil devraient répondre à une capacité démontrée sans exiger d’accord philosophique sur l’émergence. Si un système peut abaisser matériellement les barrières à un préjudice grave, les garde-fous pertinents devraient s’appliquer, que la courbe ait été progressive ou abrupte. Si les preuves sont faibles, le rapport devrait énoncer l’incertitude plutôt que de traiter silencieusement un comportement hypothétique comme observé.
La prévisibilité s’organise en strates
Certaines propriétés du modèle sont plus prévisibles que d’autres. La perte agrégée sur une distribution de données a souvent suivi des lois d’échelle régulières. La performance sur un test de référence stable peut être prévisible dans une plage limitée. Le succès dans un environnement complexe dépend d’outils, de fiabilité et d’interactions plus difficiles à modéliser. L’impact social ajoute l’adoption, les incitations, les institutions et les adversaires, ce qui le rend plus difficile encore.
Cette hiérarchie évite une erreur d’inférence courante : qu’une perte d’entraînement prévisible rende prévisible toute capacité en aval, alors qu’un comportement en aval surprenant n’invalide pas les lois d’échelle. Les chercheurs peuvent prévoir une moyenne tout en restant incertains quant aux défaillances rares ou aux tâches particulières.
L’interprétabilité pourrait éventuellement améliorer les prévisions en exposant des représentations ou des mécanismes avant qu’ils n’apparaissent clairement dans le comportement. Aujourd’hui, cependant, les méthodes d’interprétabilité fournissent une preuve partielle plutôt qu’une lecture complète de ce qu’un modèle « sait » ou fera. L’évaluation comportementale et les contrôles en conditions réelles restent nécessaires.
Comment lire une affirmation d’émergence
Demandez-vous ce qui a changé dans la comparaison : les paramètres, le calcul, les données, l’objectif d’entraînement, les outils, ou les invites. Examinez si la métrique est continue, si des points de contrôle intermédiaires existent, et si les marges d’incertitude se chevauchent. Vérifiez si la tâche figurait dans les données d’entraînement et si des chercheurs indépendants ont reproduit le résultat. Plus important encore, distinguez « inattendu pour les auteurs » de « scientifiquement discontinu ».
La capacité émergente est un concept utile lorsqu’il est employé avec soin. Les modèles largement entraînés acquièrent bel et bien des capacités qu’aucun ingénieur n’a spécifiées une par une. Certaines capacités ne deviennent visibles qu’après que les systèmes ont franchi des seuils pratiques. Mais de nombreuses falaises célèbres sont en partie des artefacts de la façon dont nous notons le comportement. La conclusion exacte n’est ni que l’émergence est une illusion, ni que l’échelle invoque de façon imprévisible n’importe quelle capacité. C’est que le développement des capacités n’est que partiellement compris, que les choix de mesure comptent, et que la politique de sécurité devrait être robuste face au changement aussi bien graduel que surprenant.