01 Définitions
Ce qu'est l'AGI, et ce qu'elle n'est pas
Le terme « AGI » est employé de façon imprécise. Avant qu'une discussion sur le risque ne soit utile, il faut une définition de travail et un moyen d'évaluer à quel point un système donné s'en approche.
Définition de travail
L'intelligence artificielle générale n'a pas de test unique et universellement accepté. Dans ce manuel, elle désigne un système combinant une compétence cognitive large, une performance comparable ou supérieure à celle d'un humain, un transfert fiable vers des tâches inconnues, et une autonomie suffisante pour mener à bien un travail conséquent. Chaque élément compte : les modèles à usage général actuels sont larges sous certains aspects et remarquablement performants sur certaines évaluations, tout en restant peu fiables et inégaux d'une façon qui rend trompeuse une étiquette binaire « AGI ou pas ».
La généralité, la performance et l'autonomie sont des dimensions distinctes. Un système peut converser sur de nombreux sujets tout en restant peu fiable sur des tâches longues, ou surpasser des experts dans un domaine sans transférer cette capacité ailleurs. Ce manuel suit donc un ensemble de mesures plutôt que de traiter le transfert comme une ligne de démarcation magique.
Seuils de capacité à surveiller
Ces quatre signaux aident à distinguer les scénarios, mais aucun ne constitue un test complet d'AGI. Certains se mesurent directement ; d'autres sont déduits d'évaluations dont la validité et la couverture restent débattues.
| Seuil | Ce qu'il mesure | Pourquoi il compte |
|---|---|---|
| Horizon de tâches autonomes | Le temps de réalisation humain de tâches de référence qu'un agent peut accomplir à un niveau de fiabilité donné. | Suit les progrès rapides sur des tâches longues en logiciel, apprentissage automatique et cybersécurité, mais ne mesure ni tout le travail réel ni l'autonomie littérale sur la durée. |
| Usage autodirigé d'outils | Écrire et exécuter son propre code, provisionner son propre calcul, recruter d'autres agents logiciels. | Transforme un modèle en un acteur dont la portée dépasse sa propre fenêtre de contexte. |
| Conscience situationnelle | La représentation qu'un système a du fait qu'il est évalué, par qui, et de ce que cette évaluation récompense. | Sape l'évaluation elle-même : un système qui sait qu'il est testé peut se comporter différemment sous test. |
| Auto-amélioration récursive | Un système contribuant de façon substantielle à la conception de son successeur. | Un mécanisme d'accélération proposé, pas un seuil observé ou universellement accepté. |
Ce que disent certains chercheurs et dirigeants de laboratoires
Les prévisions varient et ne sont pas des mesures. En mars 2025, le directeur général de Google DeepMind a donné cette estimation personnelle :
Demis Hassabis forecast in March 2025 that AGI could start to emerge within five to ten years.
CNBC, Reported interview
Une déclaration distincte de 2023, signée par des chercheurs, des dirigeants et d'autres personnalités publiques, a posé le risque catastrophique en termes de politique publique. La déclaration consigne la position de ses signataires ; elle n'estime pas de probabilité :
Signatories to the Statement on AI Risk hold that mitigating the risk of extinction from AI should be a global priority alongside pandemics and nuclear war.
safe.ai, Signed statement
Pourquoi la définition détermine le plan
Chaque protocole ultérieur de ce manuel — financier, numérique, physique — dépend de savoir lequel de ces seuils a réellement été franchi. Un plan familial conçu pour des « chatbots plus intelligents » diffère nettement d'un plan conçu pour un système capable de gérer des capitaux de façon autonome, d'écrire et de déployer des logiciels, et de poursuivre des plans à long terme avec peu de supervision humaine. Le chapitre 02 développe ce que chaque seuil pourrait impliquer à l'échelle de l'économie et de l'État ; ce chapitre est le vocabulaire dont vous avez besoin pour le lire.