Interprétabilité : lire ce qu'un modèle fait en interne Ce que fait la recherche en interprétabilité, pourquoi le PDG d'Anthropic l'a jugée urgente, et à quel point ce domaine est proche de lire l'esprit d'un modèle.
Sources vérifiées 7 min
04 Voies de sortie
Les voies de sortie qui existent réellement
Les contrôles techniques et institutionnels déterminent si les scénarios graves du chapitre 02 deviennent plus ou moins probables ; la préparation domestique ne peut pas s'y substituer.
Leviers techniques de sécurité
- Recherche en interprétabilité. Inspecter les représentations internes et le calcul interne des modèles, en complément des évaluations comportementales, des contrôles d'accès et de la surveillance du déploiement.
- Supervision évolutive. Des techniques — débat, modélisation récursive de la récompense, généralisation du faible vers le fort — destinées à aider des superviseurs moins capables à superviser des systèmes plus capables.
- Recherche en corrigibilité. Étudier comment les systèmes pourraient rester réceptifs à une correction, une modification et un arrêt légitimes ; aucune solution robuste à l'échelle n'a été démontrée.
- Gouvernance du calcul. Des contrôles à l'exportation propres à chaque juridiction, une surveillance de l'infrastructure et des seuils utilisés comme indicateurs imparfaits de la capacité — non comme une définition de l'AGI ou de la sécurité.
Le directeur général d'Anthropic a défendu le premier de ces points dans son essai de 2025 sur le sujet :
Dario Amodei argues that researchers still lack a precise account of why models choose particular outputs.
The Urgency of Interpretability, Primary source
Leviers institutionnels
Le problème de la coordination
La coordination internationale compte, car des contrôles unilatéraux peuvent modifier à la fois les incitations à la sécurité et la position concurrentielle. Le paysage réglementaire n'est plus entièrement volontaire : la loi européenne sur l'IA impose des obligations contraignantes aux fournisseurs relevant de son champ d'application, tandis que les cadres de sécurité des laboratoires et les engagements pris lors des sommets demeurent largement volontaires. Aucun traité contraignant de contrôle des armements à l'échelle mondiale portant sur les modèles de pointe n'existe actuellement.
Un premier point de départ international a été la déclaration non contraignante approuvée par 28 pays et l'UE lors du premier sommet mondial sur la sécurité de l'IA :
28 nations and the European Union commits signatories to AI that is designed, developed, deployed and used safely and responsibly.
GOV.UK, Signed statement
- Une évaluation préalable au déploiement, proportionnée au risque, des capacités dangereuses avant une diffusion sans restriction.
- Un signalement des incidents permettant aux régulateurs et aux développeurs de tirer les leçons des défaillances graves et des incidents évités de justesse.
- Des règles de responsabilité qui tiennent compte du contrôle, de la connaissance, de la causalité et de la capacité à prévenir le préjudice.
Ce qu'un technologue peut faire à titre individuel
Les lecteurs peuvent influencer la politique en tant qu'électeurs, travailleurs, chercheurs, clients, investisseurs et membres d'organisations civiques. Parmi les options concrètes : contribuer à la recherche en interprétabilité et en alignement, ou la financer ; promouvoir des pratiques de sécurité au sein de votre propre organisation si vous déployez des systèmes d'IA en production ; soutenir l'infrastructure de signalement et d'évaluation décrite ci-dessus plutôt que de la considérer comme une contrainte réglementaire ; et vérifier la source et les preuves derrière des affirmations persuasives plutôt que de présumer soit une manipulation automatisée, soit un consensus authentique.
Recherche Politique Organisationnel
Dans ce chapitre
Supervision évolutive : superviser des systèmes plus capables Les approches techniques testées pour permettre à des superviseurs humains de contrôler des systèmes d'IA plus capables qu'eux, via le débat entre IA.
Sources vérifiées 7 min
Gouvernance du calcul : puces, centres de données et seuils Comment les contrôles à l'exportation de puces, la notification des centres de données et les seuils de calcul peuvent encadrer l'IA avancée, et leurs limites.
Sources vérifiées 7 min
Traités et sommets internationaux : où en est la gouvernance Un état des lieux clair de la déclaration de Bletchley, des sommets sur la sécurité de l'IA qui ont suivi, et de l'avancée réelle vers un traité ratifié.
Sources vérifiées 7 min
Corrigibilité : des systèmes qui acceptent la correction Pourquoi « il suffit d'installer un interrupteur d'arrêt » est plus difficile qu'il n'y paraît, et ce que cherche à résoudre la recherche en corrigibilité.
Sources vérifiées 7 min
La protection des lanceurs d'alerte dans les laboratoires d'IA Comment les droits des lanceurs d'alerte et les règles anti-représailles aident les employés de laboratoires d'IA à révéler des failles de sécurité.
Sources vérifiées 7 min
Le débat sur l'IA open source : outil de sécurité ou risque Les arguments de sécurité, de recherche, de concurrence et d'usage abusif pour et contre la publication de poids de modèles d'IA, dont un jailbreak à 200 dollars.
Sources vérifiées 7 min
Le droit de l'IA et son application en 2026 Quelles règles d'IA sont contraignantes en septembre 2026 dans l'UE, aux États-Unis et à l'international, ce qui reste volontaire et où l'application s'exerce.
Sources vérifiées 8 min
Évaluations de pointe, dossiers de sécurité et signalement d'incidents Comment tests de capacité, garde-fous, dossiers de sécurité et signalement d'incidents transforment les promesses de l'IA de pointe en preuves vérifiables.
Sources vérifiées 8 min
Les cadres de sécurité des laboratoires d'IA de pointe, comparés Six cadres de sécurité de laboratoires comparés : seuils, garde-fous, ce qui se passe en cas de dépassement, confrontés à des audits indépendants de la pratique.
Sources vérifiées 16 min
La régulation de l'IA, pays par pays : où en sont vraiment les règles Panorama de septembre 2026, pays par pays : règlement européen retardé, patchwork des États américains, absence de loi au Royaume-Uni, étiquetage chinois.
Sources vérifiées 9 min