D’abord, des termes précis
« IA open source » désigne souvent des publications très différentes les unes des autres. Un développeur peut publier les poids d’un modèle tout en retenant les données d’entraînement, le code d’entraînement, les méthodes de traitement des données, les détails d’évaluation, ou de larges droits de modification et de redistribution. Les définitions du logiciel open source ne peuvent pas se transposer automatiquement à un modèle entraîné dont la provenance des données est opaque.
Cette page utilise donc l’expression poids ouverts lorsque les paramètres numériques nécessaires pour exécuter et modifier un modèle sont largement disponibles. Une publication peut avoir des poids ouverts sous une licence restrictive, ou fournir du code ouvert sans les poids. La documentation et la reproductibilité sont des dimensions distinctes.
La terminologie compte, car les bénéfices et les risques dépendent de ce qui est publié. Les chercheurs ne peuvent pas reproduire un entraînement à partir des seuls poids, mais ceux-ci peuvent tout de même permettre l’inférence locale, l’ajustement fin et une analyse interne qu’une API empêche.
L’argument en faveur d’un accès plus large
Les poids ouverts réduisent la dépendance envers un petit ensemble de fournisseurs hébergés. Les développeurs peuvent exécuter des modèles sur leur propre infrastructure, protéger des invites sensibles d’un service tiers, adapter les systèmes à des langues et des domaines locaux, et continuer à fonctionner si un fournisseur change de prix ou de politique. La concurrence peut réduire les coûts et diffuser la capacité technique.
Les chercheurs peuvent inspecter les activations, tester l’édition de modèles, reproduire des évaluations et examiner le biais ou la sécurité sans attendre l’approbation d’un fournisseur. La société civile et les universités peuvent scruter un modèle dont le développeur n’accorderait pas d’accès privilégié à l’API. Le déploiement local peut soutenir la vie privée et des usages à connectivité limitée.
L’ouverture peut aussi préserver le savoir. Un service fermé peut disparaître ; une publication de poids peut être archivée et étudiée. Des communautés peuvent construire des fonctionnalités d’accessibilité et de langue qui ne sont pas rentables pour un grand fournisseur.
Ces bénéfices ne sont pas automatiques. Faire tourner un grand modèle exige toujours du matériel et de l’expertise. La « démocratisation » peut en réalité désigner un accès pour des entreprises bien financées plutôt que pour des personnes ordinaires. Un fournisseur à poids ouverts peut tirer un bénéfice commercial des contributions de l’écosystème, de la demande de cloud ou de la définition de standards. Ces incitations devraient être divulguées sans pour autant écarter les bénéfices publics.
L’argument en faveur d’un accès contrôlé
Une fois les poids largement dupliqués, ils ne peuvent plus être rappelés de manière fiable. Les utilisateurs peuvent retirer l’entraînement au refus, ajuster finement le modèle à des fins abusives, dissimuler leur activité d’un moniteur central et déployer de nombreuses copies. Ce n’est pas hypothétique, c’est démontré : des chercheurs ont défait l’entraînement de sécurité de Llama 2-Chat 70B pour moins de 200 dollars sur un seul GPU, à l’aide d’une technique d’ajustement fin légère (Lermen et al., 2023). Un fournisseur hébergé peut limiter le débit, surveiller les motifs, corriger le comportement et fermer des comptes ; l’exploitation locale supprime une grande partie de ce contrôle.
Le risque marginal dépend de ce que le modèle ajoute au-delà des outils existants, des API fermées, du savoir expert et des modèles ouverts antérieurs. Si une capacité est déjà disponible à bas coût ailleurs, restreindre les poids peut apporter peu de sécurité supplémentaire. Si les poids permettent une exploitation cybernétique, une assistance biologique, une fraude ou une opération autonome nettement plus efficaces, une publication irréversible peut avoir une importance considérable.
La question pertinente n’est pas de savoir si une information peut un jour être utilisée de façon abusive, mais si cette publication change la capacité, l’échelle, le coût, l’attribution ou l’accès pour des acteurs susceptibles de causer un préjudice.
Ce qu’a conclu l’examen des preuves aux États-Unis
La National Telecommunications and Information Administration a examiné 332 commentaires publics et les preuves disponibles en 2024. Elle a conclu que les preuves disponibles à l’époque étaient insuffisantes pour justifier une restriction catégorique immédiate sur la disponibilité la plus large des poids de modèles, tout en recommandant une surveillance active et une capacité gouvernementale à réagir si les risques venaient à changer (NTIA, juillet 2024).
Cette conclusion est datée et conditionnelle. Elle ne prouve pas que les futures publications de pointe seront sûres, ni que des restrictions ne pourront jamais se justifier. La NTIA est une agence gouvernementale qui équilibre innovation, concurrence et sécurité ; de nombreuses contributions provenaient d’entreprises et de défenseurs intéressés. Son rapport est une synthèse politique solide, pas une expérience démontrant un effet social net.
L’approche différenciée de l’Union européenne
Le règlement européen sur l’IA accorde certaines exemptions d’obligations documentaires spécifiées aux modèles à usage général libres et open source qui remplissent les conditions, mais pas une exemption générale. Les fournisseurs de modèles à usage général présentant un risque systémique restent soumis à des obligations supplémentaires. Le fait qu’une publication remplisse ou non les conditions dépend de critères juridiques, y compris l’accès et la divulgation — pas du langage marketing (orientations de la Commission européenne sur l’IA à usage général, 2025).
Cela illustre une gouvernance échelonnée par capacité : encourager l’ouverture là où les risques marginaux sont gérables, tout en conservant des obligations pour les modèles à risque systémique. L’application se heurte toujours à la difficulté d’évaluer la capacité avant une publication irréversible.
Des alternatives au choix binaire
L’accès peut être échelonné. Un développeur pourrait commencer par des évaluations internes et indépendantes, puis offrir un accès de recherche contrôlé, un service hébergé, des poids à des institutions vérifiées sous conditions de sécurité, et enfin une publication publique si les preuves le justifient. Ces délais peuvent permettre aux défenseurs de corriger des vulnérabilités et aux régulateurs de se préparer.
L’accès structuré peut préserver une partie du bénéfice de recherche tout en limitant la prolifération, mais il crée des gardiens qui peuvent exclure des critiques ou des concurrents. Des critères de sélection, des règles de conflit d’intérêts, un droit d’appel, des droits de publication et une supervision sont nécessaires. Un programme de « chercheur de confiance » contrôlé uniquement par le développeur du modèle n’est pas une transparence indépendante.
D’autres options incluent la publication de modèles plus petits ou distillés, la publication de code et d’évaluations détaillées sans les poids de pointe, la mise à disposition d’enclaves sécurisées pour l’analyse, ou l’usage de licences interdisant certaines conduites. Les licences influencent les utilisateurs légitimes mais constituent des barrières techniques faibles face aux acteurs malveillants.
Comment prendre une décision de publication
Une évaluation sérieuse de publication devrait comparer :
- les capacités dangereuses par rapport aux alternatives ouvertes et fermées existantes ;
- le calcul et l’expertise nécessaires pour retirer les garde-fous ou ajuster finement le modèle ;
- les bénéfices qui exigent spécifiquement les poids plutôt qu’un simple accès par API ;
- la sécurité des poids non encore publiés et le risque de vol ;
- la capacité à surveiller l’usage abusif après la publication ;
- les groupes concernés, y compris les chercheurs hors des États riches ;
- la réversibilité et les options d’accès échelonné ;
- la documentation du modèle, les droits de licence et la provenance des données.
Les évaluations devraient couvrir l’assistance cybernétique, chimique et biologique, la persuasion, la réplication autonome, la vie privée, et la discrimination ou la fraude ordinaires le cas échéant. Un seuil de test de référence ne suffit pas s’il ne parvient pas à représenter les flux de travail réels.
La sécurité par l’obscurité n’est pas le seul enjeu
Les critiques des systèmes fermés notent que retenir les poids peut dissimuler des vulnérabilités et concentrer la confiance. Les critiques de l’ouverture notent que publier une capacité pertinente pour des armes n’équivaut pas à divulguer de façon responsable un simple bogue logiciel. Ces deux observations peuvent être vraies en même temps.
La divulgation responsable donne généralement aux défenseurs concernés le temps d’agir. Pour certains modèles, un examen large peut produire plus de défense que de préjudice ; pour d’autres, un accès généralisé peut créer un danger irréversible avant que des mesures d’atténuation n’existent. Les preuves relatives au risque marginal et à l’état de préparation des réponses devraient déterminer la séquence à suivre.
L’AGI change les enjeux, pas le besoin de preuves
Aucun modèle ouvert n’a été établi comme constituant une AGI selon un test consensuel. Les affirmations sur la publication de poids d’AGI relèvent de l’analyse de scénarios. Si un modèle pouvait mener de manière autonome une recherche de haut niveau, exploiter des systèmes, acquérir des ressources ou améliorer ses successeurs, le copier pourrait réduire fortement le confinement. À l’inverse, placer une telle capacité sous contrôle exclusif d’une entreprise ou d’un État pourrait créer de profonds risques de concentration et d’abus.
C’est pourquoi les slogans échouent. « L’ouvert est toujours plus sûr » ignore l’irréversibilité ; « le fermé est toujours plus sûr » ignore la concentration, le vol et l’absence d’examen. La politique future devrait définir des conditions de capacité et d’accès, pas réguler une catégorie de marque.
Une position équilibrée
Pour les modèles actuels à moindre risque, l’ouverture peut apporter des bénéfices substantiels en matière de concurrence, de recherche, de résilience, de vie privée et d’inclusion. Pour les modèles de plus en plus capables, la publication échelonnée et l’évaluation fondée sur des preuves deviennent plus importantes. Les restrictions devraient démontrer un risque marginal précis, offrir une procédure régulière, et être réexaminées ; les décisions de publication devraient démontrer pourquoi un accès irréversible est justifié.
Le débat n’est pas un choix entre liberté et sécurité. C’est un problème de conception qui implique la capacité, l’accès, la concentration, la redevabilité et la réversibilité. Une terminologie précise et des preuves transparentes rendent ce problème gouvernable.