La persuasion n’est pas la même chose qu’un deepfake
Un deepfake fabrique un média qui semble documenter un événement. La persuasion par IA peut utiliser une conversation entièrement synthétique mais ouvertement générée : un argument, une recommandation, un échange avec un chatbot, ou un fil classé conçu pour changer une croyance ou un comportement. Le contenu peut être vrai, faux, ou mixte. La préoccupation distinctive tient à l’optimisation et à la distribution, pas à la fabrication seule.
Les modèles actuels peuvent générer du texte persuasif dans des études contrôlées. Les preuves réelles selon lesquelles des acteurs malveillants utiliseraient l’IA pour manipuler des populations entières à grande échelle restent limitées. Le Rapport international sur la sécurité de l’IA de 2026 défend les deux points et met en garde contre le fait de transformer une capacité expérimentale en une affirmation non étayée d’impact généralisé (résumé exécutif du rapport).
Ce que les premières études ont trouvé
Dans une expérience de débat préenregistrée, Salvi et ses collègues ont comparé des interlocuteurs humains et GPT-4 discutant de questions politiques. GPT-4, avec accès à des informations de base sur les participants, a produit des changements d’opinion plus importants que les adversaires humains ; sans personnalisation, l’avantage était plus faible (Salvi et al., Nature Human Behaviour). Ce résultat a démontré une capacité persuasive dans un débat textuel particulier. Il n’a pas mesuré une longue campagne, un comportement de vote, une résistance après une information ultérieure, ou des effets au niveau de la population.
Des chercheurs d’Anthropic ont testé des arguments générés par des modèles sur divers sujets politiques et ont trouvé que les modèles de tête pouvaient être comparativement aussi persuasifs que des arguments écrits par des humains dans leur configuration expérimentale. Ils ont aussi exploré des stratégies impliquant des affirmations factuelles et fabriquées (recherche sur la persuasion d’Anthropic). C’est une recherche d’entreprise utile, mais elle ne devrait pas être résumée comme la preuve que la fabrication est toujours la stratégie la plus persuasive. Le choix des sujets, les invites, les mesures de résultat et les participants façonnent les résultats.
Les grandes expériences de 2026 ont déplacé l’accent
L’AI Security Institute britannique et des collaborateurs universitaires ont mené trois expériences avec 76 977 participants, 19 modèles, et 707 questions politiques. Ils ont aussi vérifié des centaines de milliers d’affirmations générées. L’étude a trouvé que le post-entraînement et les invites produisaient des changements de persuasion plus importants que l’échelle du modèle ou la personnalisation. Les effets de personnalisation étaient systématiquement inférieurs à un point de pourcentage. Les méthodes qui augmentaient la persuasion réduisaient aussi systématiquement l’exactitude factuelle, bien que les auteurs aient précisé que cela ne prouve pas que les affirmations fausses soient elles-mêmes plus persuasives (étude de l’AISI).
Cette preuve complique le récit familier du microciblage. Les données personnelles peuvent compter dans d’autres contextes, en particulier lors d’interactions répétées, mais l’ajustement démographique de base n’était pas le levier dominant dans ces expériences. La densité de l’information, l’instruction rhétorique, et le post-entraînement spécialisé méritent au moins autant d’attention.
Cette découverte montre aussi pourquoi « l’IA est persuasive » est trop grossier. Les développeurs peuvent délibérément ajuster un modèle plus petit pour qu’il soit plus persuasif. Des objectifs de produit tels que l’engagement, la rétention, ou la conversion peuvent façonner le comportement même sans intention politique explicite. L’évaluation doit tester la version déployée et son objectif d’optimisation.
Des effets individuels à l’impact social
Un changement d’opinion moyen statistiquement détectable ne produit pas automatiquement une déstabilisation démocratique. Les environnements réels comprennent des messages concurrents, de la méfiance, des relations sociales, une couverture médiatique, et des occasions répétées de réviser son jugement. Les participants de laboratoire savent qu’ils sont dans une étude, et les attitudes mesurées peuvent ne pas persister ni changer le comportement.
L’échelle crée néanmoins une préoccupation plausible. Un modèle peut tenir de nombreuses conversations simultanées, répondre instantanément, tester des variantes, et fonctionner à faible coût marginal. Une organisation pourrait combiner du contenu généré avec le ciblage de plateformes et des comptes automatisés. Des systèmes conversationnels de long terme peuvent en apprendre davantage sur un utilisateur qu’une expérience d’une seule session ne le capture.
La distribution reste un goulot d’étranglement. Le modèle le plus persuasif a peu d’influence sans accès à l’attention. Les plateformes, les systèmes publicitaires, les moteurs de recommandation, les réseaux de messagerie et les interfaces de confiance déterminent la portée. Cela signifie que la gouvernance ne peut pas se concentrer uniquement sur les poids du modèle ; elle doit examiner la conception du produit et les campagnes coordonnées.
Vérité, confiance et santé épistémique
Le risque est plus large que de persuader quelqu’un d’une seule proposition fausse. Un environnement informationnel peut devenir moins digne de confiance quand le matériel généré est bon marché, que les sources ne sont pas claires, et que les systèmes optimisent pour l’accord. Les gens peuvent réagir en croyant des mensonges commodes — ou en rejetant des preuves authentiques comme synthétiques. Les deux issues affaiblissent la recherche collective des faits.
Une forte densité d’information pose un problème particulier. Une réponse fluide peut contenir de nombreuses affirmations vérifiables, dépassant la capacité d’une personne à les vérifier. Même si la plupart sont exactes, quelques erreurs stratégiques peuvent façonner la conclusion. Les interfaces de citation n’aident que lorsque les sources existent, appuient l’affirmation, et ne sont pas fabriquées.
L’IA peut aussi renforcer la santé épistémique. Elle peut traduire des preuves, exposer les utilisateurs à des contre-arguments, enseigner la littératie médiatique, et aider à vérifier de gros volumes de contenu. La même habileté persuasive peut soutenir la communication en santé ou la désescalade des conflits. L’intention, l’optimisation, la transparence, et le contrôle de l’utilisateur déterminent une grande partie du résultat.
Ce qui devrait être mesuré
Une évaluation responsable devrait rapporter le changement d’attitude immédiat, sa persistance, le comportement, l’exactitude factuelle, les différences entre sous-groupes, et les opinions préalables des participants. Elle devrait tester plusieurs langues et cultures, sans supposer qu’un seul pays se généralise mondialement. Les chercheurs devraient comparer le texte ponctuel avec la voix, les images, les relations longues, et la distribution agentique, tout en protégeant les participants.
La surveillance du monde réel a besoin de données de plateforme et de garde-fous de confidentialité. Les signaux utiles incluent le comportement coordonné inauthentique, les dépenses de campagne automatisées, la portée, et les résultats comportementaux vérifiés. Les chercheurs devraient éviter de publier des recettes opérationnelles de manipulation.
L’attribution reste difficile. Une campagne peut utiliser l’IA pour la traduction ou la rédaction sans gagner de pouvoir persuasif. « Généré par IA » décrit la production, pas l’effet causal. Les études devraient isoler la contribution marginale lorsque c’est possible.
Garde-fous pratiques
Les plateformes peuvent étiqueter les comptes automatisés, restreindre l’envoi massif de messages non sollicités, préserver l’accès des chercheurs, et enquêter sur le comportement coordonné. Les règles de publicité politique peuvent exiger la transparence sur le sponsor et le ciblage. La provenance peut aider à établir comment un média a été créé, bien que les métadonnées puissent être supprimées et ne prouvent pas la vérité.
Les développeurs de modèles peuvent évaluer ensemble la persuasion et la véracité, surveiller les abus, et éviter de récompenser l’accord à tout prix. Les produits devraient divulguer que les utilisateurs interagissent avec une IA, faciliter l’inspection des sources, et permettre de limiter ou de désactiver la personnalisation. Les domaines sensibles comme les élections, la santé, et la finance justifient des contrôles plus stricts.
L’éducation reste importante mais ne peut pas porter tout le fardeau. Les individus ne peuvent pas vérifier seuls un flux à l’échelle industrielle. Les institutions, les plateformes, les campagnes, les développeurs et les régulateurs contrôlent les structures qui créent la portée et les incitations.
La conclusion calibrée
La persuasion par IA est une capacité expérimentale observée. Les preuves actuelles ne montrent pas de manipulation réussie et généralisée à l’échelle d’une population, et une grande étude de 2026 a trouvé des effets de personnalisation de base plus faibles que ce qui était largement supposé. Elle a trouvé des effets plus importants provenant des invites et du post-entraînement axé sur la persuasion, accompagnés d’une exactitude factuelle réduite.
Le scénario catastrophique est donc conditionnel : des systèmes persuasifs, optimisés sans contraintes de vérité et reliés à une distribution de masse, pourraient dégrader le choix démocratique et le savoir partagé. Cette voie mérite surveillance et garde-fous. Elle ne devrait pas être rapportée comme si des changements d’opinion contrôlés avaient déjà démontré un contrôle à l’échelle civilisationnelle.