Le problème a deux directions
Les systèmes génératifs réduisent le temps et le savoir-faire nécessaires pour créer du texte, des images, de l’audio et de la vidéo convaincants. Des médias faux peuvent être acceptés comme réels. Dans le même temps, une preuve authentique peut être écartée comme synthétique — le « dividende du menteur ». Ce second effet n’exige pas un deepfake parfait ; il exige seulement une conscience publique suffisante de la fabrication pour rendre le déni plausible.
Il s’agit d’un problème présent de l’IA générative, non d’une preuve que l’AGI existe. Les préjudices actuels incluent les escroqueries par usurpation d’identité, les images intimes non consenties, le contenu politique fabriqué, les preuves falsifiées, et une inondation de contenu bon marché. Pour la séquence de rétablissement domestique après la réussite d’une escroquerie par usurpation, voir Que faire après une arnaque assistée par IA. La persuasion individualisée à l’échelle de l’AGI est une projection qui dépend de la capacité future, de l’accès aux données personnelles, du déploiement, et de la susceptibilité humaine.
Ce qui est documenté, et ce qui ne l’est pas
Le clonage vocal et la synthèse de visages ont été utilisés dans la fraude et le harcèlement. Des acteurs politiques ont diffusé ou amplifié des médias synthétiques. Pourtant, des exemples viraux ne révèlent ni la prévalence ni l’effet électoral net. Les gens partagent du contenu faux pour des raisons sociales et partisanes, et le montage conventionnel, les légendes trompeuses, et des images authentiques présentées hors contexte demeurent puissants. Une attention étroite portée aux deepfakes spectaculaires peut faire manquer le problème plus courant de la tromperie ordinaire accélérée par l’automatisation.
Les affirmations sur la détection exigent aussi de la prudence. Un détecteur estime si des artefacts ressemblent au matériel de ses données d’entraînement. Sa performance peut chuter après compression, recadrage, traduction, mises à jour de modèle, ou évasion délibérée. Les faux positifs peuvent nuire aux journalistes, aux artistes, et aux personnes qui documentent des abus. L’absence de signal du détecteur ne prouve pas l’authenticité ; un signal positif devrait ouvrir une enquête plutôt que la clore.
La provenance est utile — mais elle ne certifie pas la vérité
La norme de la Coalition for Content Provenance and Authenticity (C2PA) permet à des outils compatibles d’attacher des informations vérifiables cryptographiquement sur l’origine et l’historique d’édition d’un fichier. Un justificatif valide peut montrer qu’un appareil ou une organisation reconnus ont signé des assertions particulières, et que les données signées n’ont pas été altérées sans que cela se remarque. Il peut soutenir une chaîne de possession.
Le C2PA lui-même précise que la provenance seule ne peut pas établir qu’un contenu est vrai, exact, ou factuel. Un appareil photo muni d’un justificatif peut enregistrer un événement mis en scène ; un éditeur autorisé peut publier un recadrage trompeur ; une organisation de confiance peut commettre une erreur. Le soutien à l’identité dépend aussi du justificatif et du système de confiance utilisés (Explicatif C2PA, spécification 2.2).
Les justificatifs peuvent aussi être absents de médias authentiques. Les captures d’écran, le transcodage, les plateformes sociales et le retrait des métadonnées peuvent les faire disparaître. La propre documentation d’aide d’OpenAI note que les captures d’écran peuvent retirer les métadonnées C2PA (Centre d’aide OpenAI). Par conséquent :
- une provenance valide est une preuve positive sur l’historique, pas sur la vérité ;
- une provenance invalide montre une chaîne rompue ou altérée, pas nécessairement une scène falsifiée ;
- une provenance manquante n’est pas une preuve de fabrication.
La norme est façonnée par des entreprises de technologie et de médias qui bénéficient de son adoption. Sa documentation technique est une preuve primaire de son fonctionnement, pas une preuve indépendante de son efficacité à travers tout l’écosystème informationnel.
Le droit de la divulgation devient réel
Dans l’Union européenne, les obligations de transparence de l’article 50 de l’AI Act ont commencé à s’appliquer le 2 août 2026. Les fournisseurs de certains systèmes doivent prendre en charge le marquage lisible par machine du contenu généré ou manipulé, et les déployeurs font face à des obligations de divulgation pour certains deepfakes définis et le texte d’intérêt public, sous réserve d’exceptions. L’application est répartie entre les autorités nationales et, dans des circonstances plus restreintes, l’Office de l’IA. La Commission européenne indique que les amendes pour les infractions concernées peuvent atteindre 15 millions d’euros ou 3 % du chiffre d’affaires annuel mondial, avec des règles de proportionnalité (Commission européenne, juillet 2026).
Aux États-Unis, la loi fédérale TAKE IT DOWN Act est entrée en vigueur en mai 2025, traitant des images intimes non consenties, y compris les contrefaçons numériques couvertes, et exigeant des plateformes couvertes qu’elles exploitent un processus de notification et de retrait. Ce n’est pas une loi générale d’authenticité des deepfakes et elle ne devrait pas être décrite comme telle. Les lois électorales, de protection des consommateurs, de droit à l’image, et les lois d’État peuvent aussi s’appliquer, avec des définitions et des juridictions différentes.
Les étiquettes aident les utilisateurs honnêtes et soutiennent l’application de la loi, mais les acteurs malveillants prêts à commettre une fraude ne s’auto-étiquetteront pas de façon fiable. La divulgation est une couche, pas la solution.
Un flux de vérification plus solide
La vérification à enjeux élevés devrait combiner des preuves indépendantes :
- Préserver l’original. Sauvegardez le fichier, l’URL, l’heure, et la publication environnante avant toute recompression ou suppression.
- Vérifier la provenance. Examinez les justificatifs valides et la chaîne de confiance du signataire, tout en traitant l’absence de façon neutre.
- Trouver la source la plus ancienne. Effectuez une recherche inversée des images clés et localisez le premier téléversement documenté.
- Corroborer de façon externe. Cherchez des enregistrements indépendants, des documents officiels, des témoins, la météo, la géographie, et des reportages contemporains.
- Contacter la source revendiquée par un canal séparé. N’utilisez pas les coordonnées contenues uniquement dans le message suspect.
- Évaluer le mobile et le moment. L’urgence, le secret, les demandes de paiement, et la pression émotionnelle sont des signaux de fraude indépendants de la qualité du média.
Pour un appel utilisant un clone vocal familial, raccrochez et appelez la personne ou un autre proche à un numéro connu. Une phrase de vérification familiale privée peut aider, mais traitez-la comme compromise si elle est prononcée ou tapée dans un canal exposé. Pour les demandes de paiement en entreprise, exigez l’approbation d’une seconde personne et une confirmation hors bande.
Journalisme, tribunaux et archives
Les rédactions ont besoin de chaînes allant de la capture à la publication, de pratiques de correction transparentes, et d’un moyen de conserver les originaux. Les tribunaux ont besoin de preuves authentifiées, d’un examen d’expert le cas échéant, et de prudence à la fois envers les pièces fabriquées et envers les affirmations opportunistes selon lesquelles une preuve réelle serait fausse. Les enquêteurs des droits humains doivent concilier la provenance avec la sécurité des sources ; révéler l’identité ou la localisation d’un photographe peut créer un danger.
Les archives font face à un défi de long terme : les formats, les certificats et l’infrastructure de vérification peuvent expirer. Préserver seulement une copie rendue par une plateforme peut détruire des preuves disponibles dans l’original. Une intégrité durable exige des fichiers originaux, des empreintes cryptographiques, des horodatages, des registres contextuels, et des plans de migration — pas seulement un badge dans une interface utilisateur.
Le risque pour le socle commun
L’intégrité de l’information n’est pas la même chose que l’accord. Les démocraties saines contiennent des conflits sur les valeurs et les interprétations. L’objectif est de préserver des méthodes fiables pour établir des faits de base : qui a dit quoi, quel document existait, comment une image a été produite, et quelles sources indépendantes la corroborent.
La saturation de médias synthétiques peut augmenter les coûts de vérification et récompenser les institutions établies qui peuvent se permettre l’authentification. Cela peut protéger la qualité, mais aussi concentrer le contrôle d’accès à l’information. Des normes ouvertes, des outils de vérification d’intérêt public, un journalisme local, et des méthodes transparentes peuvent réduire l’arbitrage entre authenticité et pluralisme.
Ce que des systèmes plus capables pourraient ajouter
Des agents plus capables pourraient générer de nombreux artefacts mutuellement cohérents, usurper des personnes à travers plusieurs canaux, localiser des récits, tester des messages, et s’adapter aux réactions d’un individu. Ce scénario est plausible mais n’est pas encore mesuré comme un effet général de l’AGI. Les défenses devraient authentifier les personnes et les processus, limiter le débit des campagnes suspectes, protéger les données personnelles, et préserver la révision humaine sans créer une surveillance universelle de l’identité.
La conclusion pratique est un scepticisme discipliné plutôt qu’une incrédulité universelle. Ne faites pas confiance à un média simplement parce qu’il paraît réel, et ne le rejetez pas simplement parce que la synthèse est possible. La provenance, la corroboration, l’historique des sources et les incitations créent ensemble un socle factuel plus solide que la détection automatisée ou l’intuition seules.