« Vrai ou faux ? » est souvent la mauvaise première question
Une photographie authentique peut porter une légende fausse. Un diagramme généré par IA peut expliquer un résultat scientifique véridique. Un enregistrement authentique peut être découpé pour inverser son sens. Une voix fabriquée peut répéter des faits exacts. La littératie médiatique commence par séparer au moins trois questions : D’où vient ce fichier ? Que lui est-il arrivé ? L’affirmation qu’il soutient découle-t-elle des preuves ?
Aucun détecteur ni justificatif ne répond aux trois. La provenance du contenu peut apporter des preuves sur l’origine et l’édition. La détection peut estimer si un processus de génération connu a été impliqué. Le journalisme et la corroboration évaluent l’affirmation sous-jacente. Traiter l’une de ces couches comme une machine à vérité crée de nouvelles vulnérabilités.
Ce que contiennent les Content Credentials de C2PA
La Coalition for Content Provenance and Authenticity publie une norme technique ouverte pour attacher des assertions signées cryptographiquement aux médias numériques. Un manifeste peut identifier l’outil ou l’appareil signataire, les actions d’édition, les ingrédients utilisés pour créer un fichier, et d’autres informations sélectionnées par celui qui met en œuvre la norme. Des empreintes cryptographiques lient le justificatif au contenu, de sorte que les modifications non autorisées puissent être détectées.
Cela transforme la question « cela paraît-il synthétique ? » en « quel signataire a fait quelles affirmations sur ce fichier, et l’enregistrement signé est-il resté intact ? » La Content Authenticity Initiative décrit les justificatifs comme une étiquette nutritionnelle plutôt qu’un verdict (aperçu de la CAI).
Un vérificateur doit tout de même décider s’il fait confiance au signataire et à la chaîne de certificats. Une signature valide montre que le détenteur d’une clé privée a signé les assertions ; elle ne prouve pas que l’appareil n’était pas compromis, que l’opérateur était honnête, ou que l’événement représenté était spontané.
La provenance ne prouve pas la vérité
L’explicatif du C2PA est explicite : la provenance peut soutenir des jugements sur l’origine et l’historique, mais ne peut pas à elle seule déterminer si un contenu est vrai, exact, ou factuel. Il indique aussi que la provenance peut être incomplète et que les métadonnées peuvent être supprimées (explicatif C2PA).
Cela crée plusieurs limitations pratiques :
- une scène mise en scène peut être capturée par un appareil photo authentique ;
- une édition honnête peut manquer d’une provenance compatible ;
- un signataire malveillant ou compromis peut faire des assertions trompeuses ;
- les captures d’écran et le traitement des plateformes peuvent retirer les métadonnées ;
- un appareil ancien ou bon marché peut ne jamais créer de justificatifs ;
- les liens durables de tatouage numérique ou d’empreinte peuvent échouer ou créer de fausses correspondances ;
- l’information d’identité peut mettre en danger des journalistes, des militants, ou des survivants d’abus.
L’absence de justificatifs est donc une provenance inconnue, pas une preuve de fabrication. La présence est un signal positif dont le sens dépend du signataire, des assertions, et du contexte.
Les justificatifs durables et leurs arbitrages
Le C2PA prend en charge les « liaisons dures » (hard bindings), comme les empreintes cryptographiques, et les « liaisons souples » (soft bindings), comme les tatouages numériques ou les empreintes qui peuvent aider à redécouvrir un justificatif après le retrait des métadonnées. La durabilité améliore la persistance mais ne rend pas la suppression impossible. Le recadrage, la compression, le réenregistrement, l’édition adversariale, ou des plateformes non compatibles peuvent rompre le lien.
Les justificatifs hébergés dans le cloud soulèvent des questions de disponibilité, de gouvernance, et de vie privée. Les listes de confiance déterminent quelles autorités de certification les validateurs reconnaissent. Les clés compromises nécessitent une révocation et un moyen de distinguer le contenu signé avant et après la compromission. Ceux qui mettent en œuvre la norme devraient documenter la conservation, la recherche, la correction, et l’appel.
La provenance devrait être optionnelle ou préserver la vie privée là où l’identité crée un danger. La norme n’exige pas intrinsèquement l’identité personnelle du créateur. Les produits devraient éviter de suggérer le contraire.
Tatouages numériques et étiquettes
Un tatouage numérique intègre un signal dans le contenu. Il peut être visible ou caché, et peut identifier un générateur ou une origine synthétique. Des tatouages robustes peuvent survivre à certaines transformations ordinaires, mais des acteurs déterminés peuvent les retirer ou les contourner, surtout lorsqu’ils contrôlent un pipeline de génération ouvert.
Les étiquettes peuvent aider les utilisateurs à comprendre le contexte, mais leur formulation et leur affichage comptent. « Généré par IA » peut être trop large pour une photo légèrement retouchée et trop étroit pour une image authentique accompagnée d’une narration synthétique. Les étiquettes peuvent aussi créer un « dividende du menteur », encourageant les gens à écarter des preuves authentiques non étiquetées.
Le rapport du NIST sur le contenu synthétique passe en revue la provenance, le tatouage numérique, l’étiquetage, et la détection, et décrit les incertitudes sur la robustesse et la réduction du préjudice (NIST AI 100-4). Les politiques devraient exiger des tests dans le pipeline réel de la plateforme et publier les résultats de faux positifs, de faux négatifs, et de suppression.
La détection est un tri, pas un jugement
Les détecteurs déduisent si un texte, un audio, une image, ou une vidéo ressemble aux sorties de générateurs connus. Ils peuvent aider un analyste formé, prioriser la révision, ou identifier une famille de modèles. Ils peuvent échouer après compression, traduction, édition, ou la sortie d’un nouveau générateur. Un adversaire peut sonder un détecteur public et s’adapter.
Une fausse accusation est un préjudice grave. Un élève, un travailleur, un journaliste, ou un demandeur d’asile ne devrait pas perdre une opportunité parce qu’un détecteur a renvoyé une probabilité. Les décisions à enjeux élevés ont besoin de preuves corroborantes, d’une explication des limites, d’une révision humaine, et d’un appel. Les institutions devraient préserver le fichier original et la version de l’outil afin que les constats puissent être reproduits.
La détection et la provenance peuvent se compléter. Un justificatif valide peut établir un flux de travail connu ; un détecteur peut signaler une incohérence inexpliquée ; un reportage de source peut la résoudre. La convergence augmente la confiance mais ne prouve tout de même pas l’affirmation représentée.
Un flux de vérification pratique
Lorsqu’un élément important apparaît :
- Faites une pause avant de partager. L’urgence et l’intensité émotionnelle sont des raisons de vérifier, pas des preuves de fausseté.
- Trouvez la source disponible la plus ancienne. Les captures d’écran et les republications suppriment le contexte.
- Examinez les justificatifs s’ils sont présents. Identifiez le signataire, l’outil de création, les modifications, le statut de validation, et l’historique manquant.
- Vérifiez l’affirmation séparément. Le média montre-t-il vraiment ce que dit la légende ?
- Cherchez une corroboration indépendante. Recherchez des témoins ou des documents différents, pas plusieurs sites répétant une seule publication.
- Vérifiez le moment et le lieu. La recherche inversée d’image, les points de repère, la météo, les ombres, et l’historique de publication peuvent révéler un contenu recyclé.
- Vérifiez l’identité par un canal séparé. Pour les demandes urgentes d’argent ou de sécurité, utilisez un numéro connu ou un canal en personne.
- Préservez les preuves. Enregistrez l’URL originale, le fichier, l’horodatage, et les messages avant de signaler.
Pour un contenu ordinaire à faible enjeu, chaque élément n’a pas besoin d’une enquête judiciaire. L’effort devrait correspondre à la conséquence d’une erreur.
Enseigner la littératie médiatique sans enseigner le cynisme
L’objectif est une confiance calibrée. « Ne croyez rien en ligne » laisse les gens vulnérables face à quiconque leur paraît familier. Un meilleur enseignement explique comment le savoir est produit : les preuves primaires, la révision éditoriale, la correction, l’expertise, les conflits, et l’incertitude.
Les ressources de littératie médiatique et informationnelle de l’UNESCO insistent sur un engagement critique avec l’information et les systèmes numériques, y compris l’IA générative (littératie médiatique et informationnelle de l’UNESCO). Un programme pluraliste devrait utiliser des exemples issus de différentes perspectives politiques et culturelles, distinguer la désinformation du désaccord, et permettre aux élèves de contester des institutions de confiance avec des preuves.
Les exercices peuvent comparer un document original avec son commentaire, examiner un justificatif réel, retracer une image recyclée, et évaluer les erreurs d’un détecteur. Apprenez aux élèves à réviser une conclusion lorsque de nouvelles preuves arrivent.
Ce que les éditeurs et les plateformes devraient faire
Capturez la provenance à la source lorsque c’est sûr, préservez-la à travers l’édition, et affichez-la de façon accessible. Conservez les fichiers originaux et l’historique des corrections. Expliquez ce qu’un justificatif établit et ce qu’il n’établit pas. Ne rétrogradez pas automatiquement tout contenu sans justificatif.
Les plateformes devraient préserver des métadonnées interopérables, divulguer quand le traitement les retire, soutenir la révocation, et offrir aux chercheurs un accès préservant la vie privée pour étudier l’efficacité. Les rédactions et les agences publiques ont besoin de canaux authentifiés et de plans d’incident pour les comptes ou clés de signature compromis.
Les développeurs de modèles peuvent appliquer la provenance aux médias générés, mais les acteurs malveillants peuvent utiliser des outils qui ne le font pas. L’adoption réduit l’ambiguïté parmi les participants coopérants ; elle n’élimine pas le contenu synthétique adversarial.
La conclusion pratique
La provenance du contenu est une infrastructure précieuse pour établir l’origine déclarée et l’historique d’un fichier. Elle ne peut pas prouver la vérité, ne peut pas garantir un historique complet, et peut être retirée. La détection peut soutenir une enquête mais est trop fragile pour des jugements à enjeux élevés non corroborés. La littératie médiatique fournit le raisonnement qui manque aux deux technologies.
L’approche la plus solide combine un historique signé, une détection prudente, une corroboration indépendante, des canaux authentifiés, des corrections transparentes, et un appel. Le résultat devrait être davantage de preuves et une confiance mieux calibrée — pas un nouveau badge qui demande au public de déléguer son jugement.