05 Réponse
Options de réponse, par ordre de levier d'action
Ce chapitre couvre des mesures civiques, institutionnelles et infrastructurelles légales qui peuvent réduire le risque. Leur efficacité et leurs compromis varient ; aucune n'est un point de contrôle universel.
Le levier de la couche infrastructure
- Contrôles du calcul et du déploiement. L'entraînement des modèles de pointe dépend de chaînes d'approvisionnement concentrées en puces, en cloud et en énergie, tandis que les poids copiés et l'inférence distribuée sont plus difficiles à contrôler. La politique publique doit distinguer ces étapes.
- Déploiement réversible. Les organisations devraient tester la révocation de privilèges, la rotation des identifiants, l'isolement réseau, le retour en arrière, le retrait de modèles et l'escalade vers une supervision humaine, plutôt que de s'appuyer sur un « interrupteur d'arrêt » défini de façon vague.
- Modes de fonctionnement dégradés. Lorsque la sécurité et l'ingénierie le permettent, les services essentiels d'énergie, d'eau, de communications et de paiement devraient tester leur capacité à continuer de fonctionner lorsqu'un composant ou un fournisseur d'IA est indisponible.
Le levier institutionnel et juridique
Une pression organisée et fondée sur des preuves, exercée sur les fournisseurs concentrés de modèles, de cloud et de calcul, peut avoir plus de poids qu'un choix isolé de consommateur. La défense actionnariale, les exigences d'achat des grands clients, le signalement réglementaire coordonné et l'exposition à la responsabilité juridique peuvent façonner le comportement organisationnel.
- Soutenez les protections des lanceurs d'alerte pour les employés et les prestataires au sein des laboratoires d'IA. Les initiés peuvent détecter des problèmes graves de façon précoce et ont besoin de canaux externes confidentiels et d'une protection contre les représailles.
- Soutenez un examen fondé sur des preuves de la concurrence et de la concentration. Davantage de fournisseurs indépendants peuvent réduire la dépendance et le pouvoir privé, même si une concurrence plus rapide peut aussi aggraver la pression à déployer avant que les risques ne soient compris.
La défense de la couche informationnelle
L'IA peut rendre le contenu persuasif moins coûteux et plus personnalisé, bien que ses effets à l'échelle de la population restent incertains. Contre-mesures concrètes : un scepticisme par défaut envers tout contenu optimisé émotionnellement dont vous ne pouvez pas vérifier la source ; le soutien à des normes de provenance — telles que C2PA Content Credentials et la signature cryptographique — capables de documenter une partie de l'origine et de l'historique d'édition d'un fichier ; et le traitement de tout signal d'opinion majoritaire allégué comme non vérifié tant qu'il n'est pas confirmé de façon indépendante. La provenance peut être supprimée et ne prouve pas qu'une affirmation est vraie.