Commencer par la fonction, pas par l’étiquette
Une arme autonome se comprend généralement comme un système qui, une fois activé, peut sélectionner et engager des cibles sans qu’un humain n’approuve chaque frappe individuelle. Les définitions restent disputées car l’autonomie n’est pas un interrupteur unique. Les humains peuvent choisir la zone de mission et la classe de cible pendant que le logiciel navigue, identifie un objet, recommande une action, ou décide du moment exact de tirer.
Ce spectre inclut des systèmes anciens tels que les intercepteurs défensifs, ainsi que des munitions rôdeuses plus récentes, des essaims de drones, des outils de désignation de cibles assistés par IA, et des robots terrestres armés — les plateformes à roues, à chenilles et à pattes recensées dans la page de ce manuel sur les robots militaires humanoïdes et terrestres. Le risque dépend de l’environnement, de la cible, de la pression temporelle, de la prévisibilité, des communications et des conséquences d’une erreur. Un système étroitement borné qui intercepte des munitions entrantes est différent d’un système qui recherche des personnes dans une ville.
L’aide à la décision assistée par IA mérite également un examen attentif, même quand un humain appuie formellement sur la détente. Si un opérateur reçoit des centaines de cibles générées par une machine sous une pression temporelle sévère, l’approbation peut devenir une simple formalité. « Humain dans la boucle » ne dit pas grand-chose à moins que la personne dispose de l’information, de l’autorité, du temps et de la formation nécessaires pour contester le système.
Ce qui est documenté — et ce qui reste disputé
Un rapport de 2021 du Groupe d’experts des Nations unies sur la Libye a décrit des munitions rôdeuses Kargu-2 et d’autres systèmes utilisés contre des forces en repli, notant que ces systèmes étaient programmés pour attaquer des cibles sans nécessiter de connectivité de données entre l’opérateur et la munition (rapport de l’ONU sur la Libye, paragraphe 63). Ce passage est souvent qualifié de première attaque de drone autonome contre des humains. Toutefois, le rapport public n’établit pas de façon concluante qu’un Kargu-2 ait sélectionné et tué une personne de manière indépendante. Les experts contestent le mode opératoire et le résultat. C’est une preuve de déploiement dans un contexte pertinent, pas la preuve d’une mise à mort autonome confirmée.
Des conflits plus récents ont présenté un usage étendu de drones, de vision par ordinateur, de traitement automatisé du renseignement, et de recommandations de cibles assistées par IA. Les rapports publics manquent souvent d’un accès technique suffisant pour déterminer quel modèle a rempli quelle fonction, ou combien de contrôle les opérateurs ont conservé. Les affirmations militaires, les descriptions des fournisseurs et les récits de presse devraient être étiquetés comme tels plutôt que fondus en une seule certitude.
La direction du développement est néanmoins claire : les forces armées investissent dans des systèmes capables d’opérer quand les communications sont brouillées, de traiter rapidement les données de capteurs, et de coordonner de nombreuses plateformes bon marché. Une autonomie plus grande peut être tactiquement attrayante car une liaison de télécommande continue est vulnérable. Que cela produise une précision plus sûre ou une violence plus rapide et moins redevable dépend de la conception et de la doctrine.
Trois voies d’escalade distinctes
L’escalade de vitesse survient quand une alerte, une désignation de cibles ou une réponse automatisées compriment le temps de décision. En crise, des dirigeants peuvent craindre qu’attendre laisse à un système adverse à vitesse de machine un avantage, ce qui crée une pression pour préautoriser des actions. Une lecture de capteur fausse, une erreur de modèle ou une manœuvre ambiguë pourraient se propager avant que les gens ne les comprennent.
L’escalade d’échelle survient quand l’autonomie rend moins coûteuse la coordination de nombreux systèmes ou la génération de cibles. Une organisation humaine capable d’examiner soigneusement des dizaines de décisions peut ne pas être en mesure d’examiner de façon significative des milliers de décisions. Un volume plus important peut augmenter les rencontres accidentelles, le préjudice civil et les demandes de représailles, même si chaque système est individuellement plus précis.
L’escalade de perception survient quand des États interprètent mal le système, la doctrine ou le niveau de contrôle d’un adversaire. Le secret rend difficile de savoir si une arme est défensive, si une action était intentionnelle, ou si un humain peut l’arrêter. Une recommandation générée par IA peut paraître objective pour un camp et agressive pour l’autre.
Ce sont des mécanismes plausibles, pas des preuves que l’IA déclenchera inévitablement une guerre. L’automatisation peut aussi améliorer l’alerte, réduire la surcharge de l’opérateur, intercepter des menaces, et soutenir la désescalade. Le résultat dépend des tests, des communications, de la doctrine et des contraintes partagées.
Les systèmes nucléaires méritent une barre plus haute
Connecter l’IA au commandement, au contrôle, aux communications ou à l’alerte avancée nucléaires soulève des enjeux exceptionnels. L’apprentissage automatique pourrait aider à analyser de vastes flux de capteurs, mais des erreurs opaques, une manipulation adverse et un changement de distribution sont dangereux là où une fausse confiance peut être catastrophique. Le risque n’est pas nécessairement une IA « lançant des armes nucléaires » de façon indépendante. Il inclut le fait que des dirigeants reçoivent, en quelques minutes, des conseils comprimés et mal calibrés.
Maintenir la responsabilité humaine sur les décisions d’usage nucléaire est donc plus qu’un symbole. Les systèmes devraient fournir de l’incertitude et de la provenance, préserver des canaux indépendants, résister à l’usurpation, et laisser aux dirigeants le temps de vérifier. Aucun résultat isolé de modèle ne devrait devenir un indicateur décisif. Les exercices devraient inclure la défaillance de l’IA et la manipulation délibérée, pas seulement la panne d’équipement.
La redevabilité ne peut pas s’arrêter à l’algorithme
Le droit international humanitaire s’applique quelle que soit la technologie utilisée. La distinction, la proportionnalité et les précautions dans l’attaque demeurent des obligations humaines et étatiques. Pourtant, l’autonomie complique l’enquête : un résultat dommageable peut impliquer des données d’entraînement, des limitations de capteurs, les paramètres fixés par un commandant, une mise à jour logicielle, ou un mauvais usage par l’opérateur.
Cette complexité n’excuse pas un vide de redevabilité. Les États peuvent exiger des journaux traçables, un examen juridique, des tests auditables, une responsabilité de commandement claire, et des limites sur les environnements où un système peut opérer. Les développeurs et les commandants devraient définir les modes de défaillance prévisibles et les conditions d’arrêt. Un système trop imprévisible pour être examiné ne devrait pas être déployé simplement parce que la responsabilité est distribuée.
Le biais et le contexte comptent également. Un système de vision testé sur des images propres peut échouer par mauvais temps, dans des décombres, sous camouflage, ou face à des populations inconnues. Des adversaires peuvent délibérément tromper les capteurs. Une précision moyennée sur un ensemble de tests ne répond pas à la question de savoir si le système est fiable pour une classe de cible et un environnement particuliers.
Le paysage politique international
Les États débattent des armes autonomes létales au sein de la Convention sur certaines armes classiques depuis des années sans s’accorder sur un instrument contraignant. Les États-Unis ont lancé en 2023 une Déclaration politique non contraignante sur l’usage militaire responsable de l’intelligence artificielle et de l’autonomie, engageant les signataires à des principes incluant une supervision de haut niveau, des tests rigoureux, et la capacité de désactiver des systèmes au comportement inattendu (déclaration du département d’État américain).
La déclaration peut construire des normes et une coopération pratique, mais l’adhésion n’est pas une application forcée. Les propositions de la société civile et des États vont de l’interdiction des systèmes qui ciblent des personnes sans contrôle humain significatif à la régulation de fonctions particulières et à l’imposition d’obligations positives. Le désaccord persiste sur les définitions, la vérification et l’avantage militaire.
Des mesures utiles à court terme n’ont pas besoin d’attendre un traité complet. Les États peuvent échanger des informations sur les incidents, interdire les décisions autonomes de lancement nucléaire, exiger des revues d’armes, fixer des normes de test, protéger le contrôle humain sur le ciblage de personnes, et établir des canaux de communication pour les accidents liés à l’IA.
Ce qu’exige un contrôle humain significatif
L’expression devrait être opérationnelle. Un humain a besoin d’un objectif compréhensible et d’une limite de cible ; d’une information fiable sur la confiance et les limitations du système ; d’assez de temps pour intervenir ; d’un mécanisme d’arrêt utilisable ; et d’une autorité légale pour refuser. Les interfaces devraient résister au biais d’automatisation plutôt que d’encourager une confirmation rapide. Après l’action, les registres doivent permettre l’enquête et le recours. La page complémentaire de ce manuel sur les robots terrestres, humanoïdes et les lois de la guerre examine comment cette exigence de contrôle humain est réellement mise en œuvre — ou non — dans les robots terrestres armés déjà en service.
Le contrôle commence aussi avant un engagement. Les dirigeants politiques décident des acquisitions et de la doctrine ; les commandants fixent les paramètres ; les ingénieurs choisissent les données et les tests. Se concentrer uniquement sur l’appui final de la détente néglige ces choix déterminants.
Une conclusion mesurée
L’autonomie dans les armes est déjà une réalité politique et de terrain, mais les preuves publiques sur des engagements particuliers sont souvent incomplètes. Le rapport sur le Kargu-2 ne devrait pas être gonflé jusqu’à devenir une mise à mort autonome prouvée, et la désignation de cibles supervisée ne devrait pas être présentée à tort comme une guerre pleinement indépendante.
La préoccupation catastrophique repose sur des voies crédibles : décisions plus rapides, coordination massive, examen humain fragile, et interaction avec des systèmes d’alerte stratégique. Aucune ne rend l’escalade inévitable. Une autorité humaine forte, une conception auditable, une responsabilité légale, des normes partagées, et des limites explicites autour des fonctions nucléaires et de ciblage de personnes peuvent réduire le risque pendant que les preuves continuent de se développer.