Comece pela função, não pelo rótulo
Uma arma autônoma é geralmente entendida como um sistema que, uma vez ativado, consegue selecionar e engajar alvos sem que um humano aprove cada ataque individual. As definições permanecem contestadas porque a autonomia não é um único interruptor. Humanos podem escolher a área da missão e a classe de alvo enquanto o software navega, identifica um objeto, recomenda uma ação, ou decide o momento exato de disparar.
Esse espectro inclui sistemas de longa data, como interceptores defensivos, além de munições vadias mais novas, enxames de drones, ferramentas de mira assistidas por IA, e robôs terrestres armados — as plataformas de rodas, esteiras, e pernas pesquisadas na página deste manual sobre robôs humanoides e terrestres militares. O risco depende do ambiente, do alvo, da pressão de tempo, da previsibilidade, das comunicações, e das consequências do erro. Um sistema estreitamente delimitado que intercepta munições recebidas é diferente de um que vasculha uma cidade em busca de pessoas.
A assistência de decisão baseada em IA também merece escrutínio mesmo quando um humano formalmente aperta o gatilho. Se um operador recebe centenas de alvos gerados por máquina sob severa pressão de tempo, a aprovação pode se tornar um carimbo automático. “Humano no ciclo” diz pouco, a menos que a pessoa tenha informação, autoridade, tempo, e treinamento para contestar o sistema.
O que está documentado — e o que continua contestado
Um relatório de 2021 do Painel de Especialistas das Nações Unidas sobre a Líbia descreveu munições vadias Kargu-2 e outros sistemas usados contra forças em retirada, observando que os sistemas foram programados para atacar alvos sem exigir conectividade de dados entre operador e munição (relatório da ONU sobre a Líbia, parágrafo 63). A passagem é frequentemente chamada de o primeiro ataque de drone autônomo contra humanos. No entanto, o relatório público não estabelece de forma conclusiva que um Kargu-2 selecionou e matou uma pessoa de forma independente. Especialistas discordam sobre o modo de operação e o resultado. É evidência de implantação em um contexto relevante, não prova de uma morte autônoma confirmada.
Conflitos mais recentes apresentaram uso extensivo de drones, visão computacional, processamento automatizado de inteligência, e recomendações de alvo apoiadas por IA. As reportagens públicas frequentemente carecem de acesso técnico suficiente para determinar qual modelo desempenhou qual função ou quanto controle os operadores retiveram. Alegações militares, descrições de fornecedores, e relatos de imprensa deveriam ser rotulados, em vez de fundidos em uma única certeza.
A direção do desenvolvimento é, no entanto, clara: as forças armadas estão investindo em sistemas que podem operar quando as comunicações são interferidas, processar dados de sensores rapidamente, e coordenar muitas plataformas baratas. Maior autonomia pode ser taticamente atraente porque um link contínuo de controle remoto é vulnerável. Se isso produz precisão mais segura ou violência mais rápida e menos responsabilizada depende do design e da doutrina.
Três caminhos diferentes de escalada
Escalada de velocidade ocorre quando o alerta, a mira, ou a resposta automatizados comprimem o tempo de decisão. Em uma crise, os líderes podem temer que esperar permita que o sistema de velocidade de máquina de um oponente ganhe vantagem. Isso pode criar pressão para pré-autorizar ações. Uma leitura falsa de sensor, um erro de modelo, ou uma manobra ambígua pode se propagar antes que as pessoas o entendam.
Escalada de escala ocorre quando a autonomia torna mais barato coordenar muitos sistemas ou gerar alvos. Uma organização humana que conseguiria revisar cuidadosamente dezenas de decisões pode não conseguir revisar de forma significativa milhares. Um volume maior pode aumentar encontros acidentais, dano civil, e demandas por retaliação, mesmo que cada sistema seja individualmente mais preciso.
Escalada de percepção ocorre quando estados interpretam mal o sistema, a doutrina, ou o nível de controle de um adversário. O sigilo torna difícil saber se uma arma é defensiva, se uma ação foi intencional, ou se um humano consegue detê-la. Uma recomendação gerada por IA pode parecer objetiva para um lado e agressiva para outro.
Esses são mecanismos plausíveis, não evidência de que a IA inevitavelmente iniciará uma guerra. A automação também pode melhorar o alerta, reduzir a sobrecarga do operador, interceptar ameaças, e apoiar a desescalada. O resultado depende de testes, comunicações, doutrina, e restrições compartilhadas.
Sistemas nucleares merecem uma barra mais alta
Conectar a IA ao comando, controle, comunicações, ou alerta antecipado nuclear levanta riscos excepcionais. O aprendizado de máquina poderia ajudar a analisar grandes fluxos de sensores, mas erros opacos, manipulação adversarial, e mudança de distribuição são perigosos onde a falsa confiança pode ser catastrófica. O risco não é necessariamente uma IA “lançando armas nucleares” de forma independente. Ele inclui líderes recebendo, em minutos, conselhos comprimidos e mal calibrados.
Manter a responsabilidade humana sobre as decisões de uso nuclear é, portanto, mais do que simbolismo. Os sistemas deveriam fornecer incerteza e proveniência, preservar canais independentes, resistir à falsificação, e dar aos líderes tempo para verificar. Nenhuma saída de modelo isolada deveria se tornar um indicador decisivo. Os exercícios deveriam incluir falha de IA e manipulação deliberada, não apenas falha de equipamento.
A responsabilização não pode terminar no algoritmo
O direito internacional humanitário se aplica independentemente da tecnologia usada. Distinção, proporcionalidade, e precauções no ataque permanecem obrigações humanas e estatais. No entanto, a autonomia complica a investigação: um resultado prejudicial pode envolver dados de treinamento, limitações de sensor, os parâmetros de um comandante, uma atualização de software, ou mau uso pelo operador.
Essa complexidade não é desculpa para uma lacuna de responsabilização. Os estados podem exigir registros rastreáveis, revisão jurídica, testes auditáveis, responsabilidade de comando clara, e limites sobre os ambientes onde um sistema pode operar. Desenvolvedores e comandantes deveriam definir modos de falha previsíveis e condições de parada. Um sistema imprevisível demais para ser revisado não deveria ser implantado apenas porque a responsabilidade está distribuída.
Viés e contexto também importam. Um sistema de visão testado em imagens limpas pode falhar no mau tempo, em escombros, em camuflagem, ou em populações desconhecidas. Adversários podem enganar sensores deliberadamente. A precisão média em um conjunto de teste não responde se o sistema é confiável para uma classe de alvo e ambiente específicos.
O panorama de política internacional
Os estados debateram armas autônomas letais dentro da Convenção sobre Certas Armas Convencionais por anos, sem concordar sobre um instrumento vinculante. Os Estados Unidos lançaram uma Declaração Política não vinculante sobre o Uso Militar Responsável de Inteligência Artificial e Autonomia em 2023, comprometendo os signatários com princípios que incluem supervisão sênior, testes rigorosos, e a capacidade de desativar sistemas que se comportam de forma inesperada (declaração do Departamento de Estado dos EUA).
A declaração pode construir normas e cooperação prática, mas o endosso não é fiscalização. Propostas da sociedade civil e de estados vão desde proibir sistemas que miram pessoas sem controle humano significativo até regular funções particulares e exigir obrigações positivas. O desacordo persiste sobre definições, verificação, e vantagem militar.
Medidas úteis de curto prazo não precisam esperar por um tratado abrangente. Os estados podem trocar informação sobre incidentes, proibir decisões autônomas de lançamento nuclear, exigir revisões de armas, estabelecer padrões de teste, proteger o controle humano sobre a mira de pessoas, e estabelecer canais de comunicação para acidentes relacionados a IA.
O que o controle humano significativo exige
A frase deveria ser operacional. Um humano precisa de um objetivo compreensível e um limite de alvo; informação confiável sobre a confiança e as limitações do sistema; tempo suficiente para intervir; um mecanismo de parada utilizável; e autoridade legal para recusar. As interfaces deveriam resistir ao viés de automação, em vez de incentivar a confirmação rápida. Após a ação, os registros precisam apoiar a investigação e a reparação. A página complementar deste manual sobre robôs terrestres, humanoides, e as leis da guerra examina como essa exigência de controle humano está de fato sendo implementada — ou não — em robôs terrestres armados hoje em uso.
O controle também começa antes de um engajamento. Líderes políticos decidem aquisição e doutrina; comandantes definem parâmetros; engenheiros selecionam dados e testes. Focar apenas no aperto final do gatilho ignora essas escolhas consequentes.
Uma conclusão medida
A autonomia em armas já é uma realidade de política e de campo de batalha, mas a evidência pública sobre engajamentos específicos frequentemente está incompleta. O relatório do Kargu-2 não deveria ser inflado a uma morte autônoma comprovada, e a mira supervisionada não deveria ser mal rotulada como guerra totalmente independente.
A preocupação catastrófica repousa sobre caminhos críveis: decisões mais rápidas, coordenação em massa, revisão humana frágil, e interação com sistemas estratégicos de alerta. Nenhum torna a escalada inevitável. Forte autoridade humana, design auditável, responsabilização legal, normas compartilhadas, e limites explícitos em torno das funções nucleares e de mira de pessoas podem reduzir o risco enquanto a evidência continua a se desenvolver.