07 Mecanismos
Os mecanismos por trás dos piores cenários
O capítulo 02 aborda o mecanismo geral de perda de controle. Este capítulo é o registro de caminhos específicos e nomeados que os pesquisadores de fato estudam — porque a intervenção que evita um deles não necessariamente evita outro.
Por que isto não é um único cenário
“A IA poderia matar todo mundo” comprime vários modos de falha estruturalmente diferentes em uma única imagem. Essa compressão é útil para uma manchete e inútil para a prevenção, porque as intervenções técnicas e regulatórias que tratam de um mecanismo podem fazer pouco por outro — controles sobre uma grande rodada de treinamento, por exemplo, não impedem por si só o uso indevido de um modelo já implantado. Mais de 350 pesquisadores e executivos, incluindo pessoas afiliadas a vários laboratórios importantes, assinaram em 2023 uma declaração de uma única frase pedindo que formuladores de políticas tratassem o risco de extinção como uma prioridade global. Ela registra uma posição sustentada por signatários de destaque; não mede a probabilidade de dano:
Signatories to the Statement on AI Risk hold that mitigating the risk of extinction from AI should be a global priority alongside pandemics and nuclear war.
safe.ai, Signed statement
Três grandes famílias
O Relatório Internacional sobre Segurança da IA de 2026 usa três grandes famílias. Uso malicioso é um humano direcionando deliberadamente a capacidade da IA para causar dano em massa — pandemias projetadas, ataques a infraestrutura ou armas autônomas. Mau funcionamento inclui falhas de confiabilidade e cenários prospectivos de perda de controle nos quais os sistemas operam fora do controle de qualquer pessoa. Riscos sistêmicos surgem por meio da implantação generalizada e da interação institucional, incluindo concentração, disrupção do trabalho e perda gradual de poder de decisão humana. As categorias podem se sobrepor, e a força das evidências difere entre os mecanismos. O presidente do relatório enfatizou publicamente a perda de controle:
Yoshua Bengio warned that future systems exhibiting self-preservation behavior could create a loss-of-control risk.
AFP, via TechXplore, Secondary coverage
Geoffrey Hinton também ofereceu uma estimativa pessoal de probabilidade. Trata-se de um julgamento de especialista sob incerteza, não de uma frequência medida:
Geoffrey Hinton said in a December 2024 BBC interview that he put the chance of AI causing human extinction within thirty years at 10–20%.
BBC Radio 4, reported by The Guardian, Secondary coverage
O que este capítulo não faz
Cada página distingue evidências documentadas de previsões e teorias, ao mesmo tempo em que nomeia as mitigações propostas pelos pesquisadores. Nenhuma delas descreve detalhes de síntese, de exploração de falhas ou de ataque — essa informação não tornaria um leitor mais seguro, e publicá-la não é o que a preparação informada exige. Consulte o padrão de fontes para saber como as afirmações relevantes são classificadas e revisadas.