A análise de risco também precisa contar os benefícios
Um site sobre sobreviver a uma IA poderosa pode se distorcer se contar apenas os danos. Decisões de segurança envolvem dois tipos de erro: implantar um sistema que causa dano e reter um sistema que poderia ter evitado dano. A resposta não é a aceleração automática. É comparar benefícios, danos, alternativas, incerteza, e quem arca com cada consequência.
A evidência atual diz respeito ao aprendizado de máquina e à IA generativa, não à AGI. Um benefício medido é um resultado observado em um ambiente definido. Um benefício projetado depende de suposições sobre adoção e capacidade. Alegações de que a AGI vai curar doenças, acabar com a escassez, ou resolver as mudanças climáticas são cenários condicionais, não resultados estabelecidos.
A produtividade é real, mas específica ao contexto
Estudos controlados e experimentos de campo no local de trabalho descobriram que ferramentas generativas podem acelerar algumas tarefas de escrita, programação, e atendimento ao cliente. Os efeitos variam conforme a experiência do trabalhador, a tarefa, o modelo, e se os erros são custosos. A conclusão mais rápida não é automaticamente um bem-estar social maior: o tempo economizado pode elevar salários, reduzir preços, aumentar a produção, reduzir o emprego, ou intensificar metas de desempenho.
A análise global de exposição de 2025 da OIT concluiu que a transformação era mais provável do que a substituição total para a maioria das ocupações expostas, porque os empregos contêm pacotes mistos de tarefas (OIT–NASK, maio de 2025). Essa é uma avaliação modelada de exposição, não uma prova de que todo trabalhador se beneficia. A distribuição, a negociação, e o desenho do trabalho determinam para onde vão os ganhos de produtividade.
Pequenas organizações podem ganhar capacidades antes disponíveis apenas para grandes empresas: tradução, análise de rascunhos, assistência de software, design, e atendimento ao cliente. No entanto, custos de assinatura, regras de dados, confiabilidade, e dependência de um fornecedor podem limitar a vantagem. Uma avaliação útil mede o custo total do fluxo de trabalho, o tempo de correção, as falhas, e a habilidade retida, em vez de demonstrações impressionantes.
Saúde e acessibilidade
A IA já apoia imagem médica, documentação clínica, descoberta de medicamentos, vigilância populacional, e interfaces assistivas. A Organização Mundial da Saúde identifica usos potenciais em diagnóstico e cuidado, apoio ao paciente, administração, treinamento, e pesquisa, ao mesmo tempo em que alerta sobre resultados imprecisos, viés, privacidade, viés de automação, e acesso desigual (orientação da OMS, janeiro de 2024).
Essas cautelas não são motivos para abandonar o campo. Atrasar uma ferramenta de triagem ou administrativa validada pode preservar filas evitáveis e sobrecarga de profissionais. Implantar um chatbot não validado como se fosse um médico pode criar dano evitável. A evidência deve corresponder ao uso: desempenho de dispositivo médico, resultados clínicos, resultados por subgrupo, monitoramento prospectivo, e um profissional nomeado como responsável.
Sistemas generativos podem oferecer legendas, descrições de imagem, simplificação de texto, interfaces de fala, e comunicação personalizada. Para alguns usuários com deficiência, essas são ferramentas de independência, não conveniências. As alegações de acessibilidade ainda precisam ser testadas com as pessoas afetadas. Um sistema que falha para fala atípica, não consegue funcionar offline, ou torna um site incompatível com tecnologia assistiva pode criar novas barreiras.
Ciência e serviços públicos
O aprendizado de máquina pode explorar espaços químicos e biológicos, analisar grandes conjuntos de dados, auxiliar trabalho matemático, e ajudar cientistas a escrever código ou encontrar literatura. Uma hipótese gerada não é uma descoberta; experimentos, replicação, e revisão por pares continuam necessários. Sistemas proprietários podem acelerar a pesquisa ao mesmo tempo em que tornam os métodos menos reprodutíveis.
Usos governamentais podem incluir tradução, assistência a formulários, triagem de fraude, manutenção de infraestrutura, e planejamento de emergência. Os benefícios são maiores quando a IA amplia o acesso sem tornar a elegibilidade ou a fiscalização irresponsáveis. A negação automatizada de benefícios, o policiamento preditivo, ou a pontuação de risco opaca podem transformar eficiência administrativa em violações de direitos.
Agências públicas devem medir taxas de conclusão, tempos de espera, precisão, recursos, resultados por subgrupo, e carga de trabalho da equipe. A precisão reportada pelo fornecedor não é suficiente. Os contratos precisam de acesso a auditoria, proteção de dados, notificação de incidentes, e um plano de saída.
Educação e construção de capacidade
Tutores de IA podem oferecer prática e retorno a baixo custo marginal. O Panorama de Educação Digital 2026 da OCDE encontra potencial quando as ferramentas estão inseridas em pedagogia sólida, e enfatiza a distinção entre desempenho assistido por IA e habilidade humana duradoura (OCDE, 2026).
O custo de oportunidade de uma proibição geral pode ser maior para estudantes sem aulas particulares, tradução, ou apoio especializado. O custo da geração irrestrita de respostas pode ser a perda de prática e o alargamento da desigualdade entre usuários orientados e não orientados. Acesso estruturado, verificação de fontes, avaliação baseada em processo, e trabalho contínuo sem assistência preservam tanto os benefícios quanto o aprendizado.
Energia e clima correm em ambas as direções
Data centers consomem eletricidade, água, materiais, e terra. A IA também pode otimizar redes elétricas, edifícios, transporte, processos industriais, e modelagem científica. A Agência Internacional de Energia trata os dois efeitos como materiais e incertos. Ela projeta a demanda de eletricidade de data centers subindo acentuadamente, ao mesmo tempo em que analisa a eficiência e os benefícios do sistema energético (AIE, abril de 2025).
Alegações de emissões evitadas exigem um contrafactual. Uma otimização que economiza energia por operação pode aumentar o consumo total se tornar a atividade mais barata. As empresas deveriam reportar sua pegada direta e validar de forma independente as economias a jusante alegadas, em vez de subtrair benefícios especulativos das emissões medidas.
O custo de oportunidade do atraso indiscriminado
O atraso pode significar diagnóstico adiado, serviços inacessíveis, pesquisa mais lenta, custo administrativo maior, ou capacidade defensiva perdida. Ele também pode preservar tempo para testar, construir instituições, treinar trabalhadores, e evitar implantação irreversível. A distinção chave é aprendizado reversível versus exposição irreversível.
Um ensaio clínico delimitado, um assistente científico isolado (sandbox), ou uma ferramenta de acessibilidade de baixo risco podem gerar evidência com desvantagem limitada. Liberar pesos poderosos, integrar um agente a infraestrutura crítica, ou automatizar uma decisão que afeta direitos pode ser difícil de reverter. A precaução deve ser proporcional à consequência e à reversibilidade.
Também existe um custo de oportunidade em concentrar o desenvolvimento. Se apenas algumas empresas conseguem cumprir regras caras, a sociedade pode perder concorrência, escrutínio independente, e inovação local. Por outro lado, regras fracas podem externalizar danos para pessoas que não recebem nenhum dos benefícios. Uma boa política financia capacidade de interesse público e escala obrigações de acordo com o risco.
Alegações sobre os benefícios da AGI precisam da mesma disciplina que as alegações de risco
Se sistemas amplamente capazes pudessem automatizar a pesquisa, eles poderiam acelerar a medicina, os materiais, a energia limpa, e a educação. Eles também poderiam produzir projetos inseguros, concentrar propriedade, ou otimizar objetivos desconectados do bem-estar humano. Ambos são previsões. Capacidade não é o mesmo que seleção sensata, implantação física, acesso equitativo, ou legitimidade política.
A escassez não desapareceria apenas porque o trabalho cognitivo se tornou barato. Energia, terra, minerais, tempo, confiança, e governança continuam sendo restrições. A produção científica pode se tornar abundante enquanto a capacidade experimental, a regulação, e a atenção se tornam gargalos.
Um arcabouço de decisão
Para um uso proposto, pergunte:
- Que resultado importa, e qual é a alternativa sem IA?
- O benefício alegado é medido, modelado, ou especulativo?
- Quem recebe o benefício e quem arca com os erros?
- Como o desempenho varia entre grupos e condições?
- As pessoas podem recorrer, optar por não participar, e obter revisão humana?
- A implantação é reversível, e registros e alternativas de contingência são mantidos?
- Que evidência desencadearia expansão, redesenho, ou encerramento?
Os conflitos devem ser visíveis. Fornecedores se beneficiam de alegações otimistas de adoção; defensores da segurança podem enfatizar o lado negativo; agências podem favorecer a eficiência; profissionais podem proteger ou defender de forma justa seus padrões. A replicação independente e a participação das comunidades afetadas melhoram a decisão.
A posição equilibrada não é nem “acelerar tudo” nem “parar tudo”. É capturar os benefícios demonstrados em ambientes delimitados e responsabilizáveis; preservar padrões elevados onde o fracasso prejudica direitos ou a vida; e tratar promessas extraordinárias sobre a AGI como cenários. A segurança é bem-sucedida quando protege a capacidade das pessoas de se beneficiar, não quando reduz o uso da tecnologia como um fim em si mesmo.