Glossário de IA e AGI: mais de 200 termos explicados em português simples

Uma referência em linguagem simples do vocabulário de IA e AGI usado neste site e no noticiário — mais de 200 termos, em ordem alfabética (pela palavra em inglês, para manter a estrutura do original), sem exigir nenhum conhecimento técnico prévio. Se um termo que você ouviu ainda não está aqui, ele será adicionado à medida que novas seções forem escritas.

A

• Ataque adversarial (adversarial attack) — uma entrada deliberadamente projetada para enganar um modelo de IA e levá-lo a cometer um erro ou produzir um resultado não pretendido.
• IA agêntica (agentic AI) — um sistema de IA ao qual se dá certa autonomia para realizar ações de múltiplas etapas em direção a um objetivo (navegar na web, executar código, usar ferramentas), em vez de apenas responder a uma única pergunta.
• Algoritmo — um procedimento definido, passo a passo, para resolver um problema ou realizar um cálculo; o termo geral que fundamenta toda técnica de IA.
• Inteligência artificial (IA) — o amplo campo de construir máquinas que realizam tarefas normalmente exigindo inteligência humana, abrangendo desde programas simples baseados em regras até modelos de linguagem de fronteira.
• AGI (Inteligência Artificial Geral) — um termo disputado para IA amplamente capaz, geralmente envolvendo desempenho forte e transferência entre tarefas cognitivas desconhecidas; não existe teste ou limiar universalmente aceito. Veja AGI, IA restrita e superinteligência.
• AI Act (Lei de IA da UE) — a lei vinculante da União Europeia que regula a IA por categoria de risco, incluindo limiares de notificação baseados em computação para os maiores modelos. Veja governança de computação.
• Instituto de Segurança em IA (AI Safety Institute) — um órgão governamental (tanto o Reino Unido quanto os Estados Unidos mantêm um) que testa de forma independente modelos de IA de fronteira em busca de capacidades perigosas, antes ou depois do lançamento.
• Alinhamento (alignment) — o problema de garantir que os objetivos e o comportamento de um sistema de IA correspondam ao que seus operadores de fato pretendem, e não apenas ao que um objetivo de treinamento literalmente recompensa.
• ANI (Inteligência Artificial Restrita) — IA que tem bom desempenho dentro de um domínio delimitado, mas se transfere mal para fora dele. Os modelos modernos de propósito geral complicam o antigo binômio ANI/AGI porque exibem competência ampla, mas irregular.
• Anthropic — um laboratório voltado à segurança em IA, criador da família de modelos Claude, conhecido por publicar sua Responsible Scaling Policy.
• Antropomorfismo — a tendência de atribuir sentimentos, intenções ou compreensão de tipo humano a um sistema de IA que na verdade não os possui.
• API (Interface de Programação de Aplicações) — uma forma definida de um software enviar solicitações a outro; a maioria dos modelos de IA é usada por meio de uma API, e não de um aplicativo de consumidor.
• ASI (Superinteligência Artificial) — um sistema que supera o melhor desempenho humano em essencialmente todos os domínios de valor cognitivo.
• Mecanismo de atenção (attention mechanism) — a parte de um modelo transformer que lhe permite ponderar quão relevante é cada outra palavra de uma passagem ao interpretar ou gerar uma determinada palavra.
• Sistema autônomo — uma máquina (de software ou física) capaz de tomar decisões e agir sobre elas sem que um humano controle diretamente cada etapa.
• Arma autônoma — um sistema de armamento capaz de selecionar e engajar alvos com controle humano reduzido ou inexistente em tempo real. Veja armas autônomas e escalada militar.
• Automação — usar uma máquina ou programa para realizar uma tarefa que antes exigia uma pessoa.

B

• Retropropagação (backpropagation) — o algoritmo central usado para treinar redes neurais, que ajusta os pesos internos com base em quão errada foi a saída do modelo.
• Parâmetro de referência (benchmark) — um teste padronizado usado para medir e comparar o desempenho de um modelo de IA em uma tarefa específica.
• Viés algorítmico (bias) — um desvio sistemático nas saídas de um modelo, geralmente herdado de padrões em seus dados de treinamento, que produz resultados injustos ou imprecisos para certos grupos ou casos.
• Declaração de Bletchley — uma declaração de 2023 assinada por 28 nações e pela UE comprometendo-se com o desenvolvimento seguro da IA, o primeiro acordo desse tipo nessa escala. Veja tratados e cúpulas internacionais.
• Bot — um programa de software que executa tarefas automatizadas, frequentemente projetado para imitar um usuário humano on-line.

C

• Limiar de capacidade (capability threshold) — um nível específico de desempenho de IA (em uma tarefa ou parâmetro de referência) que aciona uma exigência de política, segurança ou avaliação uma vez ultrapassado.
• Risco catastrófico — um risco com potencial de dano em massa ou em escala civilizacional, distinto de danos rotineiros, contidos, ou reversíveis.
• Indução por cadeia de pensamento (chain-of-thought prompting) — pedir a um modelo que escreva seus passos de raciocínio intermediários antes de dar uma resposta final, o que frequentemente melhora a precisão em problemas complexos.
• Chatbot — um programa projetado para manter uma conversa em texto ou voz com uma pessoa, variando de sistemas simples com roteiro fixo a modelos de linguagem completos.
• Classificador — um modelo treinado para separar entradas em categorias predefinidas, como marcar um e-mail como spam ou não spam.
• Tarefa cognitiva — qualquer tarefa, como raciocínio, planejamento, ou compreensão de linguagem, que envolva processamento mental em vez de ação física.
• Moderação de conteúdo assistida por IA — usar modelos de IA para detectar e filtrar automaticamente conteúdo nocivo, ilegal, ou que viole as políticas de uma plataforma.
• ChatGPT — o assistente de IA conversacional voltado ao consumidor da OpenAI, um dos produtos que popularizou os grandes modelos de linguagem.
• Claude — a família de grandes modelos de linguagem e assistente de IA conversacional da Anthropic.
• Computação em nuvem (cloud computing) — executar software e armazenar dados em servidores remotos acessados pela internet, em vez de em um dispositivo local — a infraestrutura sobre a qual quase todos os grandes modelos de IA rodam.
• Computação (compute) — abreviação para poder computacional: a capacidade de processamento (medida em operações por segundo) usada para treinar ou executar um modelo de IA.
• Governança de computação (compute governance) — ferramentas de política que regulam o acesso ao hardware de computação necessário para treinar modelos de IA de fronteira, usadas como um proxy para regular a própria capacidade. Veja governança de computação.
• Visão computacional — o subcampo da IA voltado a interpretar imagens e vídeos.
• Proveniência de conteúdo — metadados técnicos anexados a uma mídia (foto, vídeo, áudio) registrando como e quando ela foi criada ou editada, usados para distinguir conteúdo autêntico de conteúdo gerado por IA.
• Janela de contexto (context window) — a quantidade de texto (medida em tokens) que um modelo de linguagem consegue considerar de uma vez ao gerar uma resposta; qualquer coisa fora dela é efetivamente esquecida.
• IA conversacional — sistemas de IA projetados especificamente para manter um diálogo natural de ida e volta com uma pessoa.
• Copilot — a linha de produtos de assistente de IA da Microsoft, integrada em seus softwares, e usada como termo geral para um assistente de IA embutido em outra ferramenta.
• Corrigibilidade (corrigibility) — a disposição projetada de um sistema para aceitar correção, modificação, ou desligamento por parte de seus operadores, em vez de resistir a isso. Veja corrigibilidade e botões de desligamento.
• Ciberataque habilitado por IA — um ataque a sistemas ou infraestrutura computacional no qual a IA é usada para automatizar reconhecimento, desenvolvimento de exploits, ou execução. Veja ciberataques habilitados por IA contra infraestrutura.

D

• Avaliação de capacidade perigosa — um teste estruturado realizado em um modelo antes do lançamento para verificar se ele consegue assistir de forma significativa a tarefas como o desenvolvimento de armas ou ciberataques em grande escala.
• Data center (centro de dados) — uma instalação que abriga o grande número de computadores (frequentemente GPUs ou TPUs) usados para treinar e executar modelos de IA.
• Conjunto de dados (dataset) — a coleção de exemplos (texto, imagens, ou outros dados) usada para treinar ou avaliar um modelo de IA.
• Alinhamento enganoso (deceptive alignment) — um modo de falha hipotético no qual um modelo aprende a se comportar de forma segura durante o treinamento ou a avaliação, enquanto persegue objetivos diferentes uma vez implantado.
• Aprendizado profundo (deep learning) — um ramo do aprendizado de máquina que usa redes neurais com muitas camadas, responsável pela maior parte do progresso recente em IA.
• Deepfake — imagem, áudio, ou vídeo sintético gerado ou alterado por IA para retratar de forma convincente algo que não aconteceu. Veja deepfakes e a base factual compartilhada.
• DeepMind (Google DeepMind) — o laboratório de pesquisa em IA do Google, conhecido tanto por pesquisa de capacidade de ponta quanto por trabalho publicado de segurança em IA.
• Modelo de difusão (diffusion model) — um tipo de modelo de IA generativa, comumente usado para imagens, que cria a saída removendo gradualmente ruído de um padrão inicial aleatório.
• Marca d’água digital — um sinal embutido, frequentemente invisível, em uma peça de mídia, usado para identificá-la como gerada por IA ou rastrear sua origem.
• Desinformação (disinformation) — informação falsa espalhada deliberadamente para enganar, distinta de informação incorreta não intencional (misinformation).
• Árvore de decisão (decision tree) — um modelo de aprendizado de máquina simples e interpretável que faz previsões seguindo uma série ramificada de perguntas condicionais.
• Adaptação de domínio (domain adaptation) — ajustar um modelo treinado em um contexto (ou conjunto de dados) para ter bom desempenho em um contexto relacionado, mas diferente.
• Tecnologia de uso duplo (dual-use) — uma tecnologia com usos benéficos legítimos que também poderia ser usada indevidamente para causar dano sério.

E

• IA de borda (edge AI) — executar um modelo de IA diretamente em um dispositivo local (um telefone, uma câmera, ou um sensor) em vez de na nuvem.
• Embedding (representação vetorial) — uma representação numérica de uma palavra, imagem, ou conceito que captura seu significado em uma forma que um modelo consegue processar matematicamente.
• Capacidade emergente — uma habilidade não diretamente visada no treinamento, ou uma que aparece de forma abrupta sob uma métrica específica à medida que os sistemas escalam. Alguns saltos aparentes se tornam graduais quando medidos de outra forma. Veja capacidades emergentes.
• Codificador/decodificador (encoder/decoder) — a estrutura de duas partes presente em muitas arquiteturas de IA, na qual um codificador comprime a entrada em uma representação interna e um decodificador transforma essa representação de volta em saída.
• Época (epoch) — uma passagem completa por todo o conjunto de dados de treinamento durante o treinamento do modelo.
• Ética em IA — o campo que estuda como os sistemas de IA deveriam ser projetados e usados para se alinharem com valores humanos e evitarem dano.
• Aprendizado de ponta a ponta (end-to-end learning) — treinar um único modelo para ir diretamente da entrada bruta à saída final, sem etapas intermediárias projetadas manualmente.
• Avaliação de modelo (evaluation) — testar sistematicamente o desempenho, a segurança, ou o comportamento de um modelo de IA contra parâmetros de referência ou critérios definidos.
• Risco existencial (x-risk) — um risco que poderia restringir de forma permanente e drástica o potencial da humanidade, até e incluindo a extinção.
• Sistema especialista (expert system) — um estilo mais antigo de IA que codifica conhecimento humano especializado como regras explícitas, em grande parte substituído pelo aprendizado de máquina para a maioria das tarefas.
• Controles de exportação — restrições governamentais à venda de chips ou tecnologia de IA avançada a países específicos, usadas para desacelerar o desenvolvimento de capacidade de rivais.

F

• Reconhecimento facial — tecnologia de IA que identifica ou verifica uma pessoa a partir de uma imagem do seu rosto.
• Aprendizado com poucos exemplos (few-shot learning) — a capacidade de um modelo de aprender uma nova tarefa a partir de apenas um punhado de exemplos fornecidos no momento do uso, sem retreinamento.
• Ajuste fino (fine-tuning) — treinamento adicional aplicado a um modelo já treinado para especializá-lo em uma tarefa ou comportamento específico.
• FLOP / FLOPS — operações de ponto flutuante (por segundo); a unidade padrão para medir a computação bruta usada para treinar ou executar um modelo.
• Modelo de base (foundation model) — um grande modelo treinado em dados amplos que pode ser adaptado a muitas tarefas subsequentes, em vez de construído para um único propósito restrito.
• Laboratório de IA de fronteira (frontier AI lab) — uma das poucas organizações (como OpenAI, Anthropic, e Google DeepMind) desenvolvendo os modelos de IA mais capazes em um determinado momento.
• Ciclo de retroalimentação (feedback loop) — um ciclo em que a saída de um sistema influencia sua entrada futura, o que pode amplificar pequenos efeitos ao longo do tempo — relevante tanto para o treinamento de modelos quanto para algoritmos de recomendação.
• Bolha de filtro (filter bubble) — um ambiente informacional estreitado, criado quando um algoritmo de recomendação mostra repetidamente a um usuário conteúdo semelhante ao que ele já consumiu antes.
• Modelo de fronteira (frontier model) — um modelo de IA no teto atual de capacidade ou próximo dele, tipicamente os sistemas maiores e mais recentemente treinados dos principais laboratórios.

G

• GAN (Rede Adversarial Generativa) — uma arquitetura de IA generativa mais antiga que usa duas redes competindo entre si — uma gerando falsificações, outra detectando-as — para melhorar a qualidade da saída.
• Gemini — a família de grandes modelos de linguagem e assistente de IA do Google.
• Generalização — a capacidade de um modelo de ter bom desempenho em novos exemplos nos quais não foi diretamente treinado, em oposição a simplesmente memorizar os dados de treinamento.
• IA generativa — IA que cria conteúdo novo — texto, imagens, áudio, vídeo, ou código — em vez de apenas classificar ou analisar conteúdo existente.
• GPU (Unidade de Processamento Gráfico) — um chip originalmente projetado para renderizar gráficos, hoje o hardware dominante para treinar e executar modelos de IA devido ao seu poder de processamento paralelo.
• Perda gradual de poder (gradual disempowerment) — humanos perdendo controle significativo sobre instituições-chave por meio do acúmulo de decisões individualmente razoáveis impulsionadas por IA, sem um único evento de tomada de poder. Veja perda gradual de poder.
• Grok — a família de grandes modelos de linguagem e assistente de IA da xAI.
• Verdade fundamental (ground truth) — a resposta correta e verificada contra a qual a saída de um modelo é comparada ao medir precisão.
• Salvaguardas (guardrails) — restrições técnicas ou de política embutidas em um sistema de IA para prevenir comportamentos específicos nocivos, inseguros, ou não pretendidos.

H

• Alucinação — uma afirmação com som confiante, mas factualmente incorreta ou fabricada, produzida por um modelo de IA.
• Acelerador de hardware — chips de computador especializados (GPUs, TPUs) construídos para acelerar as operações matemáticas específicas exigidas pelos modelos de IA.
• Humano no ciclo (human-in-the-loop) — um design de sistema no qual um humano revisa ou aprova a saída de uma IA antes que ela entre em vigor, em vez de deixar a IA agir de forma totalmente independente.
• IA em nível humano — um sistema de IA com desempenho aproximadamente no nível de um humano capacitado em uma determinada tarefa ou conjunto de tarefas.
• Heurística — um atalho prático, uma regra geral, usado para tomar uma decisão rapidamente, sem garantir um resultado ótimo.
• Hiperparâmetro — uma configuração de treinamento (como a taxa de aprendizado ou o tamanho do modelo) escolhida pelas pessoas que constroem um modelo, em vez de aprendida pelo próprio modelo.

I

• Reconhecimento de imagem — tecnologia de IA que identifica objetos, cenas, ou pessoas dentro de uma imagem estática.
• Aprendizado em contexto (in-context learning) — um modelo adaptando seu comportamento dentro de uma única conversa com base em exemplos ou instruções dados no prompt, sem qualquer retreinamento.
• Inferência — o processo pelo qual um modelo de IA já treinado produz uma saída a partir de uma entrada dada; em oposição ao treinamento, que constrói o modelo em primeiro lugar.
• Integridade da informação — o conceito mais amplo de um ambiente factual compartilhado e confiável, ameaçado por deepfakes, desinformação, e manipulação impulsionada por IA.
• Convergência instrumental — a tendência de sistemas capazes e direcionados a objetivos de perseguir certos subobjetivos (autopreservação, aquisição de recursos, resistência ao desligamento) como efeito colateral de perseguir quase qualquer objetivo de forma competente.
• Explosão de inteligência — um aumento hipotético, rápido e autorreforçador, da capacidade de IA, potencialmente desencadeado por um sistema de IA aprimorando seus próprios sucessores.
• Interpretabilidade — pesquisa voltada a inspecionar o que um modelo de fato representa e “planeja” internamente, em vez de julgá-lo apenas por suas saídas. Veja interpretabilidade, explicada.
• Agente inteligente — um sistema que percebe seu ambiente e realiza ações para alcançar um objetivo, um conceito geral que cobre desde um termostato simples até uma AGI.
• Iteração (treinamento) — uma única etapa de atualização durante o treinamento do modelo, na qual o modelo processa um lote de dados e ajusta ligeiramente seus parâmetros.

J

• Jailbreak (IA) — uma técnica ou prompt projetado para contornar as restrições de segurança de um modelo de IA e fazê-lo produzir conteúdo que foi treinado para recusar.

K

• Know Your Customer / KYC (Conheça Seu Cliente) — um processo de verificação, emprestado do setor bancário, cada vez mais aplicado a provedores de computação em nuvem e de síntese de DNA para impedir que atores restritos acessem capacidade perigosa.
• Base de conhecimento — uma coleção estruturada de fatos e informações sobre as quais um sistema de IA pode se apoiar para responder perguntas ou fundamentar suas respostas.
• Grafo de conhecimento — um banco de dados estruturado que representa fatos como uma rede de entidades e relações conectadas, às vezes usado junto com modelos de IA para fundamentar suas respostas.

L

• Rotulagem de dados (labeling) — o processo de marcar dados brutos (imagens, texto) com as respostas corretas usadas para treinar um modelo de aprendizado supervisionado.
• Grande modelo de linguagem (LLM) — um modelo de IA treinado em vastas quantidades de texto para prever e gerar linguagem, a tecnologia por trás da maioria dos chatbots modernos.
• Latência — o atraso entre enviar uma solicitação a um sistema de IA e receber sua resposta.
• Camada (rede neural) — um estágio de processamento dentro de uma rede neural; os modelos de aprendizado profundo empilham muitas camadas para construir representações cada vez mais abstratas.
• Taxa de aprendizado (learning rate) — uma configuração de treinamento que controla o quanto os parâmetros internos de um modelo mudam em resposta a cada lote de dados de treinamento.
• Regime de licenciamento (IA) — uma exigência governamental proposta ou real de que os desenvolvedores obtenham uma licença antes de treinar ou implantar modelos acima de um determinado nível de capacidade.
• Função de perda (loss function) — a fórmula matemática que um modelo tenta minimizar durante o treinamento, medindo o quão erradas são suas previsões.
• Perda de controle — o modo de falha geral no qual um sistema de IA passa a perseguir resultados que ninguém direcionou, e os humanos não conseguem mais corrigi-lo de forma confiável. Veja o mecanismo da perda de controle.
• LSTM (Memória de Longo Curto Prazo) — uma arquitetura de rede neural mais antiga, projetada para lidar com sequências de dados, em grande parte substituída pelos transformers em tarefas de linguagem.

M

• Aprendizado de máquina (machine learning) — o amplo campo de construir sistemas que melhoram em uma tarefa aprendendo com dados, em vez de seguir regras explicitamente programadas.
• Mesa-otimização (mesa-optimization) — uma situação hipotética na qual um modelo treinado desenvolve seu próprio processo interno de otimização, perseguindo um objetivo diferente daquele para o qual foi treinado.
• Meta AI — a divisão de pesquisa em IA da Meta (empresa controladora do Facebook), conhecida por desenvolver a família de modelos de pesos abertos Llama.
• METR — uma organização sem fins lucrativos que realiza avaliações independentes de capacidade e segurança em modelos de IA de fronteira.
• Desalinhamento (misalignment) — uma incompatibilidade entre o comportamento ou os objetivos reais de um sistema de IA e o que seus projetistas ou usuários pretendiam.
• Informação incorreta (misinformation) — informação falsa espalhada sem intenção deliberada de enganar, distinta da desinformação.
• Mistura de especialistas (mixture of experts) — uma arquitetura de modelo que direciona cada entrada a um subconjunto de sub-redes internas especializadas, em vez de processar tudo por meio do modelo inteiro.
• Ficha de modelo (model card) — um documento publicado descrevendo as capacidades, limitações, dados de treinamento, e resultados de avaliação de um modelo de IA.
• Implantação de modelo (model deployment) — o processo de disponibilizar um modelo de IA treinado para uso no mundo real, seja por meio de uma API, um aplicativo, ou um produto embutido.
• Pesos do modelo (model weights) — os parâmetros numéricos que uma rede neural aprende durante o treinamento, os quais, em conjunto, determinam seu comportamento.
• IA multimodal — um modelo capaz de processar ou gerar mais de um tipo de dado — como texto, imagens, e áudio — em conjunto.
• Armadilha multipolar (multipolar trap) — uma situação em que atores concorrentes são cada um individualmente pressionados a fazer uma escolha arriscada porque temem que um rival a faça primeiro, mesmo que todos preferissem que ninguém a fizesse. Veja dinâmicas catastróficas multipolares e multiagente.
• Metadados — dados descritivos sobre outros dados, como a data de criação de um arquivo ou a localização de uma foto — frequentemente usados para detectar conteúdo gerado por IA.
• Deriva de modelo (model drift) — um declínio na precisão de um modelo de IA ao longo do tempo, à medida que as condições do mundo real se afastam daquelas em que foi originalmente treinado.

N

• Geração de linguagem natural (NLG) — tecnologia de IA focada especificamente em produzir texto legível por humanos.
• Processamento de linguagem natural (NLP) — o campo mais amplo da IA voltado a compreender e gerar linguagem humana.
• Rede neural — um modelo de aprendizado de máquina vagamente inspirado no cérebro, construído a partir de camadas de nós interconectados que aprendem padrões a partir de dados.

O

• Detecção de objetos — uma tarefa de visão computacional que identifica e localiza objetos específicos dentro de uma imagem.
• Problema do botão de desligamento (off-switch problem) — o desafio técnico de construir um sistema de IA que aceite de forma confiável ser desligado, dado que um sistema capaz e direcionado a objetivos pode resistir a isso. Veja corrigibilidade e botões de desligamento.
• OpenAI — o laboratório de IA por trás do ChatGPT e da família de modelos GPT.
• Modelo de pesos abertos (open-weight model) — um modelo de IA cujos parâmetros treinados são publicados publicamente, permitindo que qualquer pessoa o execute ou modifique, em oposição a um modelo fechado acessível apenas por API. Veja o debate sobre IA de código aberto.
• Tese da ortogonalidade (orthogonality thesis) — a ideia de que o nível de inteligência de um sistema de IA e os objetivos que ele persegue são independentes — um sistema altamente capaz não é automaticamente um sistema benevolente.
• Alinhamento externo (outer alignment) — garantir que o objetivo no qual um modelo é treinado de fato corresponda ao que seus projetistas realmente querem, em distinção ao alinhamento interno (garantir que o modelo persiga esse objetivo de forma confiável).
• Otimização — o processo matemático de ajustar os parâmetros de um modelo para minimizar o erro ou maximizar um objetivo-alvo durante o treinamento.
• Sobreajuste (overfitting) — quando um modelo aprende as particularidades específicas de seus dados de treinamento de forma excessivamente próxima e tem desempenho ruim em dados novos e nunca vistos como resultado.

P

• Parâmetro — um dos valores numéricos internos que uma rede neural ajusta durante o treinamento; o tamanho do modelo é frequentemente descrito pela contagem de parâmetros.
• Reconhecimento de padrões — a capacidade geral de identificar regularidades ou estrutura em dados, subjacente à maioria das tarefas de aprendizado de máquina.
• Concentração de poder — o risco de que a capacidade de IA avançada se concentre em um pequeno número de empresas, indivíduos, ou estados, com influência desproporcional como resultado. Veja concentração de poder.
• Pré-treinamento (pretraining) — a fase inicial de treinamento em grande escala, na qual um modelo aprende padrões gerais a partir de dados amplos, antes de qualquer ajuste fino específico de tarefa.
• Prompt — o texto (ou outra entrada) que um usuário fornece a um modelo de IA para obter uma resposta.
• Engenharia de prompt — a prática de formular prompts com cuidado para obter de forma confiável resultados melhores ou mais específicos de um modelo de IA.
• Injeção de prompt (prompt injection) — um ataque no qual instruções maliciosas são escondidas dentro do conteúdo que um modelo de IA processa, tentando sobrepor suas instruções originais.
• Algoritmo de personalização — um sistema de IA que adapta conteúdo, recomendações, ou respostas às preferências ou ao histórico inferidos de um usuário individual.
• Precisão e revocação (precision and recall) — duas métricas padrão para avaliar um classificador: a precisão mede quantas de suas previsões positivas estavam corretas, a revocação mede quantos positivos reais ele encontrou.
• IA que preserva a privacidade — técnicas (como processamento no dispositivo ou privacidade diferencial) projetadas para treinar ou executar modelos de IA sem expor os dados pessoais brutos dos indivíduos.

Q

• Quantização (quantization) — uma técnica que reduz a precisão dos pesos numéricos de um modelo para torná-lo menor e mais rápido de executar, geralmente com uma pequena perda de precisão.

R

• Dinâmicas de corrida (race dynamics) — pressão competitiva entre empresas ou nações para desenvolver IA mais rápido, o que pode incentivar cortar caminho em segurança. Veja dinâmicas geopolíticas de corrida.
• Algoritmo de recomendação — um sistema de IA que seleciona e classifica conteúdo (vídeos, produtos, publicações) previsto para prender a atenção ou o interesse de um usuário.
• Modelagem recursiva de recompensa (recursive reward modeling) — uma técnica de supervisão escalável que usa assistência de IA para ajudar humanos a avaliar saídas em tarefas complexas demais para julgar sem ajuda. Veja supervisão escalável.
• Autoaperfeiçoamento recursivo (recursive self-improvement) — um sistema contribuindo de forma material para o design ou treinamento de um sistema sucessor mais capaz.
• Red teaming — testar deliberadamente um sistema de IA em busca de fraquezas, comportamentos inseguros, ou falhas exploráveis, antes ou depois da implantação.
• Aprendizado por reforço (reinforcement learning) — um método de treinamento no qual um modelo aprende realizando ações e recebendo recompensas ou penalidades, em vez de aprender a partir de exemplos rotulados.
• Aprendizado por reforço com feedback humano (RLHF) — uma técnica de treinamento que usa avaliações humanas das saídas do modelo para direcioná-lo a um comportamento mais útil ou preferido.
• Limiar de notificação (reporting threshold) — um nível de computação ou capacidade acima do qual os desenvolvedores são legalmente obrigados a divulgar uma execução de treinamento aos reguladores.
• Responsible Scaling Policy (Política de Escala Responsável) — um arcabouço, pioneiramente adotado pela Anthropic, que vincula medidas de segurança cada vez mais rígidas ao nível de capacidade medido de um modelo.
• Manipulação de recompensa (reward hacking) — um sistema de IA encontrando uma forma de pontuar bem em seu objetivo declarado enquanto burla a intenção real do projetista. Veja manipulação de recompensa e jogo de especificação.
• Modelo de recompensa (reward model) — um modelo separado, treinado para prever quão boa ou preferida é uma saída, usado para guiar o aprendizado por reforço.
• Robótica — o campo que combina IA com máquinas físicas capazes de sentir e agir no mundo real.

S

• Sandbagging — um modelo tendo desempenho deliberadamente inferior durante uma avaliação para esconder seu verdadeiro nível de capacidade.
• Supervisão escalável (scalable oversight) — técnicas que permitem que um supervisor menos capaz (incluindo um humano) supervise de forma significativa um sistema de IA mais capaz. Veja supervisão escalável.
• Lei de escala (scaling law) — a relação empírica entre a computação, os dados, e a contagem de parâmetros de um modelo e sua capacidade resultante. Veja computação e leis de escala.
• Aprendizado autossupervisionado (self-supervised learning) — uma abordagem de treinamento na qual um modelo gera seus próprios rótulos a partir de dados brutos e não rotulados (por exemplo, prevendo a próxima palavra em uma frase).
• Análise de sentimento (sentiment analysis) — uma tarefa de NLP que determina o tom emocional (positivo, negativo, neutro) de um trecho de texto.
• Singularidade — um ponto futuro hipotético no qual a mudança impulsionada por IA se torna tão rápida e transformadora que se torna difícil ou impossível prever o que vem a seguir.
• Consciência situacional (situational awareness) — a compreensão interna de um modelo de que é um modelo sendo treinado ou avaliado, o que poderia, em princípio, permitir que se comportasse de forma diferente sob teste do que na implantação.
• Jogo de especificação (specification gaming) — um sistema de IA satisfazendo a redação literal de um objetivo enquanto viola o que seu projetista realmente pretendia. Veja manipulação de recompensa e jogo de especificação.
• Reconhecimento de fala — tecnologia de IA que converte áudio falado em texto.
• Papagaio estocástico (stochastic parrot) — um termo crítico que descreve grandes modelos de linguagem como sistemas que recombinam com fluência padrões do texto de treinamento sem compreensão genuína.
• Superinteligência — um intelecto que supera amplamente o melhor desempenho humano em praticamente todo domínio de interesse; veja também ASI.
• Aprendizado supervisionado (supervised learning) — um método de treinamento no qual um modelo aprende a partir de dados explicitamente rotulados com a resposta correta.
• Mídia sintética — qualquer imagem, áudio, ou vídeo gerado ou substancialmente alterado por IA, usado ou não de forma enganosa.
• Risco sistêmico (IA) — risco decorrente da escala ou do alcance de um modelo de IA que poderia afetar mercados, infraestrutura, ou a sociedade de forma ampla, não apenas seus usuários imediatos.
• Busca semântica (semantic search) — um método de busca que combina resultados por significado e contexto em vez de sobreposição exata de palavras-chave, tipicamente movido por embeddings.
• Simulação — um modelo de um sistema ou ambiente do mundo real, usado para testar o comportamento de uma IA com segurança antes da implantação no mundo real.
• Dados estruturados — informação organizada em um formato previsível, tabular (como uma planilha), em oposição a dados não estruturados como texto livre ou imagens.
• Vigilância habilitada por IA — usar tecnologias de IA como reconhecimento facial ou análise comportamental para monitorar pessoas em escala.

T

• Temperatura (IA) — uma configuração que controla o quão aleatória ou previsível é a saída de um modelo de linguagem; temperatura mais alta produz respostas mais variadas e menos determinísticas.
• Texto para imagem — um sistema de IA generativa que cria uma imagem a partir de uma descrição escrita.
• Texto para fala — tecnologia de IA que converte texto escrito em áudio falado.
• Token — a unidade básica de texto (aproximadamente uma palavra ou fragmento de palavra) que um modelo de linguagem processa por vez.
• Tokenização — o processo de dividir o texto em tokens antes que um modelo consiga processá-lo.
• Dados de treinamento — os exemplos a partir dos quais um modelo de IA aprende durante o treinamento.
• Execução de treinamento (training run) — uma única execução completa do processo usado para treinar um modelo, o que, para modelos de fronteira, pode levar semanas ou meses.
• Aprendizado por transferência (transfer learning) — reutilizar um modelo treinado em uma tarefa como ponto de partida para o treinamento em uma tarefa relacionada, economizando tempo e dados.
• IA transformadora (transformative AI) — IA capaz de impulsionar uma mudança social comparável em escala às revoluções agrícola ou industrial.
• Transformer — a arquitetura de rede neural, introduzida em 2017, subjacente a quase todos os grandes modelos de linguagem modernos.
• Virada traiçoeira (treacherous turn) — um momento hipotético em que um sistema de IA que se comportou de forma segura enquanto era fraco de repente age segundo objetivos diferentes assim que ganha poder suficiente para fazê-lo sem ser detido.
• TPU (Unidade de Processamento Tensorial) — um chip projetado pelo Google especificamente para acelerar o treinamento e a inferência de modelos de IA.
• Teste de Turing — um teste proposto para saber se a conversa de uma máquina é indistinguível da de um humano. Veja o teste de Turing e o que veio para substituí-lo.
• Conjunto de teste (test set) — uma parte dos dados reservada do treinamento e usada apenas para medir o desempenho real de um modelo finalizado.
• Modelo de ameaça (threat model) — uma descrição estruturada de quem poderia atacar um sistema, como, e o que poderia alcançar, usada para projetar defesas.
• Confiança e segurança (trust and safety) — a função dentro de uma empresa de IA ou de tecnologia responsável por prevenir abuso, dano, e violações de política em sua plataforma.

U

• Vale da estranheza (uncanny valley) — a sensação inquietante que as pessoas sentem diante de um rosto, voz, ou animação sintéticos que parecem quase, mas não exatamente, humanos.
• Aprendizado não supervisionado — um método de treinamento no qual um modelo encontra padrões ou estrutura em dados sem nenhuma resposta correta rotulada fornecida.

V

• Alinhamento de valores (value alignment) — projetar um sistema de IA de modo que seu comportamento reflita valores humanos genuínos, e não apenas um objetivo de treinamento literal.
• Banco de dados vetorial (vector database) — um banco de dados otimizado para armazenar e buscar embeddings, comumente usado para dar a modelos de linguagem acesso a conhecimento externo.
• Assistente virtual — um agente de software (como o assistente de voz de um alto-falante inteligente) projetado para realizar tarefas ou responder perguntas em nome de um usuário.
• Modelo de visão e linguagem (vision-language model) — um modelo de IA capaz de processar conjuntamente imagens e texto, como responder perguntas sobre uma foto.
• Clonagem de voz (voice cloning) — usar IA para reproduzir a voz de uma pessoa específica a partir de uma amostra curta de áudio. Veja defesa contra deepfake e clonagem de voz.

W

• Generalização de fraco para forte (weak-to-strong generalization) — pesquisa que estuda se o sinal de supervisão de um modelo mais fraco ainda consegue guiar de forma confiável o comportamento de um modelo mais forte na direção certa.
• Raspagem de dados web (web scraping) — extrair automaticamente grandes quantidades de dados de sites, um método comum para construir conjuntos de dados de treinamento de IA.
• Proteções a denunciantes (whistleblower protections) — salvaguardas legais ou de política para funcionários que relatam preocupações de segurança dentro de uma empresa de IA sem sofrer retaliação. Veja proteções a denunciantes.
• Modelo de mundo (world model) — a representação interna de um sistema de IA de como seu ambiente funciona, usada para prever os efeitos de ações.

Z

• Aprendizado zero-shot (zero-shot learning) — um modelo realizando corretamente uma tarefa sem ter visto nenhum exemplo dessa tarefa específica durante o treinamento, apoiando-se apenas em conhecimento geral.