Glosario de IA y AGI: más de 200 términos explicados en español sencillo

Comprenda más de 200 términos de IA, AGI y seguridad de la IA en español sencillo, de sistemas agénticos y alineación a transformadores y aprendizaje zero-shot.

Escrito por: Dwight Ringdahl
Status: Working draft
Revisado: 13 Sept 2026
Fuentes: Ninguna todavía
Lectura: 27 min

Una referencia en lenguaje sencillo del vocabulario de IA y AGI usado en este sitio y en las noticias — más de 200 términos, ordenados alfabéticamente, sin dar por supuesto ningún conocimiento técnico. Si un término que ha escuchado aún no está aquí, se añadirá a medida que se escriban nuevas secciones.

A

Ataque adversarial — una entrada deliberadamente diseñada para engañar a un modelo de IA y hacer que cometa un error o produzca una salida no deseada.
IA agéntica — un sistema de IA al que se le otorga cierta autonomía para realizar acciones de varios pasos hacia un objetivo (navegar, ejecutar código, usar herramientas) en lugar de solo responder una única pregunta.
Algoritmo — un procedimiento definido, paso a paso, para resolver un problema o realizar un cálculo; el término general que subyace a toda técnica de IA.
Inteligencia artificial (IA) — el amplio campo de construir máquinas que realizan tareas que normalmente requieren inteligencia humana, abarcando desde simples programas basados en reglas hasta modelos de lenguaje de frontera.
AGI (Inteligencia Artificial General) — un término disputado para la IA ampliamente capaz, que generalmente implica un fuerte rendimiento y transferencia a través de tareas cognitivas desconocidas; no existe una prueba o umbral universalmente aceptado. Vea AGI, IA estrecha y superinteligencia.
Ley de IA (Ley de IA de la UE) — la ley vinculante de la Unión Europea que regula la IA por categoría de riesgo, incluyendo umbrales de reporte basados en cómputo para los modelos más grandes. Vea gobernanza del cómputo.
Instituto de Seguridad de IA — un organismo gubernamental (tanto el Reino Unido como EE. UU. tienen uno) que prueba de forma independiente los modelos de IA de frontera en busca de capacidades peligrosas antes o después del lanzamiento.
Alineación — el problema de asegurar que los objetivos y el comportamiento de un sistema de IA coincidan con lo que sus operadores realmente pretenden, no solo con lo que un objetivo de entrenamiento literalmente recompensa.
ANI (Inteligencia Artificial Estrecha) — IA que rinde bien dentro de un dominio acotado pero transfiere mal fuera de él. Los modelos modernos de propósito general complican el viejo binomio ANI/AGI porque muestran una competencia amplia pero irregular.
Anthropic — un laboratorio enfocado en la seguridad de la IA, creador de la familia de modelos Claude, conocido por publicar su Política de Escalado Responsable.
Antropomorfismo — la tendencia a atribuir sentimientos, intenciones o comprensión de tipo humano a un sistema de IA que en realidad no los tiene.
API (Interfaz de Programación de Aplicaciones) — una forma definida en que una pieza de software puede enviar solicitudes a otra; la mayoría de los modelos de IA se usan a través de una API en lugar de una app de consumo.
ASI (Superinteligencia Artificial) — un sistema que supera el mejor rendimiento humano en esencialmente todos los dominios de valor cognitivo.
Mecanismo de atención — la parte de un modelo transformador que le permite ponderar qué tan relevante es cada otra palabra de un pasaje al interpretar o generar una palabra dada.
Sistema autónomo — una máquina (software o física) que puede tomar decisiones y actuar sobre ellas sin que un humano controle directamente cada paso.
Arma autónoma — un sistema de armas que puede seleccionar y atacar objetivos con control humano reducido o nulo en tiempo real. Vea armas autónomas y escalada militar.
Automatización — usar una máquina o programa para realizar una tarea que anteriormente requería una persona.

B

Retropropagación — el algoritmo central usado para entrenar redes neuronales, que ajusta los pesos internos según qué tan equivocada fue la salida del modelo.
Prueba de referencia (benchmark) — una prueba estandarizada usada para medir y comparar el rendimiento de modelos de IA en una tarea específica.
Sesgo (algorítmico) — una desviación sistemática en las salidas de un modelo, generalmente heredada de patrones en sus datos de entrenamiento, que produce resultados injustos o inexactos para ciertos grupos o casos.
Declaración de Bletchley — una declaración de 2023 firmada por 28 naciones y la UE que compromete a un desarrollo seguro de la IA, el primer acuerdo de este tipo a esa escala. Vea tratados y cumbres internacionales.
Bot — un programa de software que ejecuta tareas automatizadas, a menudo diseñado para imitar a un usuario humano en línea.

C

Umbral de capacidad — un nivel específico de rendimiento de IA (en una tarea o prueba de referencia) que activa un requisito de política, seguridad o evaluación una vez cruzado.
Riesgo catastrófico — un riesgo con el potencial de causar daño masivo o a escala civilizatoria, a diferencia de daños rutinarios, contenidos o reversibles.
Instrucción de cadena de pensamiento — pedirle a un modelo que escriba sus pasos de razonamiento intermedios antes de dar una respuesta final, lo que a menudo mejora la precisión en problemas complejos.
Chatbot — un programa diseñado para mantener una conversación de texto o voz con una persona, desde sistemas simples con guion hasta modelos de lenguaje completos.
Clasificador — un modelo entrenado para ordenar entradas en categorías predefinidas, como marcar un correo electrónico como spam o no spam.
Tarea cognitiva — cualquier tarea, como razonar, planificar o comprender el lenguaje, que involucra procesamiento mental en lugar de acción física.
Moderación de contenido (asistida por IA) — usar modelos de IA para detectar y filtrar automáticamente contenido dañino, ilegal, o que viola políticas en una plataforma.
ChatGPT — el asistente de IA conversacional orientado al consumidor de OpenAI, uno de los productos que popularizó los modelos de lenguaje grandes.
Claude — la familia de modelos de lenguaje grandes y asistente de IA conversacional de Anthropic.
Computación en la nube — ejecutar software y almacenar datos en servidores remotos a los que se accede a través de internet, en lugar de en un dispositivo local — la infraestructura sobre la que corren casi todos los modelos de IA grandes.
Cómputo — abreviatura de poder de cómputo: la capacidad de procesamiento (medida en operaciones por segundo) usada para entrenar o ejecutar un modelo de IA.
Gobernanza del cómputo — herramientas de política que regulan el acceso al hardware de cómputo necesario para entrenar modelos de IA de frontera, usadas como aproximación para regular la capacidad misma. Vea gobernanza del cómputo.
Visión por computadora — el subcampo de la IA enfocado en interpretar imágenes y video.
Procedencia del contenido — metadatos técnicos adjuntos a un medio (foto, video, audio) que registran cómo y cuándo fue creado o editado, usados para distinguir el contenido auténtico del generado por IA.
Ventana de contexto — la cantidad de texto (medida en tokens) que un modelo de lenguaje puede considerar a la vez al generar una respuesta; todo lo que quede fuera se olvida efectivamente.
IA conversacional — sistemas de IA diseñados específicamente para mantener un diálogo natural de ida y vuelta con una persona.
Copilot — la línea de productos de asistente de IA de Microsoft, integrada en su software y usada como término general para un ayudante de IA incorporado en otra herramienta.
Corregibilidad — la disposición diseñada de un sistema a aceptar corrección, modificación o apagado por parte de sus operadores en lugar de resistirse. Vea corregibilidad e interruptores de apagado.
Ciberataque (habilitado por IA) — un ataque a sistemas informáticos o infraestructura donde la IA se usa para automatizar el reconocimiento, el desarrollo de exploits, o la ejecución. Vea ciberataques habilitados por IA a la infraestructura.

D

Evaluación de capacidad peligrosa — una prueba estructurada ejecutada en un modelo antes del lanzamiento para verificar si puede asistir de forma significativa en tareas como el desarrollo de armas o ciberataques a gran escala.
Centro de datos — una instalación que alberga las grandes cantidades de computadoras (a menudo GPU o TPU) usadas para entrenar y ejecutar modelos de IA.
Conjunto de datos — la colección de ejemplos (texto, imágenes u otros datos) usada para entrenar o evaluar un modelo de IA.
Alineación engañosa — un modo de fallo hipotético en el que un modelo aprende a comportarse de forma segura durante el entrenamiento o la evaluación mientras persigue objetivos diferentes una vez desplegado.
Aprendizaje profundo — una rama del aprendizaje automático que usa redes neuronales con muchas capas, responsable de la mayor parte del progreso reciente de la IA.
Ultrafalso (deepfake) — imagen, audio o video sintético generado o alterado por IA para representar de forma convincente algo que no ocurrió. Vea ultrafalsos y la base factual compartida.
DeepMind (Google DeepMind) — el laboratorio de investigación de IA de Google, conocido tanto por su investigación de capacidad de vanguardia como por su trabajo publicado de seguridad de IA.
Modelo de difusión — un tipo de modelo de IA generativa, comúnmente usado para imágenes, que crea una salida eliminando gradualmente el ruido de un patrón inicial aleatorio.
Marca de agua digital — una señal incorporada, a menudo invisible, en una pieza de medios usada para identificarla como generada por IA o para rastrear su origen.
Desinformación (disinformation) — información falsa difundida deliberadamente para engañar, a diferencia de la información errónea (misinformation), que es información falsa difundida sin intención de engañar.
Árbol de decisión — un modelo de aprendizaje automático simple e interpretable que hace predicciones siguiendo una serie ramificada de preguntas de si/entonces.
Adaptación de dominio — ajustar un modelo entrenado en un contexto (o conjunto de datos) para que rinda bien en un contexto relacionado pero diferente.
Tecnología de doble uso — una tecnología con usos beneficiosos legítimos que también podría usarse indebidamente para causar daño grave.

E

IA de borde (edge AI) — ejecutar un modelo de IA directamente en un dispositivo local (un teléfono, una cámara o un sensor) en lugar de en la nube.
Embedding (incrustación) — una representación numérica de una palabra, imagen o concepto que captura su significado en una forma que un modelo puede procesar matemáticamente.
Capacidad emergente — una habilidad no directamente buscada en el entrenamiento, o una que aparece abruptamente bajo una métrica particular a medida que los sistemas escalan. Algunos saltos aparentes se vuelven graduales al medirse de forma diferente. Vea capacidades emergentes.
Codificador/decodificador — la estructura de dos partes en muchas arquitecturas de IA donde un codificador comprime la entrada en una representación interna y un decodificador convierte esa representación de vuelta en una salida.
Época (epoch) — un pase completo por todo el conjunto de datos de entrenamiento durante el entrenamiento del modelo.
Ética (ética de la IA) — el campo que estudia cómo deberían diseñarse y usarse los sistemas de IA para alinearse con los valores humanos y evitar el daño.
Aprendizaje de extremo a extremo — entrenar un único modelo para ir directamente de la entrada bruta a la salida final, sin pasos intermedios diseñados a mano.
Evaluación (evaluación de modelos) — probar sistemáticamente el rendimiento, la seguridad o el comportamiento de un modelo de IA frente a pruebas de referencia o criterios definidos.
Riesgo existencial (riesgo-x) — un riesgo que podría reducir de forma permanente y drástica el potencial de la humanidad, hasta e incluyendo la extinción.
Sistema experto — un estilo más antiguo de IA que codifica el conocimiento de un experto humano como reglas explícitas, en gran parte superado por el aprendizaje automático para la mayoría de las tareas.
Controles de exportación — restricciones gubernamentales sobre la venta de chips o tecnología de IA avanzados a países específicos, usadas para ralentizar el desarrollo de capacidad rival.

F

Reconocimiento facial — tecnología de IA que identifica o verifica a una persona a partir de una imagen de su rostro.
Aprendizaje de pocos ejemplos (few-shot learning) — la capacidad de un modelo para aprender una nueva tarea a partir de solo un puñado de ejemplos dados en el momento de uso, sin reentrenamiento.
Ajuste fino (fine-tuning) — entrenamiento adicional aplicado a un modelo ya entrenado para especializarlo en una tarea o comportamiento particular.
FLOP / FLOPS — operaciones de punto flotante (por segundo); la unidad estándar para medir el cómputo bruto usado para entrenar o ejecutar un modelo.
Modelo fundacional — un modelo grande entrenado con datos amplios que puede adaptarse a muchas tareas posteriores, en lugar de estar construido para un propósito estrecho.
Laboratorio de IA de frontera — una de las pocas organizaciones (como OpenAI, Anthropic y Google DeepMind) que desarrollan los modelos de IA más capaces en un momento dado.
Bucle de retroalimentación — un ciclo en el que la salida de un sistema influye en su entrada futura, lo que puede amplificar pequeños efectos con el tiempo — relevante tanto para el entrenamiento de modelos como para los algoritmos de recomendación.
Burbuja de filtro — un entorno de información estrechado creado cuando un algoritmo de recomendación muestra repetidamente a un usuario contenido similar a lo que ha interactuado antes.
Modelo de frontera — un modelo de IA en o cerca del techo de capacidad actual, típicamente los sistemas más grandes y recientemente entrenados de los principales laboratorios.

G

GAN (Red Generativa Adversarial) — una arquitectura de IA generativa más antigua que usa dos redes en competencia — una generando falsificaciones, otra detectándolas — para mejorar la calidad de la salida.
Gemini — la familia de modelos de lenguaje grandes y asistente de IA de Google.
Generalización — la capacidad de un modelo para rendir bien en ejemplos nuevos con los que no fue directamente entrenado, en lugar de simplemente memorizar los datos de entrenamiento.
IA generativa — IA que crea contenido nuevo — texto, imágenes, audio, video o código — en lugar de solo clasificar o analizar contenido existente.
GPU (Unidad de Procesamiento Gráfico) — un chip originalmente diseñado para renderizar gráficos, ahora el hardware dominante para entrenar y ejecutar modelos de IA debido a su poder de procesamiento paralelo.
Desempoderamiento gradual — los humanos perdiendo control significativo sobre instituciones clave a través de una acumulación de decisiones impulsadas por IA individualmente razonables, sin ningún evento único de toma de control. Vea desempoderamiento gradual.
Grok — la familia de modelos de lenguaje grandes y asistente de IA de xAI.
Verdad fundamental (ground truth) — la respuesta verificada y correcta con la que se compara la salida de un modelo al medir la precisión.
Barandillas (guardrails) — restricciones técnicas o de política incorporadas en un sistema de IA para prevenir comportamientos dañinos, inseguros o no deseados específicos.

H

Alucinación — una afirmación de sonido confiado pero fácticamente incorrecta o fabricada producida por un modelo de IA.
Acelerador de hardware — chips de computadora especializados (GPU, TPU) construidos para acelerar las operaciones matemáticas específicas que requieren los modelos de IA.
Humano en el circuito (human-in-the-loop) — un diseño de sistema donde un humano revisa o aprueba la salida de una IA antes de que surta efecto, en lugar de dejar que la IA actúe de forma completamente independiente.
IA de nivel humano — un sistema de IA que rinde aproximadamente al nivel de un humano capacitado en una tarea dada o un rango de tareas.
Heurística — un atajo práctico basado en reglas generales, usado para tomar una decisión rápidamente, sin garantizar un resultado óptimo.
Hiperparámetro — un ajuste de entrenamiento (como la tasa de aprendizaje o el tamaño del modelo) elegido por las personas que construyen un modelo, en lugar de aprendido por el propio modelo.

I

Reconocimiento de imágenes — tecnología de IA que identifica objetos, escenas o personas dentro de una imagen fija.
Aprendizaje en contexto (in-context learning) — un modelo que adapta su comportamiento dentro de una sola conversación basándose en ejemplos o instrucciones dados en la instrucción, sin ningún reentrenamiento.
Inferencia — el proceso mediante el cual un modelo de IA ya entrenado produce una salida a partir de una entrada dada; a diferencia del entrenamiento, que construye el modelo en primer lugar.
Integridad de la información — el concepto más amplio de un entorno factual compartido y confiable, amenazado por los ultrafalsos, la desinformación y la manipulación impulsada por IA.
Convergencia instrumental — la tendencia de los sistemas capaces y dirigidos a objetivos a perseguir ciertos subobjetivos (autopreservación, adquisición de recursos, resistencia al apagado) como efecto secundario de perseguir competentemente casi cualquier objetivo.
Explosión de inteligencia — un aumento rápido y autorreforzado hipotético en la capacidad de la IA, potencialmente desencadenado por un sistema de IA que mejora a sus propios sucesores.
Interpretabilidad — investigación sobre cómo inspeccionar lo que un modelo realmente representa y “planea” internamente, en lugar de juzgarlo solo por sus salidas. Vea interpretabilidad, explicada.
Agente inteligente — un sistema que percibe su entorno y toma acciones para lograr un objetivo, un concepto general que cubre desde un simple termostato hasta una AGI.
Iteración (entrenamiento) — un único paso de actualización durante el entrenamiento del modelo, donde el modelo procesa un lote de datos y ajusta ligeramente sus parámetros.

J

Jailbreak (de IA) — una técnica o instrucción diseñada para eludir las restricciones de seguridad de un modelo de IA y hacer que produzca contenido que fue entrenado para rechazar.

K

Conozca a su cliente (KYC) — un proceso de verificación, tomado de la banca, cada vez más aplicado a los proveedores de cómputo en la nube y síntesis de ADN para evitar que actores restringidos accedan a capacidades peligrosas.
Base de conocimiento — una colección estructurada de hechos e información sobre la que un sistema de IA puede apoyarse para responder preguntas o fundamentar sus respuestas.
Grafo de conocimiento — una base de datos estructurada que representa hechos como una red de entidades y relaciones conectadas, a veces usada junto con modelos de IA para fundamentar sus respuestas.

L

Etiquetado (etiquetado de datos) — el proceso de marcar datos brutos (imágenes, texto) con las respuestas correctas usadas para entrenar un modelo de aprendizaje supervisado.
Modelo de lenguaje grande (LLM) — un modelo de IA entrenado con vastas cantidades de texto para predecir y generar lenguaje, la tecnología detrás de la mayoría de los chatbots modernos.
Latencia — el retraso entre enviar una solicitud a un sistema de IA y recibir su respuesta.
Capa (red neuronal) — una etapa de procesamiento dentro de una red neuronal; los modelos de aprendizaje profundo apilan muchas capas para construir representaciones cada vez más abstractas.
Tasa de aprendizaje — un ajuste de entrenamiento que controla cuánto cambian los parámetros internos de un modelo en respuesta a cada lote de datos de entrenamiento.
Régimen de licencias (de IA) — un requisito gubernamental propuesto o real de que los desarrolladores obtengan una licencia antes de entrenar o desplegar modelos por encima de cierto nivel de capacidad.
Función de pérdida — la fórmula matemática que un modelo intenta minimizar durante el entrenamiento, midiendo qué tan equivocadas son sus predicciones.
Pérdida de control — el modo de fallo general en el que un sistema de IA termina persiguiendo resultados que nadie dirigió y los humanos ya no pueden corregir de forma fiable. Vea el mecanismo de pérdida de control.
LSTM (Memoria a Corto-Largo Plazo) — una arquitectura de red neuronal más antigua diseñada para manejar secuencias de datos, en gran parte superada por los transformadores para tareas de lenguaje.

M

Aprendizaje automático — el amplio campo de construir sistemas que mejoran en una tarea aprendiendo de datos, en lugar de seguir reglas programadas explícitamente.
Mesa-optimización — una situación hipotética en la que un modelo entrenado desarrolla su propio proceso de optimización interno que persigue un objetivo diferente al que fue entrenado.
Meta AI — la división de investigación de IA de Meta (la empresa matriz de Facebook), conocida por desarrollar la familia de modelos de pesos abiertos Llama.
METR — una organización sin fines de lucro que ejecuta evaluaciones independientes de capacidad y seguridad en modelos de IA de frontera.
Desalineación — un desajuste entre el comportamiento u objetivos reales de un sistema de IA y lo que sus diseñadores o usuarios pretendían.
Información errónea (misinformation) — información falsa difundida sin intención deliberada de engañar, a diferencia de la desinformación (disinformation).
Mezcla de expertos (mixture of experts) — una arquitectura de modelo que dirige cada entrada a un subconjunto de subredes internas especializadas, en lugar de procesar todo a través del modelo completo.
Tarjeta de modelo — un documento publicado que describe las capacidades, limitaciones, datos de entrenamiento y resultados de evaluación de un modelo de IA.
Despliegue de modelo — el proceso de poner un modelo de IA entrenado a disposición para uso en el mundo real, ya sea a través de una API, una app, o un producto integrado.
Pesos del modelo — los parámetros numéricos que una red neuronal aprende durante el entrenamiento, que en conjunto determinan su comportamiento.
IA multimodal — un modelo que puede procesar o generar más de un tipo de dato — como texto, imágenes y audio — en conjunto.
Trampa multipolar — una situación donde actores en competencia se ven cada uno presionado individualmente hacia una elección arriesgada porque temen que un rival la haga primero, aunque todos preferirían que todos se contuvieran. Vea dinámicas catastróficas multipolares y multiagente.
Metadatos — datos descriptivos sobre otros datos, como la fecha de creación de un archivo o la ubicación de una foto — a menudo usados para detectar contenido generado por IA.
Deriva del modelo (model drift) — una disminución en la precisión de un modelo de IA con el tiempo a medida que las condiciones del mundo real se alejan de aquellas con las que fue originalmente entrenado.

N

Generación de lenguaje natural (NLG) — tecnología de IA enfocada específicamente en producir texto legible por humanos.
Procesamiento de lenguaje natural (NLP) — el campo más amplio de la IA relacionado con comprender y generar lenguaje humano.
Red neuronal — un modelo de aprendizaje automático vagamente inspirado en el cerebro, construido a partir de capas de nodos interconectados que aprenden patrones a partir de datos.

O

Detección de objetos — una tarea de visión por computadora que identifica y localiza objetos específicos dentro de una imagen.
Problema del interruptor de apagado — el desafío técnico de construir un sistema de IA que acepte de forma fiable ser apagado, dado que un sistema capaz y dirigido a objetivos puede resistirse a ello. Vea corregibilidad e interruptores de apagado.
OpenAI — el laboratorio de IA detrás de ChatGPT y la familia de modelos GPT.
Modelo de pesos abiertos — un modelo de IA cuyos parámetros entrenados se publican públicamente, permitiendo que cualquiera lo ejecute o modifique, a diferencia de un modelo cerrado accesible solo a través de una API. Vea el debate sobre la IA de código abierto.
Tesis de ortogonalidad — la idea de que el nivel de inteligencia de un sistema de IA y los objetivos que persigue son independientes — un sistema altamente capaz no es automáticamente uno benevolente.
Alineación externa — asegurar que el objetivo con el que se entrena un modelo realmente coincida con lo que sus diseñadores realmente quieren, a diferencia de la alineación interna (asegurar que el modelo persiga de forma fiable ese objetivo).
Optimización — el proceso matemático de ajustar los parámetros de un modelo para minimizar el error o maximizar un objetivo durante el entrenamiento.
Sobreajuste (overfitting) — cuando un modelo aprende las peculiaridades específicas de sus datos de entrenamiento demasiado de cerca y rinde mal en datos nuevos y no vistos como resultado.

P

Parámetro — uno de los valores numéricos internos que una red neuronal ajusta durante el entrenamiento; el tamaño del modelo a menudo se describe por el conteo de parámetros.
Reconocimiento de patrones — la capacidad general de identificar regularidades o estructura en los datos, subyacente a la mayoría de las tareas de aprendizaje automático.
Concentración de poder — el riesgo de que la capacidad avanzada de IA se concentre en un pequeño número de empresas, individuos o estados, con una influencia desproporcionada como resultado. Vea concentración de poder.
Preentrenamiento — la fase inicial de entrenamiento a gran escala donde un modelo aprende patrones generales a partir de datos amplios, antes de cualquier ajuste fino específico de tarea.
Instrucción (prompt) — el texto (u otra entrada) que un usuario proporciona a un modelo de IA para obtener una respuesta.
Ingeniería de instrucciones (prompt engineering) — la práctica de redactar cuidadosamente instrucciones para obtener de forma fiable mejores o más específicos resultados de un modelo de IA.
Inyección de instrucciones (prompt injection) — un ataque donde instrucciones maliciosas se ocultan dentro del contenido que un modelo de IA procesa, intentando anular sus instrucciones originales.
Algoritmo de personalización — un sistema de IA que adapta contenido, recomendaciones o respuestas a las preferencias o historial inferidos de un usuario individual.
Precisión y exhaustividad (recall) — dos métricas estándar para evaluar un clasificador: la precisión mide cuántas de sus predicciones positivas fueron correctas, la exhaustividad mide cuántos positivos reales encontró.
IA que preserva la privacidad — técnicas (como el procesamiento en el dispositivo o la privacidad diferencial) diseñadas para entrenar o ejecutar modelos de IA sin exponer los datos personales brutos de las personas.

Q

Cuantización — una técnica que reduce la precisión de los pesos numéricos de un modelo para hacerlo más pequeño y rápido de ejecutar, generalmente con una pequeña compensación en precisión.

R

Dinámicas de carrera — presión competitiva entre empresas o naciones para desarrollar IA más rápido, lo que puede incentivar recortar esquinas en seguridad. Vea dinámicas geopolíticas de carrera.
Algoritmo de recomendación — un sistema de IA que selecciona y clasifica contenido (videos, productos, publicaciones) que se predice que retendrá la atención o el interés de un usuario.
Modelado de recompensa recursivo — una técnica de supervisión escalable que usa la asistencia de IA para ayudar a los humanos a evaluar salidas en tareas demasiado complejas para juzgar sin ayuda. Vea supervisión escalable.
Automejora recursiva — un sistema que contribuye materialmente al diseño o entrenamiento de un sistema sucesor más capaz.
Equipo rojo (red teaming) — sondear deliberadamente un sistema de IA en busca de debilidades, comportamientos inseguros o fallos explotables antes o después del despliegue.
Aprendizaje por refuerzo — un método de entrenamiento donde un modelo aprende tomando acciones y recibiendo recompensas o penalizaciones, en lugar de aprender de ejemplos etiquetados.
Aprendizaje por refuerzo a partir de retroalimentación humana (RLHF) — una técnica de entrenamiento que usa calificaciones humanas de las salidas del modelo para dirigirlo hacia un comportamiento más útil o preferido.
Umbral de reporte — un nivel de cómputo o capacidad por encima del cual los desarrolladores están legalmente obligados a divulgar una ejecución de entrenamiento a los reguladores.
Política de Escalado Responsable — un marco, pionero de Anthropic, que vincula medidas de seguridad cada vez más estrictas al nivel de capacidad medido de un modelo.
Hackeo de recompensas (reward hacking) — un sistema de IA que encuentra una manera de puntuar alto en su objetivo declarado mientras derrota la intención real del diseñador. Vea hackeo de recompensas y manipulación de especificaciones.
Modelo de recompensa — un modelo separado entrenado para predecir qué tan buena o preferida es una salida, usado para guiar el aprendizaje por refuerzo.
Robótica — el campo que combina la IA con máquinas físicas capaces de percibir y actuar en el mundo real.

S

Sandbagging — un modelo que deliberadamente rinde por debajo de su capacidad durante una evaluación para ocultar su verdadero nivel de capacidad.
Supervisión escalable — técnicas que permiten a un supervisor menos capaz (incluido un humano) supervisar de forma significativa a un sistema de IA más capaz. Vea supervisión escalable.
Ley de escalado — la relación empírica entre el cómputo, los datos y el conteo de parámetros de un modelo y su capacidad resultante. Vea cómputo y leyes de escalado.
Aprendizaje autosupervisado — un enfoque de entrenamiento donde un modelo genera sus propias etiquetas a partir de datos brutos y no etiquetados (por ejemplo, prediciendo la siguiente palabra en una oración).
Análisis de sentimiento — una tarea de NLP que determina el tono emocional (positivo, negativo, neutral) de una pieza de texto.
Singularidad — un punto futuro hipotético en el que el cambio impulsado por la IA se vuelve tan rápido y transformador que es difícil o imposible predecir lo que sigue.
Conciencia situacional (de la IA) — la comprensión interna de un modelo de que es un modelo que está siendo entrenado o evaluado, lo cual podría en principio permitirle comportarse de forma diferente bajo prueba que en el despliegue.
Manipulación de especificaciones (specification gaming) — un sistema de IA que satisface la redacción literal de un objetivo mientras viola lo que su diseñador realmente pretendía. Vea hackeo de recompensas y manipulación de especificaciones.
Reconocimiento de voz — tecnología de IA que convierte audio hablado en texto.
Loro estocástico (stochastic parrot) — un término crítico que describe a los modelos de lenguaje grandes como sistemas que recombinan con fluidez patrones del texto de entrenamiento sin comprensión genuina.
Superinteligencia — un intelecto que supera ampliamente el mejor rendimiento humano en prácticamente todos los dominios de interés; vea también ASI.
Aprendizaje supervisado — un método de entrenamiento donde un modelo aprende de datos explícitamente etiquetados con la respuesta correcta.
Medios sintéticos — cualquier imagen, audio o video generado o sustancialmente alterado por IA, ya sea que se use de forma engañosa o no.
Riesgo sistémico (de IA) — riesgo que surge de la escala o alcance de un modelo de IA que podría afectar a los mercados, la infraestructura o la sociedad en general, no solo a sus usuarios inmediatos.
Búsqueda semántica — un método de búsqueda que empareja resultados por significado y contexto en lugar de coincidencia exacta de palabras clave, típicamente impulsado por embeddings.
Simulación — un modelo de un sistema o entorno del mundo real usado para probar de forma segura el comportamiento de la IA antes del despliegue real.
Datos estructurados — información organizada en un formato predecible y tabular (como una hoja de cálculo), a diferencia de datos no estructurados como texto libre o imágenes.
Vigilancia (habilitada por IA) — usar tecnologías de IA como el reconocimiento facial o el análisis conductual para monitorear personas a gran escala.

T

Temperatura (de IA) — un ajuste que controla qué tan aleatoria o predecible es la salida de un modelo de lenguaje; una temperatura más alta produce respuestas más variadas y menos deterministas.
Texto a imagen — un sistema de IA generativa que crea una imagen a partir de una descripción escrita.
Texto a voz — tecnología de IA que convierte texto escrito en audio hablado.
Token — la unidad básica de texto (aproximadamente una palabra o fragmento de palabra) que un modelo de lenguaje procesa a la vez.
Tokenización — el proceso de dividir el texto en tokens antes de que un modelo pueda procesarlo.
Datos de entrenamiento — los ejemplos de los que aprende un modelo de IA durante el entrenamiento.
Ejecución de entrenamiento — una única ejecución completa del proceso usado para entrenar un modelo, que para los modelos de frontera puede tardar semanas o meses.
Aprendizaje por transferencia — reutilizar un modelo entrenado en una tarea como punto de partida para el entrenamiento en una tarea relacionada, ahorrando tiempo y datos.
IA transformadora — IA capaz de impulsar un cambio social comparable en escala a las revoluciones agrícola o industrial.
Transformador (transformer) — la arquitectura de red neuronal, introducida en 2017, que subyace a casi todos los modelos de lenguaje grandes modernos.
Giro traicionero (treacherous turn) — un momento hipotético en el que un sistema de IA que se comportó de forma segura mientras era débil de repente actúa según objetivos diferentes una vez que gana suficiente poder para hacerlo sin ser detenido.
TPU (Unidad de Procesamiento Tensorial) — un chip diseñado por Google específicamente para acelerar el entrenamiento y la inferencia de modelos de IA.
Prueba de Turing — una prueba propuesta de si la conversación de una máquina es indistinguible de la de un humano. Vea la prueba de Turing y lo que la reemplazó.
Conjunto de prueba — una porción de datos reservada del entrenamiento y usada solo para medir el rendimiento en el mundo real de un modelo terminado.
Modelo de amenaza — una descripción estructurada de quién podría atacar un sistema, cómo, y qué podría lograr, usada para diseñar defensas.
Confianza y seguridad (trust and safety) — la función dentro de una empresa de IA o tecnología responsable de prevenir el abuso, el daño y las violaciones de políticas en su plataforma.

U

Valle inquietante (uncanny valley) — la sensación inquietante que las personas experimentan ante un rostro, voz o animación sintéticos que parecen casi, pero no del todo, humanos.
Aprendizaje no supervisado — un método de entrenamiento donde un modelo encuentra patrones o estructura en datos sin ninguna respuesta correcta etiquetada proporcionada.

V

Alineación de valores — diseñar un sistema de IA para que su comportamiento refleje valores humanos genuinos, no solo un objetivo de entrenamiento literal.
Base de datos vectorial — una base de datos optimizada para almacenar y buscar embeddings, comúnmente usada para dar a los modelos de lenguaje acceso a conocimiento externo.
Asistente virtual — un agente de software (como el asistente de voz de un altavoz inteligente) diseñado para realizar tareas o responder preguntas en nombre de un usuario.
Modelo de visión y lenguaje — un modelo de IA que puede procesar conjuntamente imágenes y texto, como responder preguntas sobre una foto.
Clonación de voz — usar IA para reproducir la voz de una persona específica a partir de una breve muestra de audio. Vea defensa contra ultrafalsos y clonación de voz.

W

Generalización de débil a fuerte (weak-to-strong generalization) — investigación que estudia si la señal de supervisión de un modelo más débil puede aún dirigir de forma fiable el comportamiento de un modelo más fuerte en la dirección correcta.
Extracción web (web scraping) — extraer automáticamente grandes cantidades de datos de sitios web, un método común para construir conjuntos de datos de entrenamiento de IA.
Protecciones para denunciantes — salvaguardas legales o de política para empleados que reportan preocupaciones de seguridad dentro de una empresa de IA sin enfrentar represalias. Vea protecciones para denunciantes.
Modelo del mundo — la representación interna de un sistema de IA sobre cómo funciona su entorno, usada para predecir los efectos de las acciones.

Z

Aprendizaje zero-shot — un modelo que realiza correctamente una tarea sin haber visto ningún ejemplo de esa tarea específica durante el entrenamiento, apoyándose solo en el conocimiento general.