A menudo se mezclan dos significados
Una capacidad de IA puede ser “emergente” en al menos dos sentidos. En el sentido amplio, un modelo muestra un comportamiento útil que no fue un objetivo de entrenamiento explícito y específico de la tarea. Un modelo de lenguaje entrenado principalmente para predecir tokens puede traducir, escribir código, resumir leyes, o resolver algunos problemas aritméticos. Esas habilidades pueden surgir porque los datos de entrenamiento y el objetivo recompensan patrones internos reutilizables.
En el sentido más fuerte, la emergencia significa que una capacidad aparece abruptamente a medida que aumenta la escala: los modelos más pequeños fallan, y luego un modelo más grande de repente tiene éxito. Un artículo de 2022 ampliamente discutido reportó ejemplos de tales saltos en distintas familias de modelos y tareas (Wei et al., 2022). La distinción importa. La existencia de capacidad no planificada está bien establecida; si una capacidad medida experimentó una verdadera discontinuidad depende de la métrica, los datos y el muestreo.
Ninguno de los dos significados implica consciencia, intención, o magia. Los sistemas complejos pueden adquirir representaciones de propósito general sin que un diseñador escriba un módulo para cada uso. La pregunta científica es cómo cambia el comportamiento con el entrenamiento y el diseño del sistema, y qué tan bien podemos anticiparlo.
Por qué algunos saltos son artefactos de medición
Supongamos que la precisión aritmética de un modelo sube gradualmente del 20 al 30 al 40 por ciento. Una prueba de referencia que otorga un solo punto únicamente cuando la precisión supera el 35 por ciento mostrará cero, cero, y luego uno — una discontinuidad creada por la puntuación. El mismo efecto ocurre cuando una calificación de coincidencia exacta no da crédito por una respuesta casi correcta, o cuando una tarea requiere varias subhabilidades y falla si falta alguna.
Schaeffer, Miranda y Koyejo reanalizaron casos reportados y mostraron que muchas transiciones abruptas se volvían suaves cuando se medían con métricas continuas, no lineales o sensibles al error (“¿Son las capacidades emergentes de los modelos de lenguaje grandes un espejismo?”). Esto no demuestra que las discontinuidades genuinas nunca ocurran. Muestra que un gráfico de prueba de referencia no puede establecer una sin descartar los efectos de la métrica, el muestreo disperso y las diferencias entre familias de modelos.
La escala tampoco es la única variable que cambia. Los modelos más grandes pueden usar datos, recetas de entrenamiento, tokenizadores, ajuste por instrucciones, herramientas o presupuestos de inferencia diferentes. Comparar productos con nombre puede confundir una mejora de ingeniería a nivel de sistema con un umbral puro de parámetros. Los investigadores necesitan series de escalado controladas, puntos de control densos y varias métricas para identificar el mecanismo.
Lo que sigue siendo genuinamente difícil de predecir
Incluso una mejora subyacente suave puede producir un umbral consecuente. Un agente cibernético que pasa del 40 al 60 por ciento de éxito puede cruzar el punto en el que el despliegue se vuelve económico. La capacidad de un modelo para conectar subhabilidades individualmente débiles puede desbloquear un flujo de trabajo. Los sistemas externos pueden amplificar pequeñas mejoras: las herramientas proporcionan acciones, la memoria extiende el contexto, y el muestreo repetido encuentra una respuesta exitosa.
Los desarrolladores tampoco pueden probar exhaustivamente cada tarea posible. Los modelos se entrenan con datos amplios y se despliegan a millones de usuarios que descubren aplicaciones y fallos que los evaluadores no imaginaron. Una capacidad puede, por tanto, ser sorprendente para el laboratorio incluso si se desarrolló gradualmente. La sorpresa puede reflejar una medición limitada en lugar de un cambio de fase matemáticamente nítido, pero aun así importa operacionalmente.
El Informe Internacional de Seguridad de la IA de 2026 enfatiza que las evaluaciones de frontera pueden tener una validez externa limitada y quedar obsoletas rápidamente a medida que los sistemas y los andamiajes cambian (Informe Internacional de Seguridad de la IA 2026). Esa es una afirmación de incertidumbre práctica, no evidencia de que todo comportamiento temido aparecerá espontáneamente.
La capacidad no es propensión
Un modelo puede ser capaz de realizar una acción cuando se le solicita deliberadamente sin que sea probable que la lleve a cabo por sí mismo. El análisis de seguridad debería separar la capacidad — si el sistema puede hacer algo — de la propensión — si tiende a hacerlo en condiciones relevantes. Un modelo que puede producir un plan engañoso en un juego de roles no ha demostrado con ello que persiga el engaño durante el despliegue. Por el contrario, una propensión medida baja puede reflejar una evaluación que no creó el disparador adecuado.
La misma distinción se aplica a la conciencia situacional, la evasión de salvaguardas, la autopreservación y el comportamiento estratégico. Estos son temas de investigación activos y posibles componentes de modelos de amenaza. Es inexacto decir que están destinados a emerger simplemente porque lo hicieron la traducción o la aritmética. La evidencia debería identificar el modelo probado, la instrucción, el entorno, la frecuencia y las explicaciones alternativas.
El lenguaje antropomórfico añade confusión. Los modelos pueden generar afirmaciones sobre querer sobrevivir porque un lenguaje similar aparece en sus datos de entrenamiento o porque la interacción recompensa una persona. Ese texto es un comportamiento que vale la pena investigar; no es acceso directo a un objetivo interno estable. Las afirmaciones sobre motivos requieren evidencia más sólida que citas de una conversación.
Por qué la emergencia sigue siendo relevante para la seguridad
La lección razonable de seguridad no es “cualquier cosa puede suceder de repente”. Es que el entrenamiento amplio crea más comportamientos de los que los diseñadores enumeran explícitamente, y la evaluación actual proporciona una cobertura incompleta. Eso justifica pruebas por etapas, monitoreo y defensa en profundidad. También advierte contra asumir que la ausencia en una prueba de referencia significa la ausencia bajo cualquier andamiaje o instrucción.
La evaluación debería comenzar durante el entrenamiento, usando puntos de control para medir tendencias antes de la ejecución final. Los equipos pueden mantener conjuntos de pruebas para riesgos cibernéticos, de asistencia biológica, de persuasión, de autonomía y de control del modelo, mientras añaden equipos rojos de exploración abierta para encontrar comportamientos no anticipados. Las pruebas privadas reducen la contaminación; los evaluadores externos reducen los puntos ciegos institucionales. El reporte de incidentes posteriores al despliegue captura fallos que las tareas de laboratorio pasan por alto.
Las políticas de umbral deberían responder a la capacidad demostrada sin requerir acuerdo filosófico sobre la emergencia. Si un sistema puede reducir materialmente las barreras a un daño severo, las salvaguardas relevantes deberían aplicarse sin importar si la curva fue suave o abrupta. Si la evidencia es débil, el reporte debería declarar la incertidumbre en lugar de tratar silenciosamente un comportamiento hipotético como observado.
La predictibilidad viene en capas
Algunas propiedades del modelo son más pronosticables que otras. La pérdida agregada a través de una distribución de datos a menudo ha seguido leyes de escalado suaves. El rendimiento en una prueba de referencia estable puede ser pronosticable dentro de un rango limitado. El éxito en un entorno complicado depende de herramientas, fiabilidad e interacciones que son más difíciles de modelar. El impacto social añade adopción, incentivos, instituciones y adversarios, lo que lo hace aún más difícil.
Esta jerarquía previene un error de inferencia común: que la pérdida de entrenamiento predecible haga predecible toda capacidad posterior, pero un comportamiento posterior sorprendente no invalida las leyes de escalado. Los investigadores pueden pronosticar un promedio mientras permanecen inciertos sobre fallos raros o tareas particulares.
La interpretabilidad puede eventualmente mejorar los pronósticos al exponer representaciones o mecanismos antes de que aparezcan claramente en el comportamiento. Hoy, sin embargo, los métodos de interpretabilidad proporcionan evidencia parcial en lugar de una lectura completa de lo que un modelo “sabe” o hará. La evaluación conductual y los controles del mundo real siguen siendo necesarios.
Cómo leer una afirmación de emergencia
Pregunte qué cambió a través de la comparación: parámetros, cómputo, datos, objetivo de entrenamiento, herramientas o instrucciones. Examine si la métrica es continua, si existen puntos de control intermedios, y si las barras de incertidumbre se superponen. Verifique si la tarea estaba en los datos de entrenamiento y si investigadores independientes reprodujeron el resultado. Lo más importante, distinga “inesperado por los autores” de “científicamente discontinuo”.
La capacidad emergente es un concepto útil cuando se usa con cuidado. Los modelos ampliamente entrenados sí adquieren habilidades que ningún ingeniero especificó una por una. Algunas capacidades se vuelven visibles solo después de que los sistemas cruzan umbrales prácticos. Pero muchos acantilados famosos son en parte artefactos de cómo puntuamos el comportamiento. La conclusión precisa no es ni que la emergencia sea una ilusión ni que la escala invoque impredeciblemente cualquier habilidad. Es que el desarrollo de capacidades solo se comprende parcialmente, las decisiones de medición importan, y la política de seguridad debería ser robusta tanto ante el cambio gradual como ante el sorprendente.