El escenario que este manual debe tomar en serio
Cada página de este pilar razona sobre un campo que avanza rápidamente, y las páginas de pronósticos y de panel de capacidades tratan el progreso rápido continuo como la hipótesis de trabajo. Esta página es el contrapeso: ¿y si la AGI no llega a tiempo? Un manual serio planifica para la distribución de resultados, no para el titular más probable, y esa distribución incluye un estancamiento. Esto es análisis de escenarios sobre un fenómeno históricamente documentado, no una afirmación de que el progreso se ha detenido.
Cómo fueron realmente los dos últimos inviernos
El campo ya ha pasado por esto, dos veces.
El primer invierno (aproximadamente 1974–1980) siguió a un golpe institucional directo. El informe de 1973 de Sir James Lighthill, Artificial Intelligence: A General Survey, encargado por el Consejo de Investigación Científica del Reino Unido, concluyó que las grandes promesas de la investigación en IA —traducción automática, robótica, resolución general de problemas— no habían logrado cumplirse ni remotamente a la escala proyectada, y recomendó redirigir el financiamiento hacia trabajo más acotado. En pocos años, los principales financiadores gubernamentales se retiraron a ambos lados del Atlántico, y los programas de posgrado se contrajeron drásticamente.
El segundo invierno (aproximadamente 1987–1993) mató a una víctima distinta: los sistemas expertos. Estos productos comerciales basados en reglas habían absorbido una enorme inversión corporativa y gubernamental durante la década de 1980, y luego colapsaron bajo su propia fragilidad: sistemas que no podían aprender, no podían manejar excepciones, y eran costosos de mantener. El desplome del mercado arrastró consigo el financiamiento de todo el paradigma de la IA simbólica. La historia de la investigación federal en computación de las Academias Nacionales, Funding a Revolution (1999), documenta cómo el repliegue de DARPA y la desaparición de los fabricantes de máquinas Lisp convirtieron el fracaso de un subcampo en una sequía a escala de toda la disciplina (National Academies Press). Las historias narrativas más completas son AI: The Tumultuous History of the Search for Artificial Intelligence de Crevier (1993) y The Quest for Artificial Intelligence de Nilsson (2009) — ambas valen la pena leerlas por el patrón, no solo por los hechos.
El patrón: cada invierno no fue un callejón sin salida técnico, sino un colapso de credibilidad y financiamiento. La ciencia siguió avanzando en las sombras; el dinero, el talento y la paciencia pública no. El invierno terminó cuando una demostración de bajo costo —el ajedrez, luego ImageNet— volvió a hacer el campo invertible, casi de la noche a la mañana.
El argumento a favor de un falso amanecer
La versión más fuerte de la tesis del estancamiento tiene tres patas.
Límites de datos y algorítmicos. El análisis de Epoch sobre texto generado por humanos estimó que la reserva de datos públicos de entrenamiento de alta calidad se agotaría en aproximadamente una década si se mantenían las tendencias entonces vigentes (Villalobos et al., 2022), forzando la dependencia de datos sintéticos y otras soluciones alternativas cuyo valor a largo plazo es genuinamente incierto. Por separado, el campo ha confundido repetidamente la saturación de pruebas de referencia con la competencia general — una advertencia que las páginas de capacidades emergentes y de la prueba de Turing de este manual desarrollan en detalle. Las pruebas de referencia pueden saturarse mientras la fiabilidad en el mundo real, lo que las economías realmente pagan, se queda muy rezagada.
La irregularidad podría ser el techo, no el suelo. El hallazgo persistente de que los modelos son sobrehumanos en algunas dimensiones e inexplicablemente débiles en otras adyacentes tiene una lectura pesimista: que escalar un predictor de siguiente token compra amplitud sin comprar el tipo de razonamiento robusto y composicional que los optimistas de las leyes de escalado proyectan. El argumento de Chollet de que las pruebas de referencia contemporáneas sobreestiman la inteligencia porque permiten la memorización en lugar de exigir adquisición de habilidades ante la novedad es la afirmación canónica de este escepticismo (Chollet, 2019).
El desbordamiento corta en ambas direcciones. Incluso si las ganancias son reales, es posible que ya se hayan extraído: el argumento del “desbordamiento de capacidad” implica que los modelos actuales rinden por debajo de su entrenamiento porque los productos, las evaluaciones y las organizaciones no se han puesto al día. Si es así, seguir escalando produce retornos visibles decrecientes — que los mercados leen como una meseta, sea cual sea la causa subyacente. Incluso existe un fenómeno documentado que va en contra de la escala: el escalado inverso, donde los modelos más grandes obtienen peores resultados en algunas tareas, como ciertos tipos de razonamiento veraz o sensible (McKenzie et al., 2023).
El argumento en contra de un invierno
Los defensores del invierno tienen que explicar por qué este ciclo rima con los dos anteriores, y las diferencias son grandes.
El dinero es real esta vez. Los inviernos anteriores siguieron al bombo publicitario sin ingresos. El ciclo actual tiene ingresos por despliegue medidos en decenas de miles de millones de dólares anuales y una inversión privada en IA generativa que sigue batiendo récords — el Stanford AI Index 2025 reporta 33.900 millones de dólares en inversión privada en IA generativa solo en 2024, un aumento marcado interanual. El financiamiento a esa escala no se evapora porque las pruebas de referencia decepcionen; se evapora cuando los balances se rompen.
La base de hardware es enorme. Los inviernos anteriores podían privar de recursos al campo recortando unas cuantas subvenciones. Hoy el campo se sostiene sobre una expansión intensiva en capital de semiconductores, nube y energía cuyos inversores esperan décadas de retornos. Eso es un piso bajo el progreso continuo — y, más sombríamente, una base de interesados que seguirá empujando incluso cuando la prudencia diga que hay que detenerse.
La integración generalizada crea su propia demanda. Cientos de millones de personas y una gran parte de las empresas dependen ahora de los sistemas de IA para el trabajo cotidiano. La utilidad, a diferencia de la novedad, no pasa de moda. La carga de la prueba recae sobre la tesis del invierno: debe demostrar no solo que el progreso se ralentiza, sino que se ralentiza lo suficiente, durante el tiempo suficiente, como para repetir un colapso de financiamiento frente a una base instalada de este tamaño.
Qué significaría un invierno
Supongamos que el estancamiento ocurre. Lo que sigue es genuinamente ambivalente.
Dispersión del talento. Un invierno empuja a los investigadores de frontera hacia los fondos de cobertura, la biotecnología y cualquiera que sea el próximo campo de moda. Eso es malo para la seguridad de una manera —la experiencia en alineación, que es escasa y concentrada en un puñado de laboratorios, se dispersa— y posiblemente bueno de otra: el trabajo de capacidades peligrosas se ralentiza mientras algunas de esas mismas mentes trabajan en problemas más acotados y auditables. El efecto neto es imposible de conocer de antemano, pero la dispersión del talento en alineación es un costo real que los optimistas del invierno tienden a pasar por alto.
Desbordamiento de hardware. El progreso pausado del software no derrite los chips. Un mundo que dejara de entrenar modelos de frontera mañana seguiría manteniendo una enorme reserva de capacidad desplegada, gran parte de ella con pocos incentivos para mantener personal de seguridad. El invierno adelgaza las defensas en torno a los sistemas existentes; no adelgaza los sistemas.
El riesgo de mala interpretación. Esta es la peor parte. Una meseta genuina de varios años se decodificaría políticamente como “el riesgo pasó” — una conclusión que sería activamente errónea. El progreso pausado no es el progreso refutado. Los motores subyacentes (cómputo, eficiencia algorítmica, incentivo comercial) seguirían acumulándose en segundo plano, y el reinicio, cuando llegara, probablemente sería más rápido y menos supervisado que el auge anterior. El tratamiento que este manual da a los beneficios y costos de oportunidad corta en el mismo sentido: incluso una transición estancada tiene ganancias reales, y un mundo que declara la victoria temprano pierde tanto las ganancias como la vigilancia.
El riesgo de mala interpretación merece énfasis: el invierno más peligroso es el que convence al público de que el peligro ha pasado. Los inviernos históricos terminaron en reinicios. Nada en un estancamiento garantiza que el trabajo de seguridad sobreviva hasta el próximo deshielo.
Planificar para la distribución, no para el titular
La postura honesta para un manual es la misma con la que abrió esta página: no apostar el análisis al progreso exponencial continuo, y tampoco apostarlo a un estancamiento. Prepararse para que la capacidad llegue a tiempo, llegue tarde, llegue de forma desigual, y llegue en medio de los fallos institucionales cubiertos en otras partes de este sitio — porque las mismas preparaciones (instituciones robustas, conocimiento preservado, capacidad de respuesta distribuida) son las que rinden frutos a lo largo de toda la distribución. Un invierno cambiaría el momento. No cambiaría el aspecto de una sociedad bien preparada.