Use términos precisos primero
“IA de código abierto” a menudo describe lanzamientos muy diferentes entre sí. Un desarrollador puede publicar los pesos de un modelo mientras retiene los datos de entrenamiento, el código de entrenamiento, los métodos de procesamiento de datos, los detalles de evaluación, o amplios derechos para modificar y redistribuir. Las definiciones de software de código abierto no pueden trasladarse automáticamente a un modelo entrenado con una procedencia de datos opaca.
Por eso, esta página usa pesos abiertos cuando los parámetros numéricos necesarios para ejecutar y modificar un modelo están ampliamente disponibles. Un lanzamiento puede tener pesos abiertos bajo una licencia restrictiva, o proporcionar código abierto sin pesos. La documentación y la reproducibilidad son dimensiones separadas.
La terminología importa porque los beneficios y los riesgos dependen de qué se publica. Los investigadores no pueden reproducir el entrenamiento solo a partir de los pesos, pero los pesos aún pueden habilitar la inferencia local, el ajuste fino y el análisis interno que una API impide.
El argumento a favor de un acceso más amplio
Los pesos abiertos reducen la dependencia de un pequeño conjunto de proveedores alojados. Los desarrolladores pueden ejecutar modelos en su propia infraestructura, proteger las indicaciones sensibles frente a un servicio de terceros, adaptar los sistemas a idiomas y dominios locales, y seguir operando si un proveedor cambia el precio o la política. La competencia puede reducir el costo y difundir la capacidad técnica.
Los investigadores pueden inspeccionar las activaciones, probar la edición de modelos, reproducir evaluaciones e investigar el sesgo o la seguridad sin esperar la aprobación del proveedor. La sociedad civil y las universidades pueden escrutar un modelo cuyo desarrollador no concedería acceso privilegiado a la API. El despliegue local puede respaldar la privacidad y los usos con conectividad limitada.
La apertura también puede preservar el conocimiento. Un servicio cerrado puede desaparecer; un lanzamiento de pesos puede archivarse y estudiarse. Las comunidades pueden construir funciones de accesibilidad e idioma que no resultan rentables para un gran proveedor.
Estos beneficios no son automáticos. Ejecutar un modelo grande sigue requiriendo hardware y experiencia técnica. La “democratización” puede significar acceso para empresas bien financiadas en lugar de para personas comunes. Un proveedor de pesos abiertos puede beneficiarse comercialmente de las contribuciones del ecosistema, la demanda de nube o el establecimiento de estándares. Esos incentivos deberían divulgarse sin descartar los beneficios públicos.
El argumento a favor del acceso controlado
Una vez que los pesos se han replicado ampliamente, no se pueden recuperar de forma fiable. Los usuarios pueden eliminar el entrenamiento de rechazo, ajustar finamente el modelo para el abuso, ocultar su actividad de un monitor central y desplegar muchas copias. Esto está demostrado, no es hipotético: los investigadores deshicieron el entrenamiento de seguridad de Llama 2-Chat 70B por menos de 200 dólares en una sola GPU usando una técnica de ajuste fino ligera (Lermen et al., 2023). Un proveedor alojado puede limitar la tasa de uso, monitorear patrones, corregir el comportamiento y cerrar cuentas; la operación local elimina gran parte de ese control.
El riesgo marginal depende de lo que el modelo añade más allá de las herramientas existentes, las API cerradas, el conocimiento experto y los modelos abiertos anteriores. Si una capacidad ya está disponible de forma barata en otro lugar, restringir los pesos puede aportar poca seguridad adicional. Si los pesos habilitan una explotación cibernética, una asistencia biológica, un fraude o una operación autónoma sustancialmente más eficaces, el lanzamiento irreversible puede importar enormemente.
La pregunta relevante no es si la información puede llegar a usarse indebidamente alguna vez, sino si este lanzamiento cambia la capacidad, la escala, el costo, la atribución o el acceso para los actores propensos a causar daño.
Lo que concluyó la revisión de evidencia de Estados Unidos
La Administración Nacional de Telecomunicaciones e Información (NTIA) revisó 332 comentarios públicos y la evidencia disponible en 2024. Concluyó que la evidencia disponible en ese momento era insuficiente para respaldar una restricción categórica inmediata sobre la disponibilidad más amplia de los pesos de los modelos, aunque recomendó un monitoreo activo y capacidad gubernamental para responder si los riesgos cambiaban (NTIA, julio de 2024).
Esa conclusión está fechada y es condicional. No demuestra que los futuros lanzamientos de frontera sean seguros ni que las restricciones nunca puedan justificarse. La NTIA es una agencia gubernamental que equilibra la innovación, la competencia y la seguridad; muchas contribuciones provinieron de empresas y defensores interesados. Su informe es una síntesis de política sólida, no un experimento que demuestre el efecto social neto.
El enfoque diferenciado de la Unión Europea
La Ley de IA de la UE otorga algunas exenciones de obligaciones de documentación específicas a los modelos de uso general libres y de código abierto que califiquen, pero no una exención general. Los proveedores de modelos de uso general con riesgo sistémico siguen sujetos a obligaciones adicionales. Si un lanzamiento califica depende de criterios legales, incluidos el acceso y la divulgación, no del lenguaje de marketing (directrices de la Comisión Europea sobre IA de uso general, 2025).
Esto ilustra una gobernanza escalonada por capacidad: fomentar la apertura donde los riesgos marginales son manejables, mientras se conservan las obligaciones para los modelos con riesgo sistémico. La aplicación aún enfrenta la dificultad de evaluar la capacidad antes de una publicación irreversible.
Alternativas a una elección binaria
El acceso puede escalonarse. Un desarrollador podría comenzar con evaluaciones internas e independientes, luego ofrecer acceso de investigación controlado, un servicio alojado, pesos a instituciones evaluadas bajo condiciones de seguridad, y finalmente un lanzamiento público si la evidencia lo respalda. Los retrasos pueden permitir que los defensores corrijan vulnerabilidades y que los reguladores se preparen.
El acceso estructurado puede preservar parte del beneficio de investigación mientras limita la proliferación, pero crea guardianes que pueden excluir a críticos o competidores. Son necesarios los criterios de selección, las reglas de conflicto, la apelación, los derechos de publicación y la supervisión. Un programa de “investigador de confianza” controlado únicamente por el desarrollador del modelo no es transparencia independiente.
Otras opciones incluyen lanzar modelos más pequeños o destilados, publicar código y evaluaciones detalladas sin los pesos de frontera, proporcionar enclaves seguros para el análisis, o usar licencias que prohíban ciertas conductas. Las licencias influyen en los usuarios legítimos, pero son barreras técnicas débiles frente a los actores maliciosos.
Cómo tomar una decisión de lanzamiento
Una evaluación seria del lanzamiento debería comparar:
- las capacidades peligrosas frente a las alternativas abiertas y cerradas existentes;
- el cómputo y la experiencia necesarios para eliminar las salvaguardas o ajustar finamente el modelo;
- los beneficios que exigen específicamente los pesos y no solo el acceso por API;
- la seguridad de los pesos aún no publicados y el riesgo de robo;
- la capacidad de monitorear el uso indebido después del lanzamiento;
- los grupos afectados, incluidos los investigadores fuera de los Estados ricos;
- la reversibilidad y las opciones de acceso escalonado;
- la documentación del modelo, los derechos de licencia y la procedencia de los datos.
Las evaluaciones deberían cubrir la asistencia cibernética, química y biológica, la persuasión, la replicación autónoma, la privacidad, y la discriminación o el fraude ordinarios cuando sea relevante. Un umbral de prueba de referencia no es suficiente si no logra representar los flujos de trabajo reales.
La seguridad por oscuridad no es el único problema
Los críticos de los sistemas cerrados señalan que retener los pesos puede ocultar vulnerabilidades y concentrar la confianza. Los críticos de la apertura señalan que publicar una capacidad relevante para armas no equivale a divulgar responsablemente un error de software. Ambas observaciones pueden ser ciertas.
La divulgación responsable normalmente da tiempo a los defensores afectados para actuar. En algunos modelos, un escrutinio amplio puede producir más defensa que daño; en otros, un acceso generalizado puede crear un peligro irreversible antes de que existan mitigaciones. La evidencia sobre el riesgo marginal y la preparación de respuesta debería determinar la secuencia.
La AGI cambia lo que está en juego, pero no la necesidad de evidencia
Ningún modelo abierto ha sido establecido como AGI bajo una prueba consensuada. Las afirmaciones sobre el lanzamiento de pesos de AGI son análisis de escenarios. Si un modelo pudiera realizar de forma autónoma investigación de alto nivel, explotar sistemas, adquirir recursos o mejorar a sus sucesores, copiarlo podría reducir drásticamente la contención. Por el contrario, poner esa capacidad bajo control corporativo o estatal exclusivo podría crear riesgos profundos de concentración y abuso.
Por eso fracasan los eslóganes. “Lo abierto siempre es más seguro” ignora la irreversibilidad; “lo cerrado siempre es más seguro” ignora la concentración, el robo y la falta de escrutinio. La política futura debería definir las condiciones de capacidad y acceso, no regular una categoría de marca.
Una posición equilibrada
Para los modelos actuales de menor riesgo, la apertura puede aportar beneficios sustanciales de competencia, investigación, resiliencia, privacidad e inclusión. Para los modelos cada vez más capaces, el lanzamiento escalonado y la evaluación basada en evidencia se vuelven más importantes. Las restricciones deberían demostrar un riesgo marginal específico, ofrecer debido proceso y revisarse periódicamente; las decisiones de lanzamiento deberían demostrar por qué se justifica un acceso irreversible.
El debate no es una elección entre la libertad y la seguridad. Es un problema de diseño que involucra la capacidad, el acceso, la concentración, la rendición de cuentas y la reversibilidad. Una terminología precisa y una evidencia transparente hacen que ese problema sea gobernable.