Interpretabilidad: leer lo que un modelo hace internamente Qué hace realmente la investigación en interpretabilidad, por qué el CEO de Anthropic la llamó urgente, y qué tan cerca está de leer la mente de un modelo.
Fuentes verificadas 6 min
04 Vías de escape
Las vías de escape que realmente existen
Los controles técnicos e institucionales determinan si los escenarios graves del capítulo 02 se vuelven más o menos probables; la preparación doméstica no puede sustituirlos.
Palancas técnicas de seguridad
- Investigación en interpretabilidad. Inspeccionar las representaciones internas y el cómputo de los modelos como un complemento a las evaluaciones de comportamiento, los controles de acceso y la monitorización del despliegue.
- Supervisión escalable. Técnicas —debate, modelado recursivo de recompensas, generalización de débil a fuerte— pensadas para ayudar a supervisores menos capaces a vigilar sistemas más capaces.
- Investigación en corregibilidad. Estudiar cómo los sistemas podrían seguir siendo receptivos a la corrección, la modificación y el apagado legítimos; no se ha demostrado ninguna solución robusta a escala.
- Gobernanza del cómputo. Controles de exportación específicos de cada jurisdicción, monitorización de infraestructura y umbrales usados como aproximaciones imperfectas de la capacidad, no como una definición de AGI o de seguridad.
El director ejecutivo de Anthropic defendió el primero de estos puntos en su ensayo de 2025 sobre el tema:
Dario Amodei argues that researchers still lack a precise account of why models choose particular outputs.
The Urgency of Interpretability, Primary source
Palancas institucionales
El problema de la coordinación
La coordinación internacional importa porque los controles unilaterales pueden cambiar tanto los incentivos de seguridad como la posición competitiva. El panorama regulatorio ya no es del todo voluntario: la Ley de IA de la UE impone obligaciones vinculantes a los proveedores dentro de su alcance, mientras que los marcos de seguridad de los laboratorios y los compromisos de las cumbres siguen siendo en gran medida voluntarios. Actualmente no existe ningún tratado vinculante de control de armamento de modelos de frontera a escala global.
Un primer punto de partida internacional fue la declaración no vinculante respaldada por 28 países y la UE en la primera cumbre mundial de seguridad de la IA:
28 nations and the European Union commits signatories to AI that is designed, developed, deployed and used safely and responsibly.
GOV.UK, Signed statement
- Evaluación previa al despliegue, proporcional al riesgo, de capacidades peligrosas antes de una publicación sin restricciones.
- Notificación de incidentes que permita a reguladores y desarrolladores aprender de fallos graves y de los casos que estuvieron cerca de serlo.
- Normas de responsabilidad que tengan en cuenta el control, el conocimiento, la causalidad y la capacidad de prevenir el daño.
Qué puede hacer un tecnólogo a nivel individual
Los lectores pueden influir en la política como votantes, trabajadores, investigadores, clientes, inversores y miembros de organizaciones cívicas. Las opciones prácticas incluyen contribuir a la investigación en interpretabilidad y alineación o financiarla; impulsar prácticas de seguridad dentro de tu propia organización si despliegas sistemas de IA en producción; apoyar la infraestructura de notificación y evaluación descrita arriba en lugar de tratarla como una carga regulatoria; y verificar la fuente y la evidencia detrás de afirmaciones persuasivas en lugar de asumir manipulación automatizada o consenso genuino.
Investigación Política Organizacional
En este capítulo
Supervisión escalable: supervisar sistemas más capaces Los enfoques técnicos que se prueban para que supervisores humanos vigilen sistemas de IA más capaces que ellos, evaluados mediante el debate entre IA.
Fuentes verificadas 7 min
Gobernanza del cómputo: chips, centros de datos y umbrales Cómo los controles de chips, la notificación de centros de datos y los umbrales de cómputo gobiernan la IA avanzada, con sus límites de aplicación.
Fuentes verificadas 6 min
Tratados internacionales y cumbres: dónde está la gobernanza Un recuento claro de la Declaración de Bletchley, las cumbres de seguridad de IA posteriores, y cuánto ha avanzado la gobernanza hacia un tratado ratificado.
Fuentes verificadas 6 min
Corregibilidad: sistemas que aceptan la corrección Por qué "solo instalar un interruptor de apagado" es más difícil de lo que parece, y qué investiga la corregibilidad, incluida la resistencia al apagado.
Fuentes verificadas 7 min
Protecciones para denunciantes dentro de los laboratorios de IA Cómo los derechos de denunciantes, los canales de notificación y las reglas contra represalias ayudan a exponer fallos de seguridad en laboratorios de IA.
Fuentes verificadas 7 min
El debate de la IA de código abierto: ¿herramienta de seguridad o riesgo? Los argumentos de seguridad, investigación, competencia y uso indebido a favor y en contra de liberar pesos de IA abiertamente, y un jailbreak de 200 dólares.
Fuentes verificadas 7 min
La legislación de IA y su aplicación en 2026 Qué normas de IA son vinculantes en septiembre de 2026 en la UE, EE. UU. y los marcos internacionales, qué sigue siendo voluntario y dónde opera la aplicación.
Fuentes verificadas 8 min
Evaluaciones de frontera, casos de seguridad y notificación de incidentes Cómo las pruebas de capacidad, las evaluaciones de salvaguardas y los sistemas de incidentes convierten las promesas de IA de frontera en evidencia auditable.
Fuentes verificadas 8 min
Los marcos de seguridad de los laboratorios de IA de frontera, comparados Marcos de seguridad de seis laboratorios comparados: umbrales, salvaguardas y qué ocurre al cruzarlos, según auditorías independientes de su práctica real.
Fuentes verificadas 15 min
La regulación de IA, país por país: dónde están realmente las reglas Instantánea de septiembre de 2026 por país: la Ley de IA de la UE retrasada, el mosaico estatal de EE. UU., el Reino Unido sin ley y las reglas de China.
Fuentes verificadas 9 min