Un Instituto de Seguridad de la IA es un organismo gubernamental creado para evaluar sistemas de IA de frontera por riesgos para la seguridad nacional y la seguridad pública, y para que el Estado desarrolle su propia experiencia en IA de frontera. La primera oleada se agrupó en torno a la cumbre internacional de IA de 2023. Los institutos ahora comparten métodos y hallazgos a través de una red internacional impulsada por Seúl y las reuniones posteriores.

Varias capitales importantes ya cuentan con un instituto o equivalente. La mayoría aún no puede ordenar que se retenga un modelo peligroso.

Una nota sobre los nombres: los dos institutos fundadores han cambiado de nombre. El organismo del Reino Unido se convirtió en el Instituto de Seguridad de IA en febrero de 2025. El instituto estadounidense es ahora el Centro de Estándares e Innovación de IA (CAISI) del NIST. "Instituto de seguridad de la IA" sigue siendo el término genérico estándar y esta guía lo utiliza en todas partes.

Durante años, las únicas organizaciones que entendían en profundidad los modelos de frontera eran las empresas que los construían. Un instituto es un intento de colocar capacidad técnica independiente dentro del gobierno, para que las autoridades públicas puedan evaluar los sistemas en lugar de aceptar el informe del desarrollador como última palabra.

¿Qué hacen realmente?

Su trabajo se agrupa en unas pocas áreas.

  • Evaluar modelos de frontera, a veces antes de su lanzamiento, en busca de capacidades peligrosas en ámbitos como la ciberseguridad, la biología y la autonomía, usando los métodos detrás de evaluaciones de capacidades.
  • Desarrollando la ciencia de la evaluación en sí, porque medir estos riesgos bien sigue siendo un problema de investigación abierto, no un procedimiento establecido.
  • Asesorando al gobierno, para que las políticas se basen en personas que realmente han examinado los sistemas.
  • Coordinación internacional, para que un modelo probado en un país no tenga que reconstruirse desde cero en todos lados y para que las normas empiecen a converger.

Esto es un progreso institucional real. Construir capacidad estatal para entender la IA de frontera es un requisito previo para gobernarla. No puedes regular lo que no puedes evaluar, y hasta hace poco los gobiernos en gran medida no podían.

El poder que mayormente les falta

La mayoría de los Institutos de Seguridad AI pueden probar, aconsejar y publicar. Pocos pueden compeler, el acceso a modelos a menudo depende de la cooperación del laboratorio, y los hallazgos generalmente informan en lugar de unirse. En la mayoría de los casos un instituto no puede ordenar un modelo peligroso retenido. Estos órganos pueden ver un riesgo y recomendar una respuesta. Rara vez necesitan uno.

Esa brecha entre evaluación y autoridad es el límite estructural. Un instituto que descubre un peligro grave y solo puede asesorar es tan efectivo como la voluntad del gobierno de actuar contra la presión comercial y competitiva de seguir adelante. Gran parte de la arquitectura actual es un sistema de alerta. Un sistema de alerta no es una salvaguarda hasta que alguien con poder responda a la alarma.

La capacidad sin autoridad es cómo los gobiernos aprenden las malas noticias tarde y actúan más tarde. Pruebas que no pueden forzar una parada es la preparación para la gobernanza, no la propia gobernanza.

En qué podrían convertirse

El valor duradero de los Institutos de Seguridad AI es lo que se reúnen para regímenes vinculantes más adelante: capacidad técnica independiente, normas compartidas y un canal internacional entre los gobiernos. En ese sentido son la forma temprana de el tipo de cuerpo que la Fundación argumenta. El Modelo IPCC muestra cómo la evaluación científica compartida puede respaldar la política internacional.

Lo que tiene que cambiar es autoridad. La evaluación debe conectarse a la aplicación, ya sea a través de la legislación nacional que haga de la firma de un instituto una condición de implementación, o a través de un marco internacional que da resultados verificados consecuencias reales. Dar a estos institutos poder que coincida con su experiencia, y gran parte del andamiaje de la gobernanza seria ya está parcialmente construido. Detener la superinteligencia por ley, con capacidad de evaluación pública como infraestructura, no como sustituto de la prohibición y verificación.