El Anthropic publicó su primera Responsible Scaling Policy en septiembre de 2023. Al abrir el documento, la estructura aparece en los encabezados antes que la retórica. Los niveles de capacidad se nombran de antemano. Cada nivel se empareja con salvaguardas que se supone que se activan cuando las evaluaciones indican que el modelo ha cruzado el umbral: mayor seguridad de los pesos, reglas de despliegue más estrictas, red teaming más profundo y, en los niveles superiores, un compromiso escrito de no entrenar ni publicar hasta que se implementen las protecciones especificadas. El nombre corto de la industria es RSP. La lógica subyacente suele llamarse compromisos if-then.
Los laboratorios de frontera líderes publicaron las versiones más conocidas y el formato se extendió. Los niveles suelen ir desde sistemas parecidos a los actuales hasta modelos que podrían asistir de forma significativa en un arma biológica, un ciberataque grave o autonomía peligrosa. El documento busca responder una pregunta sencilla antes de la emergencia: cuando la capacidad suba, ¿qué hace exactamente la empresa?
Por qué el formato es una mejora real
Comparado con una promesa general de tomar la seguridad en serio, un RSP es más concreto. Nombra capacidades, umbrales y respuestas con antelación, lo que convierte un estado de ánimo en algo que los externos pueden señalar. Es anticipatorio. El laboratorio tiene que decidir qué le costará una capacidad peligrosa antes de que lleguen juntos la prisa del descubrimiento y el ciclo de prensa.
El formato también vincula las palabras a las pruebas mediante evaluaciones de capacidades peligrosas, así que los umbrales tienen un significado operacional en lugar de un eslogan. Algunas políticas van más allá y se comprometen a poner fin al desarrollo si las salvaguardias no pueden mantenerse al ritmo de la capacidad. Poner eso en un documento público cuenta como un avance real.
Un proyecto no es una constitución
Reglas públicas, específicas, precommitidas son cómo maduran las industrias. Los RSP pueden ser un borrador. No son una constitución mientras que la misma firma escribe, califica, y ganancias de la prueba. Anime el proyecto. No lo trate como la ley que se suponía que debía seguir.
Cierto, y la debilidad sigue siendo estructural. El mismo laboratorio redacta la política, define los umbrales, ejecuta las evaluaciones, juzga si se cruzó una línea, decide si sus salvaguardas son suficientes y conserva el poder de revisar el texto. Cuando la presión comercial por lanzar choca con un compromiso que el propio laboratorio redactó y administra, ninguna parte independiente tiene el silbato.
La historia no favorece la lectura optimista. El registro de promesas voluntarias de seguridad empresarial bajo presión competitiva es un registro de estándares que se suavizan cuando comienzan a morder. Una regla si-entonces es tan fuerte como el entonces, y el entonces es aplicado por el partido que se beneficia de debilitarlo. Una regla que usted establece, mide y puede enmendar para usted es una declaración de intención. No es una limitación.
Dos vacíos adicionales quedan bajo el documento. Los RSP dependen de evaluaciones para detectar si se cruzó un umbral, por lo que todo lo que limita las evaluaciones (incluido ocultamiento de capacidades, capacidades desconocidas y la dificultad de demostrar seguridad) limita la política que se puede construir sobre ellas. Y un RSP solo obliga al laboratorio que lo adopta. Un competidor que lo rechace, o un programa estatal fuera de esta cultura, queda intacto. Ninguna empresa puede resolver sola ese problema de coordinación.
Cómo los lee la Fundación
Conserva la buena maquinaria. Reutiliza la lógica de umbrales, la estructura if-then y el vínculo con las evaluaciones. Cambia quién sostiene la pluma y quién hace cumplir la detención. Traslada esos disparadores de una política voluntaria a una ley vinculante, respaldada por un organismo independiente y por gobernanza del cómputo, por lo que un laboratorio no puede revisar silenciosamente su propio techo cuando este se vuelve inconveniente.
Tratar las políticas como borradores de reglas ejecutables, luego terminar el trabajo fuera del laboratorio: vinculante, aplicación independiente, control de computación.