Un arma nuclear es un diseño envuelto alrededor de un problema de materiales. Se necesita material fisible, por lo general uranio altamente enriquecido o plutonio obtenido por vía de reactor, en cantidades y purezas que no caen del cielo. Las plantas de enriquecimiento son grandes, consumen mucha energía y están llenas de equipo que los servicios de inteligencia han aprendido a detectar durante setenta años. Esa dureza no es toda la historia de la no proliferación, pero es la parte que la física aportó gratis.

Ahora ejecute el experimento de pensamiento líderes de AI saltar. Supongamos que la configuración exacta de los átomos que hace que una bomba fuera fácil. Supongamos que los insumos eran baratos, de doble uso y vendidos por la paleta. Supongamos que un diseño terminado podría ser copiado como un archivo. ¿Cuántos años dura la especie?

No muchos. Los tratados seguirían importando. También las normas y el miedo. Tendrían que hacer todo el trabajo que hoy hace la dificultad de los materiales, a una escala que ningún sistema de aplicación ha gestionado jamás. El éxito parcial del siglo XX con las armas nucleares es ininteligible sin la fricción en la cadena de suministro. Tuvimos suerte de que el uranio sea exigente.

Qué nos ha dado la dureza

Se sabe que nueve Estados poseen armas nucleares. Esa cifra es un escándalo y también una especie de misericordia. Cientos de Estados tienen el talento científico para entender la física. Muchos menos han completado la maratón industrial bajo sanciones, escrutinio y costos. El Tratado de No Proliferación, los regímenes de control de exportaciones y el sistema de salvaguardias de IAEA se apoyan todos en un hecho simple: el cuello de botella es lo bastante visible como para vigilarlo.

Elimina el cuello de botella y no obtienes un problema diplomático un poco más difícil. Obtienes un mundo en el que el actor marginal, un Estado pequeño, un grupo bien financiado, un comando disidente, puede tomar ciudades como rehenes. La matemática de la disuasión que apenas funciona entre un puñado de potencias sobrias no funciona entre docenas de jugadores con horizontes temporales más cortos. La bomba es aterradora. Las bombas fáciles son una especie distinta de problema.

No sobrevivimos a los materiales nucleares fáciles con mejores discursos. Sobrevivimos a los materiales nucleares difíciles con inspección adicional. La superinteligencia se acerca a lo fácil.

¿Hacia dónde se mueve la IA?

El entrenamiento de frontera todavía requiere mucho dinero, muchos chips e ingeniería seria. Un clúster lo suficientemente grande como para empujar la frontera es un objeto físico en un edificio con una factura de electricidad.

La línea de tendencia no es la de uranio. Los modelos se vuelven más capaces por dólar. Las técnicas mejoran. Los pesos, una vez entrenados, pueden copiarse a costo casi cero. Las liberaciones abiertas y las filtraciones propagan la capacidad lateralmente. El talento es global. Nada de eso hace que la superinteligencia sea gratis mañana por la mañana. Todo apunta lejos del regalo accidental que hizo factible la no proliferación nuclear: una puerta de materiales obstinada.

Comparen las dos pilas honestamente. Para obtener un segundo arsenal nuclear todavía necesita plantas, materia prima y tiempo bajo telescopios. Para obtener una segunda copia de un modelo entrenado necesitas una unidad. Si el objeto peligroso es el agente en lugar de la ojiva, la replicación favorece el patrón de software, no el patrón isótopo.

La lección equivocada y la correcta

La lección equivocada es el fatalismo: las aportaciones son cada vez más fáciles, por lo que la gobernanza es inútil. Es la imagen del espejo del campo de laboratorio que sólo más capacidad puede salvarnos. Ambos saltan el intervalo en el que todavía estamos, donde las carreras de frontera son visibles y el número de actores serios es pequeño.

La lección correcta es la urgencia sobre la dificultad que tenemos que inventar. Si la física no mantendrá la puerta estrecha, la ley y las normas industriales deben hacerlo. Reglas de conoce a tu cliente sobre chips avanzados. Umbrales de notificación sobre ejecuciones de entrenamiento. Derechos de auditoría. Características de hardware que dificulten ocultar entrenamientos encubiertos a gran escala. Un tratado que diga que la superinteligencia no es un producto permitido. La superinteligencia no se puede controlar. La NPT y el borrador de tratado modelo son intentos de plasmar esa rigidez en papel antes de que el camino fácil termine de abrirse.

Cierra el experimento mental

Imagina informar a un presidente en 1960 con un diseño probado y un mundo en el que el material de bombas se vendiera como fertilizante. Cada instinto en la sala gritaría por control en la fuente. Nadie llamaría a ese instinto anticientífico. Nadie diría que la respuesta es inventar una bomba más inteligente para vigilar a la primera.

Estamos avanzando hacia una capacidad cuyo umbral de materiales naturales es más débil que el de la bomba, mientras nos decimos que la velocidad es seguridad. El experimento mental no es sutil. Si lo peligroso es fácil de hacer, el mundo no tiene una segunda oportunidad. Hazlo difícil a propósito, mientras aún sea posible, o descubre cómo se siente lo fácil sin un registro fósil de supervivientes desde el que argumentar.