"Si dejamos de construir superinteligencia, alguien más lo hará." Es el encargado de la conversación en cien habitaciones. Suena como geografía y teoría del juego. A menudo es una manera de mantener la construcción mientras llama la construcción inevitable. Prueba la misma forma con una tecnología que ya manejamos. "Si dejamos de hacer refrigeradores de CFC, alguien más seguirá haciendo frigoríficos".

Sí, siguieron fabricando refrigeradores y dejaron de usar el químico que estaba abriendo un agujero en el cielo.

Dos sustantivos diferentes

Una nevera es un servicio: comida fría, vacunas, menos desperdicio. Los clorofluorocarbonos fueron una forma de obtener ese servicio, y una desastrosa para la capa de ozono una vez que la química quedó clara. El Protocolo de Montreal no prohibía el frío. Planeó la eliminación de las sustancias que hacían el daño, financió alternativas para los países más pobres, y apoyó el acuerdo con la presión comercial. La industria había dicho que la eliminación era imposible; la refrigeración continuaba y los CFC no.

La retórica de la superinteligencia colapsa dos sustantivos en uno. "AI" se convierte en un solo bloque que incluye modelos de cáncer, planificadores de rutas y un agente hipotético más inteligente que la especie humana. Si rechazas el último artículo, dicen los aceleracionistas, también has rechazado los primeros, y alguien menos escrupuloso enviará todo. El movimiento es fingir que el veneno es idéntico al producto para que la eliminación del veneno suena como una guerra en el producto.

No salvamos la capa de ozono utilizando más CFC que nuestros rivales. Guardamos la nevera y retiramos la química.

¿Para qué sirve "alguien más lo hará"?

Un laboratorio rival, o un estado rival, podría intentar entrenar a través de cualquier línea que dibuja. Esa posibilidad es lo suficientemente real como para planear. También es la posibilidad de que el control de armas fuera inventado para manejar. La respuesta a "alguien podría construir un desnudo" no era "entonces debemos construir un desnudo aún más grande". Se trataba de verificación, puntos de coquetería sobre material fisionable y consecuencias para la ruptura.

La computación es más complicada que el uranio, y nadie serio finge lo contrario. Aun así es física, cara en la frontera y pasa por una lista corta de fabricantes de chips, fundiciones y regiones de nube. Eso basta para construir inspecciones, y por eso gobernanza del cómputo aparece en cada esbozo serio de tratado. "Alguien más lo hará" salta ese trabajo y va directo al permiso.

Si la restricción se enmarca como entrega unilateral, entonces la única postura adulta es la velocidad total. Los inversores oyen el destino. El personal de seguridad sabe que frenar es ingenuo. Los líderes del laboratorio no necesitan ganar un debate sobre los mecanismos. Sólo necesitan hacer la tercera opción, la moderación compartida, sentirse infantil.

El refrigerador nunca fue el enemigo

Queremos IA estrecha que diagnostique, diseñe fármacos y detecte fallas en puentes. Dilo claramente para que la calumnia no pegue. La línea de la fundación es una negativa a construir sistemas que exceden y reemplazan el control humano mientras el problema de control siga sin resolverse.

Eso está más cerca de "usar otros refrigerantes" que de "prohibir el almacenamiento en frío". Las personas que borran la distinción aprovechan la popularidad de la IA útil como tapadera de una capacidad que no se queda en herramienta.

Qué enseña realmente la lucha por el ozono

Montreal funcionó porque la ciencia se puso fuerte, existían sustitutos y los enfrentamientos se enfrentaban a costos comerciales. La superinteligencia es más difícil en los sustitutos de la "dominio estratégico", y más fácil en un sentido los líderes de AI ignoran: ningún poder importante tiene un interés coherente en un sistema que no se mantiene bajo el mando de nadie. La vulnerabilidad compartida es la materia prima de un acuerdo. El miedo de Rival puede financiar un tratado tan fácilmente como se financia un sprint, una vez que el acabado hueco es visible.

Pregunte si significan AI útil o superinteligencia: guardamos las herramientas y detenemos el sistema que nadie puede controlar. For superintelligence, defection risk is a reason to build enforcement, not a reason to pre-defect. Los frigoríficos seguían corriendo. El cielo se sanó porque la gente podía diferenciar.