La objeción más común a una gobernanza internacional del superinteligencia es que no se puede hacer. Un siglo de tratados dice lo contrario. La coordinación frente a riesgos de extinción compartidos ya ha ocurrido; es un hábito documentado de los Estados serios, no una utopía.
Armas nucleares. Armas químicas. La capa de ozono. La coordinación mundial sobre las amenazas existenciales es un logro humano documentado. La pregunta para superinteligencia es si lo haremos a tiempo, con la voluntad política los casos anteriores requeridos.
Cada vez que la humanidad ha enfrentado una amenaza existencial coordinada, se han alzado las mismas objeciones: el problema es demasiado complejo, los adversarios demasiado numerosos, la verificación demasiado difícil, la deserción demasiado probable. Cada vez, quienes superaron esas objeciones construyeron marcos que, imperfectos como son, impidieron desenlaces catastróficos.
Cuando la amenaza es clara, la ciencia es creíble, y se organiza la promoción, la coordinación internacional ha sido posible incluso cuando fue lenta y impugnada.
La amenaza superinteligencia está documentada, las advertencias científicas son públicas, y la defensa está creciendo. Lo que todavía falta es la presión política lo suficientemente fuerte como para forzar la coordinación.
Los cuatro casos que siguen son los ejemplos definitorios de lo que la civilización humana puede lograr ante amenazas que ningún país puede resolver solo. Cada uno empezó con las mismas objeciones que hoy ofrecen los críticos de la gobernanza superinteligencia.
Las armas nucleares se usaron en guerra en 1945. En pocos años, varios países las habían desarrollado o estaban desarrollándolas. La perspectiva de decenas de países con arsenales nucleares representaba un riesgo de extinción civilizatoria. Los críticos decían que un tratado de no proliferación era imposible: demasiados actores, demasiados intereses nacionales, ninguna forma de verificar el cumplimiento.
El Tratado de No Proliferación Nuclear se abrió a la firma en 1968 y entró en vigor en 1970. Creó un marco en el que la mayoría de las naciones acordaron no desarrollar armas nucleares a cambio de acceso a tecnología nuclear civil. Un régimen de verificación a través del Organismo Internacional de Energía Atómica supervisó el cumplimiento.
Hoy nueve países tienen armas nucleares cuando cientos podrían haberlas construido. Ningún arma nuclear se ha usado en guerra desde 1945. El NPT es imperfecto, no ha impedido toda proliferación, pero ha evitado el escenario catastrófico que los críticos decían inevitable. Ochenta años de paz nuclear no ocurrieron por accidente.
El Organismo Internacional de Energía Atómica se creó en 1957 con el mandato de promover la energía nuclear pacífica y al mismo tiempo impedir su desvío hacia armas. Su régimen de inspecciones y salvaguardias permite a los inspectores internacionales verificar que el material nuclear en instalaciones declaradas no se enriquece más allá de fines civiles.
Este régimen de monitoreo funciona porque el material nuclear, al igual que el cómputo de IA, pasa por puntos de estrangulamiento identificables. El uranio debe enriquecerse en instalaciones específicas. Las centrifugadoras son rastreables. El IAEA desarrolló los mecanismos técnicos para supervisar una tecnología cuyo potencial de doble uso planteaba un riesgo existencial.
El paralelo con la IA es directo. El hardware necesario para entrenar modelos de IA de frontera, en concreto los clústeres de GPU fabricados por NVIDIA y los semiconductores avanzados producidos por TSMC con equipos de litografía de ASML, está concentrado de forma que hace técnicamente viable la supervisión. Un pequeño número de empresas controla los puntos de estrangulamiento. Los controles de exportación ya intentan rastrear estos chips.
Lo que demuestra IAEA es que el monitoreo internacional de tecnología de doble uso ya es una práctica que funciona. La institución ha operado durante casi setenta años, realizando miles de inspecciones en decenas de países. La infraestructura para hacer lo mismo con el cómputo de IA existe. Requiere voluntad política, no innovación técnica.
A mediados de los años setenta, los científicos identificaron que los clorofluorocarbonos, CFC, usados en refrigerantes, aerosoles y procesos industriales, estaban destruyendo la capa de ozono que protege al planeta de la radiación ultravioleta. Sin la capa de ozono, la vida en la Tierra enfrenta consecuencias catastróficas. La industria dijo que eliminar los CFC era económicamente imposible.
El Protocolo de Montreal fue firmado en 1987 por 46 naciones y entró en vigor en 1989. Evitó la producción y el consumo de sustancias que agotan el ozono en un calendario internacional vinculante. Las naciones en desarrollo recibieron plazos prolongados y apoyo financiero. Cada nación en la tierra ha ratificado el tratado, el único tratado internacional con ratificación universal.
La capa de ozono se está recuperando. Las evaluaciones científicas proyectan que volverá a los niveles de 1980 hacia mediados de este siglo. El Protocolo de Montreal se describe ampliamente como el tratado ambiental más exitoso de la historia. La industria química, que al principio se opuso, desarrolló compuestos alternativos y siguió operando de forma rentable. Lo "imposible" resultó no serlo.
Las armas químicas se habían usado en la Primera Guerra Mundial, en conflictos coloniales y en la guerra Irán-Irak de los años ochenta. La Convención sobre Armas Químicas, abierta a firmas en 1993 y que entró en vigor en 1997, prohibió el desarrollo, la producción, el almacenamiento y el uso de armas químicas y exigió la destrucción verificada de los arsenales existentes.
Más de 190 naciones han ratificado la Convención. Las naciones con importantes arsenales de armas químicas, incluidos Estados Unidos y Rusia, las destruyeron bajo supervisión internacional realizada por la Organización para la Prohibición de las Armas Químicas, que recibió el Premio Nobel de la Paz en 2013.
La Convención sobre Armas Químicas demuestra que los acuerdos internacionales pueden lograr la destrucción verificada de armas en las que las naciones han invertido décadas y miles de millones. La objeción de que los países no renunciarán a ventajas estratégicas si un tratado lo exige ha sido refutada repetidamente, a lo largo de las relaciones más adversas de la historia moderna.
Las violaciones de la Convención ocurren y reciben consecuencias internacionales. El marco no es un instrumento perfecto. Sin embargo, ha convertido el uso de armas químicas en un acto que viola normas y desencadena condena y respuesta global, cuando antes de la Convención era una opción militar disputada. Ese cambio en la norma internacional es en sí mismo una forma de éxito de gobernanza.
Estos cuatro casos comparten una estructura. En cada uno, la amenaza se descartó al principio como demasiado especulativa o demasiado compleja técnicamente para la gobernanza internacional. En cada uno, la industria relevante argumentó que la regulación era económicamente imposible. En cada uno, la verificación se describió como una fantasía. En cada uno, el acuerdo se alcanzó finalmente, se construyeron mecanismos de verificación y la amenaza se redujo de forma material.
La gobernanza de superinteligencia enfrenta cada una de estas mismas objeciones hoy, en la misma forma, de los mismos tipos de actores. Las empresas tecnológicas dicen que la regulación sofocará la innovación. El establecimiento de seguridad nacional dice que los adversarios desertarán. Los comentaristas dicen que el problema es demasiado complejo técnicamente para que los legisladores lo entiendan. Estos argumentos son viejos, largos desde que se muestran equivocados; se debe preguntar a cualquiera que se apoye en ellos qué precedentes están ignorando.
Lo que distingue la gobernanza de superinteligencia de estos precedentes es la urgencia. El NPT se negoció durante años mientras los arsenales nucleares crecían pero seguían bajo control humano. El Protocolo de Montreal se aplicó durante décadas mientras la capa de ozono seguía adelgazando pero aún era recuperable. El desarrollo de la IA avanza más rápido, y los sistemas que se construyen pueden, una vez suficientemente avanzados, resistir la gobernanza de formas que las moléculas de ozono y las ojivas nucleares no pueden.
Los precedentes son una razón para moverse más rápido, no para esperar. La coordinación, la verificación y los acuerdos a pesar de la oposición de la industria han ocurrido antes. Lo que todavía necesitamos es voluntad política para comprimir la línea temporal, construida por personas que entienden las apuestas y se niegan a esperar.
Únete a quienes están construyendo la coalición política que hará posible la gobernanza de superinteligencia.