El 22 de octubre de 2025, el Future of Life Institute publicó una carta pública titulada la Declaración sobre la superinteligencia. A diferencia de los manifiestos espeluznantes que suelen acompañar momentos como este, toda la letra es esta:
Pedimos una prohibición al desarrollo de la superinteligencia, que no se levante hasta que exista un amplio consenso científico de que se hará de forma segura y controlable, y un fuerte apoyo público.
Declaración sobre Superinteligencia, Future of Life Institute · Octubre 2025
No dice que nunca se deba construir superinteligencia. No condena la IA como tal. Plantea una condición (en realidad dos) y pide que se detenga el desarrollo hasta que se cumplan. Para entender por qué esta petición, que suena modesta, representa un cambio real en el debate, hay que comprender tanto lo que exige como quiénes estuvieron dispuestos a firmarla.
Qué pide realmente la declaración
La redacción es precisa. Tres características la distinguen de cartas abiertas anteriores, incluida la conocida carta de 2023 que pedía una pausa de seis meses en los mayores entrenamientos.
- Apunta específicamente a la superinteligencia. No estrecha AI, no chatbots, no las herramientas AI ya tejidas en la vida diaria. La prohibición se aplica a sistemas que superarían la capacidad humana en todos los dominios esencialmente cognitivos. Esta precisión rompe la objeción habitual de que los defensores de la seguridad quieren detener la tecnología beneficiosa. Quieren detener una frontera específica, y específicamente peligrosa.
- Es una prohibición condicional, no una prohibición permanente. La prohibición levanta el momento en que se cruzan dos umbrales. El predeterminado de hoy es: construir superinteligencia, y establecer seguridad después si podemos. La declaración lo invierte: establecer la seguridad primero, luego construir. La carga de la prueba se traslada a los desarrolladores, donde (para una tecnología de esta consecuencia) podría pertenecer.
- Requiere el apoyo del público, no solo la aprobación de expertos. La segunda condición es democrática, no técnica. Incluso si algún día los científicos coinciden en que la superinteligencia puede controlarse, la declaración insiste en que el público debe dar su consentimiento para construirla. Eso supone un desafío directo al arreglo actual, en el que un puñado de laboratorios privados toma una decisión que altera la civilización en nombre de todos, la preocupación que examinamos en quién controla la superinteligencia.
Por qué los signatarios importan más que la palabra
Las letras abiertas son baratas. Lo que hizo que esta tierra fuera la coalición. Más de 850 personas firmaron en el lanzamiento, y la lista es notable no por su longitud sino por su rango. El conteo público ha pasado 70.000.
En la cima estaban los científicos que construyeron el campo. Yoshua Bengio y Geoffrey Hinton (ambos laureados con el Premio Turing, ambos llamados habitualmente padrinos de la IA moderna) firmaron, al igual que Stuart Russell, autor del libro de texto estándar de IA. Cuando las personas más responsables por la existencia de una tecnología piden al mundo que se detenga antes de construir su forma más poderosa, eso es testimonio, no activismo.
Luego llegaron los constructores y las figuras públicas. El cofundador de Apple Steve Wozniak y el fundador de Virgin Richard Branson. Historiador Yuval Noah Harari, actor Stephen Fry, y músico willi.am. Líderes retirados de seguridad nacional, incluyendo al expresidente de los Joint Chiefs Almirante Mike Mullen y ex asesor de Seguridad Nacional Susan Rice. Y, lo más revelador, figuras que coinciden en casi nada más: El príncipe Harry y Meghan junto a Steve Bannon y Glenn Beck.
Ese último detalle es todo el argumento en miniatura. Cuando una pareja real británica y un estratega de medios MAGA pusieron sus nombres en la misma declaración, el tema ha escapado a la clasificación ideológica habitual. La preocupación por la superinteligencia es una de las pocas posiciones desaparecidas en 2025-2026 con un auténtico alcance cruzado-partidista, que es exactamente el tipo de coalición que hace posible la política vinculante, no izquierda o derecha, no establecimiento o populista.
Qué es la declaración, y qué no es
Es importante ser realistas respecto a los límites. Una declaración pública no prohíbe nada. No ordena a ningún regulador, no obliga a ninguna empresa y no restringe a ningún gobierno. Quien la lea como si fuera una ley se equivoca.
Lo que hace es mover el Ventana de Overton, el rango de posiciones consideradas mainstream y decibles. Hace dos años, pedir una prohibición sobre una clase de IA habría sido descartado como marginal. Después de octubre de 2025, es una posición sostenida públicamente por científicos de nivel Nobel, emprendedores icónicos y figuras políticas de todo el espectro. Ese cambio en lo que es respetable decir es el prerrequisito para todo lo que sigue. Los políticos adoptan posiciones que ya son populares; rara vez lideran. La función de la declaración es hacer que la prohibición sea lo suficientemente popular para que los líderes puedan actuar en consecuencia.
Así es exactamente como comenzaron los movimientos anteriores de gobernanza tecnológica. El Conferencias Pugwash dedicó dos décadas a construir el consenso intelectual y moral que finalmente sustentó el control de armas nucleares. Las declaraciones y manifiestos son la forma en que se construye la pista de aterrizaje, no la meta.
De una declaración a un tratado
La brecha entre la declaración y la realidad es la brecha que Fundación Nakada existe para cerrar. Una declaración establece que la prohibición es deseable y legítima. No establece la maquinaria para hacerla cumplir. Eso requiere tres cosas que el texto deja deliberadamente sin especificar:
- Una definición con dientes. «Superinteligencia» debe traducirse en criterios sobre los que un tratado pueda actuar: umbrales de cómputo, evaluaciones de capacidad o ambos. Examinamos esto en el desafío diplomático de definir la IA peligrosa.
- Verificación. Una prohibición que nadie puede verificar es la Convención sobre Armas Biológicas, una prohibición noble violada durante décadas sin detección. Una gobernanza creíble necesita monitoreo, modelado en el régimen de verificación nuclear.
- Compromiso vinculante. Las promesas de contribuciones voluntarias tienen un historial, y no es alentador. El principio de la declaración tiene que convertirse en ley exigible.
La Declaración sobre Superinteligencia demostró algo valioso: la voluntad existe, y cruza cada línea que suele dividir a las personas. Nuestra plan se trata de convertirlo en los controles de computación, organismo de vigilancia y tratado internacional que darían a la declaración la fuerza que necesita. Si estás de acuerdo, lo más útil que puedes hacer ahora es ayudar a construir la coalición que la convierte en política.