Detener la superinteligencia no significa destruir todos los chips ni terminar con el aprendizaje automático. Significa una prohibición legal y práctica de desarrollar superinteligencia artificial. La superinteligencia no puede ser controlada por humanos. Es una prohibición permanente, no una pausa temporal que expira en la misma carrera.
Qué debe detenerse vs qué debe continuar
La IA estrecha que pliega proteínas, lee escáneres, optimiza logística y permanece dentro de dominios acotados debe continuar. El objetivo es la superinteligencia general que mejora recursivamente y los programas dirigidos a ella, filtrados mediante umbrales de cómputo, pruebas de capacidad y reglas de investigación. Los críticos que dicen «quieren prohibir la IA» venden una calumnia que protege la carrera.
Por qué las promesas de los laboratorios no bastan
Políticas de escala responsable y las promesas de contribuciones múltiples pueden revelar la intención. Fallan como sistema de control primario. La misma firma escribe la política, ejecuta las pruebas, juzga los resultados y beneficios del envío. Bajo la competencia, las reglas internas se doblan, por lo que la ley externa tiene que suministrar la mordida.
La escalera de aplicación
Imagina una escalera en un acantilado.
Voluntad pública en la base: personas que pueden nombrar la petición y castigar a los líderes que solo ofrecen teatro de innovación.
Legislación nacional y agencias: licencias para ejecuciones de entrenamiento grandes, exposición penal y civil por desarrollo de superinteligencia a sabiendas, organismos de evaluación con acceso real, protección a denunciantes.
Chips y nubes: controles de exportación, conocimiento de racimo, visibilidad de potencia y centro de datos. Hardware es físico. Esa es una característica para la gobernanza.
Tratado de coalición: un conjunto básico de estados que abarcan la mayor parte de la capacidad fronteriza, con anexos numéricos, no sólo principios. El Distrust es normal; la verificación existe así que las partes no necesitan depender de la amistad.
Institución de verificación: inspectores, calendarios de FLOP, notificación de incidentes, autoridad para activar consecuencias. Piensa en una capacidad de estilo IAEA para centros de datos y entrenamiento, no en un foro de debate.
Condición de prohibición permanente: reabrir solo cuando la ciencia independiente y el público superen un alto umbral bajo instituciones no capturadas por los laboratorios.
Cada peldaño sostiene al siguiente. Las cumbres sin reglas de cómputo, o las reglas de cómputo sin voluntad pública, dejan la escalada inconclusa.
La política interna es la mitad del problema
En los Estados Unidos, el hermoso texto de Ginebra no se une sin un camino a través del Senado o a través de estatutos y acuerdos congresistas-ejecutivos que pueden pasar. Diseñar el instrumento retrocedido de los votos que puedes ganar. Otros países tienen sus propias trampas de ratificación. Skip domestic design and you get press releases.
China, rivales y la excusa de la carrera
La excusa dominante para el escalado ilimitado es: si desaceleramos, no lo harán. La vulnerabilidad compartida reduce ambos modos. Una superinteligencia incontrolable es una manera de perder el país mientras saluta la bandera, no un activo nacional. La verificación, la negación de hardware y la exposición mutua de los programas de ruptura existen para los rivales que no confían entre sí.
Abrir pesos
Las ponderaciones generales abiertas de alto nivel crean un camino de proliferación que controla las exportaciones sólo en parte. Una vez que los pesos son públicos, no hay memoria central. Tratar las liberaciones generales de alta gama como decisiones de proliferación, no lanzamientos de productos ordinarios.
Qué puedes hacer
Adapta la acción a tu alcance.
Votantes: contacta a los representantes con una solicitud de prohibición vinculante, no un vago "ten cuidado." Personal: redacta proyectos de ley de licencias y evaluación con umbrales numéricos. Donantes: financia la defensa que mueve votos y el texto del tratado. Científicos: apoya la prohibición permanente y ayuda a diseñar la verificación. Empleados del laboratorio: use lawful reporting channels when internal safety is overridden. Role-specific force beats generic anxiety.
La mayor parte del dinero y el prestigio siguen destinándose a hacer la carrera más segura, no a terminar la carrera hacia superinteligencia. Los donativos que impulsan la detención siguen siendo escasos.
Cómo se ve el éxito
En dos años: estatutos con dientes en varias jurisdicciones, mejor monitoreo del uso final en los chips, texto serio de negociación con números, apoyo público duradero para una prohibición vinculante. En cinco a diez: cómputo licenciado que cubra la mayor parte de la capacidad de frontera, inspección funcional, cobertura de coalición para el entrenamiento, y una cultura donde un escape resulte caro y visible. Los comunicados de las cumbres por sí solos no cuentan.
Modos de fallo
Observe la redefinición ("asistencia avanzada" en lugar de superinteligencia), captura de evaluadores, tratados simbólicos sin verificación, y esperando la "alineación resuelta" como un permiso para construir. Defecto sin costo. Llámalos para que puedas poner raíles en la escalada.
Diseño de tratados sin un texto sagrado
No existe un borrador sagrado único. Hay familias de diseños. Una coalición central que cubra la mayor parte de la capacidad de frontera puede avanzar antes de la membresía universal. La secuenciación marco-luego-anexos (principios primero, cronogramas numéricos que se actualizan) toma prestado de regímenes ambientales y de armas exitosos. Las medidas comerciales contra no partes cambian el cálculo de la salida. Un fondo multilateral o un acuerdo de acceso a tecnología puede atraer a estados que temen quedar excluidos de la IA estrecha. El borrador estilo MIRI es una propuesta completamente especificada; NPT, Montreal y el derecho de armas químicas son la estantería de precedentes. Elige estructuras que puedas verificar, no poesía que solo puedas elogiar.
Investigación cerca de la línea
El problema de redacción más difícil es el trabajo que queda al lado de la prohibición: sistemas agenticos, asistentes automatizados de investigación en IA, autojuego a gran escala. Prohibir la ruta clara hacia superinteligencia. Licenciar e inspeccionar la zona gris. No fingir que cada artículo es una bomba, ni fingir que la investigación automatizada en IA es ciencia ordinaria cuando acorta el camino hacia sistemas que nadie puede controlar.
Justicia y quién paga
Las reglas de cómputo afectarán a las empresas y los países de forma desigual porque la base industrial es desigual. Un régimen justo combina restricciones en la cima de la escalera de capacidades con acceso continuo a herramientas estrechas beneficiosas, y no usa la "seguridad" como excusa para sistemas de castas tecnológicas permanentes. El objetivo es la supervivencia compartida, no un monopolio del progreso.
Respondiendo a dos posturas difíciles
"Perderemos la economía." Parte del capital se reasignará. Algunas historias de acciones se reducirán. Esos costos son visibles en las llamadas trimestrales. La extinción y el desempoderamiento permanente no aparecen como una partida individual. Los costos visibles no ganan automáticamente la discusión cuando la alternativa es civilizacional.
"Siempre habrá alguien que deserte." La deserción es una entrada de diseño. La verificación, la negación de hardware, las sanciones y la exposición mutua de los programas de separación existen para cambiar el pago. El cumplimiento perfecto no es el estándar; elevar el costo de la trampa es.
La escalera de nuevo
Los corredores son la voluntad pública, la ley, los chips, un tratado, inspectores y la prohibición permanente. Escalar significa instalar peldaños con el fin y negarse a fingir que una pared pintada es una escalera. Ya existen los documentos, los chokepoints industriales y los precedentes legales. La fuerza pertenece al siguiente peldaño que puedes alcanzar. La línea de fundición es más simple: no construyan superinteligencia. La superinteligencia no puede controlarse.