Informe de Un Minuto
Para el personal que no leerá un documento técnico. Entrega esto. Habla los números. Siéntate.
Los laboratorios privados están corriendo hacia la superinteligencia artificial sin un tratado, inspección o apagado verificado, a pesar de las advertencias de los científicos que construyeron el campo.
500+
Expertos firmaron la declaración CAIS de 2023 que equipara el riesgo de extinción por IA con pandemias y guerra nuclear
$190M
Aprox. gasto anual de seguridad AI, contra alrededor de $1T para hacer sistemas más poderosos
0
Tratados globales vinculantes sobre el desarrollo de superinteligencia hoy
La petición
Tres movimientos
- Ley doméstica: licenciar grandes ejecuciones de entrenamiento; requerir evaluación independiente previa al despliegue.
- Conversaciones multilaterales: negociaciones abiertas sobre una prohibición con verificación.
- Financiamiento: expandir la capacidad de evaluación independiente y diseño de tratados fuera de los muros de los laboratorios.
El marco
Prevención · IA estrecha segura
No pedimos congelar la medicina ni el software. Pedimos prohibir sistemas generales autónomos que superen una línea de capacidad. La superinteligencia no puede controlarse. Precedentes: el Tratado de No Proliferación Nuclear, la prohibición de armas químicas, el Protocolo de Montreal.
Objeción anticipada: "China no cooperará."
Luego construye verificación (seguimiento de chips, inspección de clústeres) y trata la deserción como un problema de aplicación. Una carrera unilateral hacia un sistema incontrolable no es una estrategia.
Informe del personal: nakadafoundation.org/contact/ · Plan: nakadafoundation.org/our-plan/ · PDF de la política: nakadafoundation.org/resources/pdf/policy-brief/