Un tratado internacional vinculante de seguridad de la IA no nos será entregado. Hay que argumentarlo, organizarlo y pagarlo. Nuestra independencia depende enteramente de personas como tú.
Estado organizacional. Asociación filantrópica no incorporada, Estados Unidos. , el patrocinio fiscal está pendiente e inminente, condicionado a la primera recaudación de fondos. Los regalos no son deducibles hasta que estamos bajo un patrocinador calificado.
La mayor parte del dinero en seguridad de la IA sigue yendo a laboratorios e investigaciones técnicas que tratan la superinteligencia como inevitable. Casi nada se destina al trabajo político de asegurarse de que la superinteligencia nunca se construya. Nosotros hacemos ese trabajo, y solo ese: un tratado internacional vinculante, presión pública y la campaña de atención que hace posible el tratado. No aceptamos dinero de laboratorios de IA ni de sus inversores.
La seguridad técnica de la IA ya controla el dinero del campo y a sus mentes más brillantes, y con todo ese esfuerzo nadie ha demostrado cómo controlar de forma fiable un sistema mucho más inteligente que los humanos que lo construyen. Suponiendo que controlar una entidad mucho más inteligente que nosotros sea siquiera soluble, desde luego no se resolverá a tiempo. La única protección que queda es la decisión de no construir tales sistemas hasta que puedan hacerse seguros. Esa decisión es política, y está gravemente subfinanciada.
Un donativo aquí paga la pieza que falta. No otro artículo sobre cómo controlar una mente más inteligente que sus creadores. Personal, organizadores, respuestas en X que realmente enfrenten los eslóganes de la carrera donde aterrizan, contenido que vean legisladores y creadores, y la larga campaña para orientar la filantropía hacia la prevención. Dólar por dólar, ahí es donde el siguiente dólar reduce más el riesgo de extinción.
Qué cubre tu donación se detalla línea por línea a continuación. Nos comprometemos a publicar las donaciones significativas que superen un umbral de transparencia que fijaremos públicamente.
¿No puedes donar ahora? Aporta tu tiempo en su lugar.
¿Prefieres donar a gran escala una vez que las donaciones deducibles de impuestos estén activas? Registre su interés para donaciones importantes e institucionales.
Las donaciones en línea aún no están activas.Registre su interés y te avisaremos en el momento en que se abran las donaciones.
Si quieres que una donación haga tanto bien como pueda.
El punto de un regalo es su efecto, y el efecto de un dólar no es el mismo en todas partes. Así que la pregunta honesta es si esta es la mejor uso disponible del próximo dólar. Toma esa pregunta en serio y todo lo demás se deriva de ella.
Las causas de mayor impacto son las que alcanzan a todos, y a todos los que vienen después. Una amenaza para todo el futuro humano supera cualquier problema acotado, porque lo que pone en juego no es una generación sino todas las generaciones que podrían seguir.
De las tecnologías que podrían acabar con la humanidad, la superinteligencia artificial está en la cima. Según las mejores estimaciones estructuradas disponibles, conlleva algo del orden de cien veces el riesgo de extinción de una guerra nuclear, y es el único que se mejora a sí mismo y actúa contra cada contramedida que levantamos.
La investigación de seguridad técnica ya cuenta con el dinero del campo y con sus mejores mentes, y aun así nadie puede controlar un sistema mucho más inteligente que nosotros. El trabajo subfinanciado es el otro tipo: el acuerdo internacional vinculante y verificado que impide construir superinteligencia hasta que pueda hacerse segura. Nos centramos de forma estrecha en esa única cosa, no en la investigación que ya existe.
Lo más impactante que puedes financiar es prevenir la superinteligencia, y la parte más descuidada de eso es la lucha política para convertirlo en ley. Exactamente ahí es donde va tu donación, y por eso un dólar aquí es, dólar por dólar, uno de los regalos de mayor impacto que puedes hacer.
Financia la misión →Los regalos cubren lo que cuesta ejecutar los programas abajo.
Necesitamos financiación lo antes posible para una persona de tiempo completo que responde a X cuando la raza superinteligencia, la Singularidad o superinteligencia es el lanzamiento. Las consignas de carrera aterrizan cada hora sin un contador cuidadoso en el hilo. X es donde los legisladores, periodistas y líderes de laboratorio realmente leen. Una respuesta puede llegar a millones de impresiones. Su dinero paga por una cuenta de X Organización y los salarios de la persona que escribe y responde cada día. Resultado medible: impresiones y alcance en respuestas y publicaciones originales (analíticas públicas una vez que la cuenta esté activa).
Escribir en forma corta y larga, imágenes, infografías y video: obra original sobre superinteligencia hecha para que un no especialista pueda seguirla en una sola sesión. Hecho una vez, luego empujado a través de cada plataforma que podemos alcanzar. El trabajo es creativo, y conoce gente donde ya están: explicadores, ensayos, visuales, y narración cinematográfico-adyacente que hacen las apuestas legibles sin antecedentes técnicos. Su dinero paga por las personas que hacen el trabajo original, cuentas sociales verificadas, y las herramientas que lo distribuyen así que horas entran en el argumento en lugar de la cola de publicación. Resultado medible: vistas y ver tiempo en piezas originales.
El público que vota no lee documentos. O ver videos académicos secos. Produciremos Ghibli-style anime que es entretenido, compartido e informativo. Tu dinero paga por las personas que hacen esas películas y por que las vean. Resultado medible: vistas, tiempo de ver y acciones.
Ya hemos empezado a encontrar gente que pueda hacer este trabajo. Una lección llegó rápidamente: un solo vídeo ha tardado meses en terminar. Eso es demasiado lento. La carrera sigue moviéndose mientras una película se encuentra en la cola. Un video no debe tardar meses. El dinero aquí paga para poner a más de esas personas en el trabajo de inmediato. Resultado medible: tiempo desde el inicio hasta la publicación en piezas originales.
Además de la colocación pagada donde la opinión se forma.Patrocina boletines especializados que los legisladores y su personal ya abren. Patrocinar podcasts que esas mismas personas escuchan en el camino al trabajo. Patrocina a creadores de contenido con audiencias reales. La gente forma sus opiniones de los creadores. Quien publica sobre superinteligencia como un riesgo existencial hoy: casi nadie con alcance. Es como vivir a través de la Guerra Fría mientras casi nadie con un micrófono habla sobre la prevención de la guerra nuclear. Llenar ese silencio es la forma barata de hacer legible la amenaza antes de que se programe un voto de tratado, no la vanidad. Su dinero paga para los patrocinadores del creador y del boletín, podcast subescritura. Resultado medible: la ubicación alcanza donde patrocinamos la distribución.
Mucha filantropía se destina aún a la alineación: investigación técnica orientada a que la superinteligencia futura funcione bien. Nombren qué significaría realmente “resolver la alineación”. Significa controlar de manera confiable algo mucho más inteligente que nosotros. Está en el nombre: superinteligencia. Apostar a la especie en controlar una mente más inteligente que cada humano que la construyó es un plan tonto, y en la evidencia que tenemos, uno imposible. El ambicioso uso del dinero de los donantes se paga al personal cuyo trabajo es cumplir con los otorgantes y asesores, argumentar para redirigir el escaso capital de seguridad hacia el tratado, la verificación y la presión pública, y hacer ese trabajo en las habitaciones donde el dinero ya está prometido. No hay otro papel en esa pila. La seguridad del sistema estrecho que puede controlarse todavía merece financiación. Investigación que supone que construiremos una especie sucesora y luego la correa no. Los líderes en el altruismo efectivo una vez redireccionaron la filantropía hacia redes de malaria haciendo este tipo de caso. Si tomamos la misma ruta en la superinteligencia, lo diremos antes de pedir los dólares extras.
Recibe una notificación en cuanto las donaciones seguras en línea estén activas. También recibirás informes ocasionales sobre el destino del dinero.