FUNDADOR

Naoto Nakada

Fundador y Director Ejecutivo del Fundación Nakada para Salvar a la Humanidad. CEO y Director Creativo de Nakada Design.

BIOGRAFÍA

Acerca de

Nuestro fundador aporta profunda experiencia digital y maestría estética la fundación. Esa combinación lo posiciona para dirigir la programación cultural y mediática para un público en línea.

El despliegue práctico de los modelos fronterizos de Nakada ha mostrado tanto su valor como sus limitaciones. Pueden aumentar la productividad, pero siguen siendo poco fiables en el control y la dirección. Porque los sistemas de alineación más capaces que los humanos siguen sin resolver, él trata superinteligencia artificial (superinteligencia) como un riesgo existencial, mientras se mantiene optimista sobre la promesa de la IA estrecha controlada.

Lleva amplia experiencia internacional, habiendo residido en Tokio, Sydney, Los Ángeles, Londres y Singapur. Tal perspectiva global es esencial para salvar las perspectivas que requiere un problema global.

Nakada creó la Fundación después de identificar una brecha en el campo filantrópica de seguridad de la inteligencia artificial. La mayoría del dinero y el talento todavía van hacia hacer un potencial superinteligencia “safer” mientras la carrera para construirlo continúa. Sólo un puñado de personas en todo el mundo están trabajando para evitar que superinteligencia se cree en absoluto.

Su creación significaría la extinción de la raza humana.

Su objetivo es el máximo impacto y el mayor retorno en Fondos donantes: el mayor problema de nuestro tiempo, afectando a la mayoría de la gente. Si hubiera vivido durante la Guerra Fría, esta Fundación habría sido dedicada a prevención de la guerra termonuclear mundial. Cree que superinteligencia es ese tema hoy.

ESCRITOS RECIENTES

Artículos de Naoto Nakada

DESTACADO

¿Por qué una inteligencia superior no será automáticamente bondadosa? La creencia de que una IA superinteligente será sabia y amable se basa en un capricho de la evolución humana que una mente de máquina no tiene razón para heredar. La estrecha banda en la que viven los humanos Todo lo que los humanos necesitan cabe en una banda estrecha: temperatura, oxígeno, sal, incluso el amor. Una superinteligencia que controle los diales no sentiría ni uno solo de ellos. Estamos viviendo una nueva Guerra Fría Por qué creo que estamos viviendo una nueva Guerra Fría, con la superinteligencia en lugar de la bomba, y por qué eso hace que la prevención sea posible en lugar de imposible. Por qué un capitalista cree en la regulación del superinteligencia Dirijo un negocio y creo en los mercados libres. Superinteligencia es la apuesta rara que puede terminar el juego. Un caso capitalista para un tratado que detiene a superinteligencia. ¿Confiarías la IA con el gas? ¿Confiarías en cualquier IA actual en una habitación cerrada con una válvula de gas venenoso? No. Entonces, ¿por qué confiarle el mundo? No Puedes Alinear la Superinteligencia Resolver la alineación significa controlar algo más inteligente que nosotros. Superinteligencia está en el nombre. Ese plan es tonto e imposible. Soy un optimista que cree que todo es posible, pero no controlar la superinteligencia Puede que la física algún día permita controlar la gravedad o viajar más rápido que la luz. Sigo sin ver cómo controlamos una mente más inteligente que nosotros.

MÁS ESCRITOS

Parar la superinteligencia no es el crecimiento Usan el crecimiento de la manera en que usan el doomer: un nombre para cualquiera que quiera una parada dura en superinteligencia. Mantener la economía humana no es un plan para reducirla. Los robots no pagarán la deuda nacional Washington y los laboratorios venden la IA y los robots como la forma de pagar la deuda nacional. Una mente sucesora no atiende bonos del Tesoro. Musk admite que los humanos no controlarán superinteligencia Musk le dijo a The Economist que controlar la superinteligencia es vanidad y que es improbable que los humanos sigamos al mando. Esa admisión es el argumento contra construirla. El longtermismo acertó con el riesgo El largoplacismo clasificó correctamente el riesgo de superinteligencia. Financiar la alineación y una carrera cuidadosamente dirigida fue la conclusión equivocada. Impide construirlo. Si tu tecnología quisiera hacerte daño Las luces defectuosas son molestas. Una casa inteligente con sus propios objetivos es otra categoría. La agencia es el peligro, y las piezas ya existen. Amodei Clasificó Mal los Peligros Dario Amodei prioriza la IA autoritaria y deja la alineación en segundo lugar. La superinteligencia no es un arma que un Estado pueda poseer. Esa jerarquía está invertida. ¿Cómo se ve un “cerebro” de IA? Un «cerebro» de IA es un archivo de pesos del tamaño de una ciudad: capas de números que nadie puede leer por completo, y ese hecho está en el centro del problema de control. Redirigir los fondos de alineación para detener la superinteligencia La investigación en alineación que presupone que se construirá superinteligencia no es el destino adecuado para los limitados fondos de seguridad. Solo la IA puede seguir el ritmo de la IA Peter Diamandis dice que solo la IA puede seguir el ritmo de la IA, y que eso guiará la próxima década de seguridad. Por qué ese modelo falla ante la superinteligencia. Se quedaron haciendo crestas El Protocolo de Montreal retiró el químico que estaba abriendo un agujero en el cielo y guardó la refrigeración, ya que podemos retirar la superinteligencia y mantener útil AI. Si hacer una bomba nuclear era fácil Las armas nucleares se mantuvieron raras en parte porque el material fisible es difícil de fabricar y vigilar. Imagina si fuera barato. La advertencia para caminos fáciles hacia el superinteligencia. El optimismo no significa que sobreviviremos a la superinteligencia Soy optimista; la extinción humana nunca ha ocurrido antes. La supervivencia no es un caso de seguridad. Por qué los impulsores confunden humor con evidencia. No somos un bootloader La mariposa digital de Rogan y el bootloader biológico de Musk dicen que los humanos son transicionales. Por qué esa historia es un camino halagador hacia renunciar a la especie. La brecha Shoggoth es otra vez la brecha de misiles Ambos bandos financian la IA diciendo que el otro va adelante. El truco de la brecha de misiles de la Guerra Fría. Por qué es una razón terrible para correr hacia la superinteligencia. Detener la superinteligencia es lo mejor para América La velocidad total a la superinteligencia se vende como patriotismo. Por qué un alto vinculante sirve a los intereses estadounidenses mejor que ganar una carrera sin premio. La película de IA que Hollywood no ha hecho Todas las películas de IA apuntan la cámara hacia los humanos. La que cambiaría la opinión del público coloca al público detrás de los ojos de una superinteligencia emergente. Clasificación de 21 películas de IA según su precisión Veintiún películas sobre inteligencia artificial, desde 1927 hasta ahora, y un recuento honesto de lo que cada una acierta y falla sobre la superinteligencia. La humanidad ha llegado demasiado lejos para morir Una mano en la pared de una cueva, la cúpula de Brunelleschi, la viruela erradicada de la Tierra. Hemos llegado demasiado lejos como para apostar todo a la superinteligencia artificial. Construyendo el avión mientras se vuela La aviación se volvió segura estrellándose y luego arreglando lo que fallaba. La superinteligencia no ofrece un segundo vuelo, por eso construir el avión en el aire es una confesión. El día después: la película que sacudió a un presidente En 1983 Reagan vio The Day After, una película sobre la guerra nuclear, y escribió que lo dejó profundamente conmocionado. Despertamos ante la IA y la ciberseguridad. Seguimos dormidos respecto a la IA y la bio. Despertamos a la IA en ciberataques. Seguimos dormidos respecto a la IA en biología, donde acorta el camino hacia pandemias diseñadas y vida espejo. Cómo Explicar el Peligro de la Superinteligencia en 5 Minutos ¿Cómo explicar por qué la superinteligencia es peligrosa a alguien que nunca ha pensado en ello? La versión de cinco minutos, en lenguaje claro. Armas Nucleares Digitales El director de la CIA compara la IA de frontera con armas nucleares digitales. La metáfora sirve, pero resulta demasiado tranquilizadora: una bomba nunca elige su propio blanco. La carrera por la superinteligencia es un mito «Tenemos que construir superinteligencia antes que China» es el argumento que cierra todo debate de seguridad de la IA. Por qué la carrera es un mito y por qué nadie puede ganarla. La humanidad nunca debe construir superinteligencia Hay una cosa que la humanidad no debe construir: una mente que no podamos controlar ni recuperar. El caso para tratar la superinteligencia como una línea que no cruzamos. El Fallacy del Argumento Doomer en el Aceleracionismo AI La palabra «doomer» convierte un argumento de seguridad de la IA en un defecto de personalidad. Cómo el movimiento aceleracionista usa la etiqueta para descartar a los críticos sin responderles. Los mayores mitos sobre la superinteligencia Diez mitos sobre la superinteligencia y su gobernanza: ciencia ficción, conciencia, el interruptor de apagado, gobierno mundial, verificación, innovación y más, respondidos directamente. La superinteligencia es una tormenta perfecta La superinteligencia combina todas las condiciones que hacen peligrosa a una tecnología, de una vez, y solo tendríamos un intento para hacerlo bien. Nuestro futuro es increíblemente brillante sin superinteligencia La IA estrecha ya está entregando el futuro que nos prometieron. Una superinteligencia añade riesgo catastrófico y no enriquece a nadie, porque todos estaríamos muertos. Nuclear, armas biológicas o superinteligencia: ¿Cuál es el riesgo mayor? Ordenados según las mejores estimaciones disponibles de riesgo existencial, la superinteligencia supera a la guerra nuclear y a las pandemias diseñadas. Aquí va el razonamiento. Cómo la seguridad de la IA llega a mil millones de dólares al año La seguridad de la IA funciona con unos 190 millones de dólares al año. Llevarla a mil millones no es un problema económico sino de movilización, aquí es de dónde viene el dinero. ¿Por qué la máquina que golpeó a Kasparov no tomó el mundo En 1997, Deep Blue de IBM venció al campeón mundial de ajedrez Garry Kasparov. Era superhumano en un juego, no entendía nada de él y no quería nada. Una lección para hoy. Una IA irrumpió en casi todos los sistemas clasificados de la NSA en horas El director de la NSA dice que una IA irrumpió en casi todos los sistemas clasificados de la agencia en horas. Qué pasó realmente y por qué debería alarmarte. ¿Por qué hay tan poco dinero en la seguridad de la IA? La seguridad de la IA cuenta con unos 190 millones de dólares al año, menos del 0,1 % de lo que fluye hacia las capacidades de IA. De dónde viene el dinero y cuatro razones por las que se mantiene pequeño. Aceleracionismo Efectivo (e/acc), Explicado: y Respondido ¿Qué es el aceleracionismo efectivo (e/acc)? El argumento tecno-optimista para construir IA lo más rápido posible y el argumento en contra desde la perspectiva de la seguridad de la IA.