Naoto Nakada

Founder and Executive Director ng Pundasyon ng Nakada para Iligtas ang Sangkatauhan. CEO & Creative Director ng Nakada Design.

Makipag-ugnayan
Naoto Nakada

Tungkol

Ang ating tagapagtatag ay nagdala ng malalim na kasanayang digital at kadalubhasaan sa kagandahan ang Pundasyon. Ang kombinasyong iyon ay nag-a-posisyon sa kanya upang manguna sa programang pangkultura at media para sa isang online-first na manonood.

Naipakita ng mga Nakadaisensiya ang halaga nito at ang mga limitasyon nito. Maaari nitong palakihin ang produksiyon, subalit ang mga ito'y nananatiling di - maaasahan sa pagkontrol at direksiyon. Dahil sa ang mga sistema ng pagtutugma na mas may kakayahan kaysa sa mga tao ay nananatiling di - nalulutas, siya ay nakikitungo artipisyal na superintelligence (superintelihensya) bilang isang umiiral na panganib, samantalang nananatiling optimistiko tungkol sa pangako ng kontroladong makitid na AI.

Nagdadala siya ng malawak na internasyonal na karanasan, anupat nanirahan sa Tokyo, Sydney, Los Angeles, London, at Singapore. Ang gayong pangglobong pangmalas ay mahalaga sa pag - aayos ng pangmalas na kinakailangan sa isang pangglobong problema.

Nilikha ni Nakada ang Pundasyon matapos makilala ang isang puwang sa larangan ng larangan AI-ligtas na pilantrohiya. Karamihan ng pera at talento ay tumutungo pa rin sa paggawa ng isang potensiyal na superintelihensya “atrerić samantalang ang takbuhan upang itayo ito ay nagpapatuloy. Iilang tao lamang sa buong daigdig ang gumagawa upang hadlangan ang paglikha sa superintelihensya.

Ang paglalang dito ay mangangahulugan ng pagkalipol ng lahi ng tao.

Layunin niya ang magkaroon ng pinakamalaking epekto at ng pinakamataas na pagbabalik nagbigay ng pondo: ang pinakamalaking problema sa ating panahon, na nakaaapekto sa karamihan ng mga tao. Kung nabuhay siya noong Cold War, ang Pundasyong ito ay nakatalaga sana sa Paghadlang sa pangglobong thermonuclear war. Naniniwala siya na ang superintelihensya ang isyung iyon sa ngayon.

Mga Artikulo ni Naoto Nakada

Bakit ang isang Superior Intelligence ay Hindi Awtomatikong Magiging Mabait Ang paniniwalang magiging matalino at mabait ang superintelligent AI ay nakabatay sa isang kakaibang aspeto ng ebolusyon ng tao na walang dahilan para mamana ng isip ng makina. Ang Makitid na Banda na Tinatahanan ng mga Tao Lahat ng kailangan ng tao ay nasa makitid na saklaw: temperatura, oxygen, asin, maging ang pag-ibig. Ang superintelligence na humahawak sa mga kontrol ay hindi makaramdam ng kahit isa sa mga ito. Namumuhay Tayo sa Isang Bagong Cold War Bakit naniniwala ako na nabubuhay tayo sa bagong Cold War, na may superintelligence kapalit ng bomba, at bakit nito ginagawang posible ang pag-iwas sa halip na walang pag-asa. Bakit Naniniwala ang isang Capitalist sa Regulasyon ng superintelihensya Ako'y namamahala ng isang negosyo at naniniwala sa malayang mga pamilihan. Superintelligence ang bihirang pusta na maaaring tapusin ang laro. Isang kapitalistang kaso para sa isang kasunduan na humihinto sa superintelihensya. Magtitiwala Ka Ba sa AI Tungkol sa Gas? Magtitiwala ka ba sa anumang kasalukuyang AI sa loob ng isang nakakandadong silid na may balbula ng poison gas? Hindi. Bakit mo ito pagkakatiwalaan sa buong mundo? Hindi Mo Maa-align ang Superintelligence Ang paglutas ng alignment ay nangangahulugang kontrolin ang isang bagay na mas matalino kaysa sa atin. Superintelligence ang nasa pangalan. Tanga at imposible ang planong iyan. Optimista ako na naniniwalang posible ang lahat, ngunit hindi ang pagkontrol sa Superintelligence Maaaring isang araw ay magbunga ang pisika ng kontrol sa grabidad o ng paglalakbay na mas mabilis sa liwanag. Hindi ko pa rin makita kung paano natin kokontrolin ang isip na mas matalino kaysa sa atin.
Ang Paghinto sa Pagiging Superintelligence ay Hindi Nalalanta Ginagamit nila ang degrowth sa paraan ng paggamit nila ng degrater: isang pangalan para sa sinumang nagnanais ng isang mahirap na paghinto sa superintelihensya. Ang pagpapanatili sa ekonomiya ng tao ay hindi isang plano upang bawasan ito. Hindi Babayaran ng mga Robot ang Pambansang Utang Ang Washington at ang mga laboratoryo ay nagbebenta ng AI at mga robot bilang paraan upang bayaran ang pambansang utang. Ang isang successor mind ay hindi naglilingkod sa Treasuries. Inaamin ni Musk na Hindi Makokontrol ng mga Tao ang superintelihensya Sinabi ni Musk sa The Economist na ang pagkontrol sa superintelligence ay walang kabuluhan at malamang na hindi manatili sa kapangyarihan ang mga tao. Ang pag-amin na iyon ang dahilan para hindi ito itayo. Nakuha ng Longtermism ang Panganib nang Tama Tama ang pagraranggo ng longtermism sa panganib ng superintelihensya. Mali ang konklusyon na pondohan ang alignment at patakbuhin nang maingat ang karera. Pigilan ang pagbuo nito. Kung Nais ng Iyong Teknolohiya na Saktan Ka Nakakainis ang mga buggy lights. Ibang kategorya ang isang smart home na may sariling mga layunin. Ang agency ang panganib, at umiiral na ang mga piraso. Mali ang Pagraranggo ni Amodei sa mga Panganib Inuuna ni Dario Amodei ang authoritarian AI at pangalawa ang alignment. Ang superintelligence ay hindi sandatang maaaring pagmay-ari ng isang estado. Baliktad ang pagkakasunod-sunod na iyan. Ano ang hitsura ng “Brain” ng AI? Ang "utak" ng isang AI ay isang weight file na kasing laki ng lungsod: mga layer ng numero na walang makakabasa nang buo, at nasa gitna ng control problem ang katotohanang iyan. Ilipat ang alignment funding tungo sa pagpigil sa superintelligence Ang pananaliksik sa alignment na nag-aakala na itatayo ang superintelligence ay hindi tamang lugar para sa kakaunting pera sa kaligtasan. AI lang ang Makakasabay sa AI Sinasabi ni Peter Diamandis na tanging AI lang ang makakasabay sa AI, at ito ang gagabay sa susunod na dekada ng seguridad. Bakit nabigo ang modelong iyan sa superintelligence. Patuloy Silang Gumagawa ng mga Luntian Binati ng Montreal Protocol ang kemikal na nagbubukas ng isang butas sa kalangitan at pinananatiling nasa repridyeretor, yamang maaari kaming magretiro sa superintelligence at panatilihin ang kapaki - pakinabang na AI. Kung Madaling Gumawa ng Bombang Nuklear Nanatiling bihira ang mga sandatang nukleyar dahil mahirap gumawa at bantayan ang fissile material. Isipin kung mura lang ito. Ang babala para sa madaling daan patungo sa superintelihensya. Ang Pagiging Optimistiko ay Hindi Nangangahulugan na Tayo'y Makaliligtas sa Superintelligence Ako'y isang optimista; ang pagkalipol ng tao ay hindi pa nangyayari kailanman. Ang mga nakaligtas ay hindi isang ligtas na kaso. Kung bakit ang mga nagpapasigla ay nalilito sa kalagayan at sa katibayan. Hindi Kami Isang Bootloader Sinabi ni Rogan sa digital butterfly at ni Musk sa biological bootloader na transisyonal lang ang tao. Bakit nakakaakit ang kuwentong ito patungo sa pagsuko ng ating species. Ang Shoggoth Gap ay ang Missile Gap Muli Parehong panig ang nagpopondo sa AI sa pamamagitan ng pagsasabing nauuna ang isa. Ang lumang missile-gap trick ng Cold War. Bakit ito ay isang kakila-kilabot na dahilan para magmadali patungo sa superintelligence. Ang Pagpigil sa Superintelligence ay Pinakamabuti para sa America Ang buong bilis sa superintelligence ay ipinagbibili bilang pagkamakabayan. Kung bakit ang isang pansamantalang paghinto ay higit na nagsisilbi sa interes ng Amerika kaysa manalo sa isang karera na walang premyo. Ang Pelikulang AI na Hindi Ginawa ng Hollywood Bawat pelikula tungkol sa AI ay nakatutok sa mga tao. Ang pelikulang makakapagbago ng isipan ng publiko ay ilalagay ang manonood sa pananaw ng isang umuusbong na superintelligence. Ranking ng 21 AI Movies batay sa Accuracy Dalawampu’t isang pelikula tungkol sa artificial intelligence mula 1927 hanggang ngayon, at tapat na pagsusuri kung ano ang tama at mali sa bawat isa tungkol sa superintelligence. Napakalayo na ng sangkatauhan para mamatay na lang Isang kamay sa dingding ng kuweba, simboryo ni Brunelleschi, bulutong na nataboy sa mundo. Napakalayo na ng narating natin para isapalaran ang lahat sa artificial superintelligence. Pagbuo ng Eroplano Habang Lumilipad Ito Naging ligtas ang abyasyon dahil sa pag-crash, saka inayos ang nasira. Walang second flight ang superintelligence, kaya ang pagbuo ng eroplano habang nasa ere ay isang pag-amin. The Day After: Ang Pelikulang Yumanig sa Isang Pangulo Noong 1983, pinanood ni Reagan ang The Day After, isang pelikula tungkol sa nuclear war, at isinulat niya na ito ay lubos na yumanig sa kanya. Nagising Tayo sa AI at Cyber. Natutulog Pa Tayo sa AI at Bio. Nagising tayo sa AI sa cyberattacks. Natutulog pa rin tayo sa AI sa biology, kung saan pinaikli nito ang daan patungo sa engineered pandemics at mirror life. Paano Ipaunawa ang Panganib ng Superintelligence sa 5 Minuto Paano mo ipapaliwanag kung bakit mapanganib ang superintelligence sa isang taong hindi pa naisip ito? Ang limang minutong bersyon, sa simpleng wika. Mga Digital na Sandatang Nuklear Inihalintulad ng CIA director ang frontier AI sa digital nuclear weapons. Kapaki-pakinabang ang metapora, pero masyadong nakapapawing pagod: hindi kailanman pipili ng sarili nitong target ang isang bomba. Ang Lahi para sa Superintelligence ay Isang Mito Ang argumento na "kailangan nating buuin ang superintelligence bago ito gawin ng Tsina" ang nagtatapos sa bawat debate tungkol sa AI safety. Bakit gawa-gawa lang ang lahi, at bakit walang makakapanalo rito. Hindi dapat kailanman bumuo ang sangkatauhan ng superintelligence May isang bagay na hindi dapat itayo ng sangkatauhan: isang isipan na hindi natin makokontrol at hindi na maibabalik. Ang kaso para ituring ang superintelligence bilang linyang hindi natin tatawirin. Ang Pagbagsak ng Doomer Argument in AI Accelerationism Ang salitang "doomer" ay ginagawang personalidad na depekto ang argumento tungkol sa kaligtasan ng AI. Paano ginagamit ng kilusang accelerationist ang label na ito para balewalain ang mga kritiko nang hindi sinasagot ang mga ito. Ang Pinakamalalaking Mito Tungkol sa Superintelligence Sampung myths tungkol sa superintelligence at pamamahala nito: science fiction, consciousness, ang off switch, world government, verification, innovation, at iba pa, sinagot nang diretso. Ang Superintelligence ay Isang Perfect Storm Pinagsasama ng superintelligence ang bawat kondisyon na nagpapanganib sa isang teknolohiya, lahat nang sabay-sabay, at isang pagkakataon lang ang ibibigay sa atin para magawa ito nang tama. Lubos na Maliwanag ang Hinaharap Natin Kung Walang Superintelligence Ang narrow AI ay naghahatid na ng hinaharap na ipinangako sa atin. Ang superintelligence ay nagdaragdag ng sakuna at hindi nagpapayaman kaninuman, dahil lahat tayo ay mamamatay. Nuclear, Bioweapons, o Superintelligence: Aling Panganib ang Pinakamalaki? Ayon sa pinakamahuhusay na tantiya ng existential risk, mas mataas ang bigat ng superintelligence kaysa nuclear war at engineered pandemics. Narito ang pangangatwiran. Paano umabot ang AI Safety sa isang bilyong dolyar kada taon Tumatakbo ang AI safety sa halos $190 milyon kada taon. Ang pagdadala nito sa $1 bilyon ay hindi problema sa ekonomiya kundi sa mobilization, narito kung saan nanggagaling ang pera. Kung Bakit Hindi Pinamunuan ng Makina na Sumilo kay Kasparov ang Daigdig Noong 1997, tinalo ng Deep Blue ng IBM ang world chess champion na si Garry Kasparov. Ito ay superhuman sa isang laro, walang naiintindihan, at walang gustong mangyari. Isang aral para sa ngayon. Isang AI ang Pumasok sa Halos Lahat ng Classified Systems ng NSA sa Loob ng Ilang Oras Ayon sa direktor ng NSA, nakapasok ang isang AI sa halos lahat ng classified systems ng ahensya sa loob ng ilang oras. Ano talaga ang nangyari at bakit dapat itong ikabahala. Bakit Napakaliit ng Pondo sa AI Safety? Ang AI safety ay tumatakbo sa humigit-kumulang $190 milyon bawat taon, mas mababa sa 0.1% ng pumapasok sa AI capabilities. Saan nanggagaling ang pera, at apat na dahilan kung bakit nananatiling maliit ito. Effective Accelerationism (e/acc), Ipinaliwanag: at Sinagot Ano ang effective accelerationism (e/acc)? Ang techno-optimist na paninindigan para sa mabilis na pagbuo ng AI, at ang paninindigan laban dito mula sa pananaw ng kaligtasan ng AI.