Ang isang may-bisang internasyonal na kasunduan ay makakapagligtas sa sangkatauhan habang patuloy ang pag-unlad ng teknolohiya.
Kami ay isang philanthropic campaign laban sa mga sistemang lumalampas sa katalinuhan ng tao at hindi na mapipigil o mapipigilan. Hindi dapat kailanman bumuo ang sangkatauhan ng superintelligence.
Mapanganib ang isang singular system na sinasadyang pinalaki upang lumampas at palitan ang human capabilities sa bawat domain. Ang artificial superintelligence ay ang number-one risk sa sangkatauhan, mas malaki kaysa global thermonuclear war. Ang nuclear war ay maaaring magwakas sa sibilisasyon at mag-iwan ng mga survivor. Ang isang superintelligence ay magwawakas sa ating species.
Inihuhulma namin ang aming gawain sa mga napatunayang konsepto na nagpabago sa mundo, tulad ng mga public pressure campaigns at international treaties tungkol sa chemical weapons, nuclear non-proliferation at ozone layer.
Tayo'y nagsasarili at hindi kumukuha ng salapi sa mga laboratoryo ng AI, sa kanilang mga mamumuhunan, o sa mga kompanya na ang mga pakinabang ay depende sa karera sa hangganan.
Ang media ay isang makapangyarihang kasangkapan para hubugin ang opinyon at lumikha ng kultura na nagpapahirap na balewalain ang krisis. Nakakaapekto ito sa botante at sa isipan ng mga lider na inihahalal natin. Kapag Ronald Reagan pinanood ang pelikulang 1983 Ang Araw Pagkatapos, ", naging kongkreto ang abstract na konsepto ng digmaang nukleyar, at kalaunan ay pumirma ang Pangulo ng isang may-bisang kasunduan sa Unyong Sobyet para bawasan ang stockpile ng nukleyar.
Ang nagbotong publiko ay hindi nagbabasa ng mga papeles. O manood ng mga video. Magkakaroon tayo ng Ghibli-style[kailangan ng sanggunian] na nakaka-aliw, mapagbigay, at nakapagtuturo.
Maraming organisasyon ang nagtatrabaho sa "safer race" o "safe transition." Isa kami sa iilang nagmamadaling pigilan ang superintelihensya sa ilalim ng binding law. Hindi dapat mangyari ang "transition.".
Hindi kami isang "anti-AI" na organisasyon dahil sinusuportahan namin ang controlled, beneficial narrow AI, tulad ng mga nag-diagnose ng cancer at nagpapabilis ng drug discovery. Ang ganitong mga system ay lumalampas sa human capability sa isang domain lamang, na nagpapahintulot sa amin na ligtas na pamahalaan ang trabaho nito para sa kapakinabangan ng sangkatauhan.
Ang ating pundasyon ay nakatuon lamang sa paghadlang sa superintelihensya. Ginagawa namin ang gawaing pampubliko na gumagawang posible sa isang kasunduang internasyonal: komisyong mga pelikula, Ghibli-styleime, video, sanaysay, imahe at relasyon sa mga pinunong kultural. Tunguhin din nating baguhin ang kakayahan at pananalapi mula sa paghahanay ng pananaliksik tungo sa paghadlang sa superintelihensya.
Hindi kami gumagawa ng teknikal na pananaliksik, pagsusuri ng patakaran, o lobbying.
Hindi rin kami kumukuha ng posisyon sa pangkalahatang paksa ng AI tulad ng chatbots, automation ng trabaho, military drones, o data centers.
Tayo ay isang US batay sa samahang pilantropiko. , ang suporta ng fiscal ay naghihintay at nalalapit, depende sa unang pangangalap ng pondo. Ang lahat ng mga donasyon kung gayon ay maaaring bawasan ng buwis.
Nagtitipon kami ng isang maliit na lupon ng tagapayo. Hinahanap namin ang mga may karanasan sa pangmadlang interes na komunikasyon, fundraising, at produksiyong pangkultura.
Isa sa aming pangunahing layunin ang makamit ang makabuluhang epekto. Pampubliko at masusukat ang aming mga output, tulad ng impressions sa X at views sa YouTube videos, at sinusubaybayan namin iyon laban sa sentiment ng voting public.
Naoto Nakada ay nagpopondo ng nuclear treaty work noong Cold War. Itinuturing ng aming founder ang superintelligence bilang existential crisis ngayon.
Matapos ang mga dekada ng pananaliksik sa AI safety, ang konklusyon ay hindi natin makokontrol ang isang bagay na mas matalino sa atin, habang karamihan ng pera sa ang larangan pumupunta pa rin sa "mas ligtas" na frontier systems habang itinutayo pa rin ang mga ito. Ang pagpigil sa artificial superintelligence bago pa ito umiral ay nananatiling kulang sa pondo at hindi sapat na napag-uusapan, na mayroon lamang pitong organisasyon sa mundo na eksklusibong nakatuon sa pagpigil sa superintelihensya.
Inilunsad namin ang foundation bilang tugon sa puwang na iyan, na may kapansin-pansing pangalan na nagpapakita ng pagkaapurahan at bigat ng banta.
Nagsisimula pa lang ang kwento ng sangkatauhan. Kailangan nating tiyakin na ito ay magtatagal nang maraming panahon.
Naoto Nakada
Hindi. Sinusuportahan namin ang kapaki-pakinabang na narrow AI: mga sistemang gumagawa ng trabaho at maaaring itama. Nagtatrabaho kami para pigilan ang artificial superintelligence, mga sistemang may open-ended na kakayahan na naglalagay sa kanila sa ibang kategorya. Ang smartphone, ang internet, kahit nuclear plant ay maaaring i-regulate at isara. Ang superintelligence ay hindi.
Kakaiba kami. Nagtatrabaho kami sa artificial superintelligence at sa cultural work na nagpapahintulot ng kasunduan laban dito. Chatbot bias, pagkawala ng trabaho dahil sa automation, deepfakes, military drones, data-center siting: maaaring mahalaga ang mga iyon sa iba. Hindi ito trabaho ng foundation na ito. Kung hindi tungkol sa pagpigil sa superintelihensya ang tanong, wala ito sa foundation na ito.
Ang pinakakaraniwang pagtutol ay parehong hugis ng argumento na ginamit laban sa nuclear non-proliferation. Hindi perpekto ang NPT at gumana pa rin ito: walang nuclear use sa digmaan mula noong 1945, siyam na nuclear states samantalang daan-daan ang maaaring sumali. Ang defection risk ay dahilan para sa verification, hindi dahilan para magsprint. Ang frontier training ay dumadaan pa rin sa maikling listahan ng mga chipmaker. Ang pagmo-monitor ng compute threshold ay higit na political problem kaysa physics problem.
Oo. Mayroon din silang sales teams, investor relations departments, board members na kumakatawan sa shareholders, at competitive pressure para maglabas ng produkto nang mas mabilis kaysa sa mga karibal. Sumusunod ang safety teams sa loob ng commercial AI labs sa parehong insentibo ng buong kumpanya, at ang mga insentibong iyon ay nagbibigay ng gantimpala sa pagpapadala ng kakayahan kaysa sa pagbabawas ng panganib. Nang ilathala ng safety team ng OpenAI ang mga alalahanin tungkol sa sobrang bilis, mas lalo pang binilisan ng kumpanya ang proseso. Sa pinakamaganda, komplemento lang ng external regulation ang internal team. Hindi ito kapalit nito.
Si Geoffrey Hinton, nagwagi ng Turing Award at gumugol ng karera sa paglalagay ng pundasyon ng modernong AI, ay nag-estimate ng isang 10 hanggang 20 porsyentong tsansa na magdulot ng human extinction ang AI sa loob ng siglo. Sinabi nang hayagan ni Nobel laureate Yoshua Bengio na totoo ang panganib at kulang ang pagpapahalaga rito. Inilagay ng 2023 statement ng Center for AI Safety, nilagdaan ng mahigit 500 siyentipiko sa AI kabilang si Sam Altman, ang panganib ng pagkalipol dahil sa AI kasabay ng digmaang nukleyar at pandemya bilang pandaigdigang priyoridad.
Sumali sa Foundation. Ibahagi ang aming mensahe sa mga taong hindi pa nakarinig nito. Makipag-ugnayan sa iyong elected representative at tanungin kung ano ang kanilang posisyon sa AI risk at anong legislation ang sinusuportahan nila. Kung mayroon kang financial resources, isaalang-alang ang pag-donate sa Foundation o sa isa sa anim pang organisasyon na nagtatrabaho sa superintelihensya prevention. Kung mayroon kang cultural o media influence, gamitin mo ito. Kung nagtatrabaho ka sa loob ng isang AI laboratory at may mga alalahanin, isaalang-alang ang pagsasalita nang publiko. Ang political will ang nagpapasya dito, at ito ay nagmumula sa mga taong tulad mo.
Kumuha ng mga update, at tumulong na bumuo ng presyon na kailangan ng adhikaing ito.