Noong unang bahagi ng 1970s natutunan ng mga biologist na i-splice ang mga gene mula sa isang organismo patungo sa isa pa. Binuksan ng recombinant DNA ang medisina at biyolohiya nang sabay, at natakot ang mga nag-imbento nito. Hindi nila maitatanggi na maaaring makatakas ang binagong organismo mula sa lab at magdulot ng pinsalang walang alam kung paano pigilan. Kaya gumawa sila ng halos hindi naririnig na bagay. Tumigil sila.

Noong 1974, ang mga nangungunang mananaliksik, kasama na ang mga magiging Nobel laureates, ay hayagang nanawagan ng boluntaryong moratorium sa pinakamapanganib na recombinant DNA experiments. Noong Pebrero 1975, humigit-kumulang 140 siyentipiko, kasama ang mga abogado at mamamahayag, ay nagtipon sa Asilomar conference center sa California para magpasya kung paano ligtas na maipagpapatuloy ang gawain. Nagkaroon sila ng balangkas ng containment measures na naaayon sa panganib, at muling nagsimula ang pananaliksik sa ilalim ng napagkasunduang mga pananggalang. Para sa mga tagasuporta ng pagpapahinto sa frontier AI, ito ang reference point: isang larangan na kinilala ang sarili nitong panganib at pinili ang pag-iingat kaysa bilis.

Ano talaga ang nakuha nang tama ng Asilomar

Totoo ang tagumpay at karapat-dapat itong sabihin nang malinaw.

Ang mga siyentipiko ay kumilos bago ang isang sakuna sa halip na pagkatapos ng isa, na siyang pinakabihira at pinakamahalagang bagay sa buong kasaysayan ng kaligtasan sa teknolohiya. Tinanggap nila ang pagpipigil sa kanilang sariling gawa, pati na ang pananaliksik na nangangako ng katanyagan at pagsulong, sapagkat ang panganib ay nararapat dito. At sila'y nagtayo ng praktikal na mga alituntunin na katumbas ng panganib, sa halip na ipagwalang - bahala ang panganib o lubusang ipagbawal ang larangan. Ito'y nagsisilbing patotoo na ang isang pamayanan ng mga mananaliksik ay maaaring tumingin sa kaniyang sariling hangganan, hatulan ito na lubhang mapanganib na magmadali, at umurong. Ang pamarisang iyan ay tuwirang nagpapahiwatig sa pag - aangkin na Ang paggamit ng isang makapangyarihang teknolohiya ay walang muwang o imposible.

Bakit ito ay mas mahirap na modelo kaysa sa nakikita

Ang pagiging tapat tungkol sa precedent ay nangangahulugang banggitin kung bakit mas mahirap ang kaso ng AI, dahil ang mga pagkakaiba mismo ang dahilan kung bakit gumana ang Asilomar.

  • Maliit at pinag-isang komunidad ito. Ilang dosenang lab, isang scientific culture, mga taong kilala ang isa't isa. Ang frontier AI ay isang pandaigdigang labanan sa pagitan ng mga korporasyon at estado na nagkakahalaga ng trilyon, nang walang pinagsasaluhang talahanayan.
  • Ang komersyal na stakes ay katamtaman lamang noong 1975. Halos wala pa ang industriya ng biotech noon. Dumating ang AI kasama ang pinakamalalaking kumpanya sa mundo at mga pambansang seguridad na establisyemento na handa nang sumuporta, at ito ang dynamics ng karera Asilomar ay hindi kailanman hinarap.
  • Ang muling pagsisimula ang layunin. Ang Asilomar ay dinisenyo para humanap ng ligtas na paraan para magpatuloy, hindi para pigilan nang tuluyan. Ipinagpalagay ng containment model nito na maaari mong ikulong ang panganib sa loob ng isang pisikal na laboratoryo. Hindi naman talaga halatang mapipigilan ang isang may kakayahang AI sa ganitong paraan.

Mayroon ding nakakabahalang epilogue. Bahagyang napanatili ang Asilomar consensus dahil ito ay makitid na sandali na may aligned incentives, at kahit noon ay nakadepende ito sa voluntary goodwill na pipilitin ng mas commercial at competitive na larangan. Hindi direktang nasusukat sa fractured global industry sa ilalim ng matinding pressure na manalo ang gumana sa 140 collegial scientists.

Pinatunayan ng Asilomar na posible ang isang pause. Ipinakita rin nito ang mga kondisyong kailangan nito, at kung gaano kaunti ang mayroon ang AI sa kasalukuyan.

Ang kusang kabutihang - loob ay hindi sapat para sa AI

Parehong kalahatian ng bagay na Asilomar. Pinabubulaanan nito ang tadhana na nagsasabing walang magagawa, na ang isang malakas na teknolohiya ay hindi maaaring pabagalin. Ginawa ito ng mga siyentipiko, sadya, at ang langit ay hindi bumagsak. Subalit ipinakikita rin nito na ang impormal, boluntaryo, mekanismong kolehiyo na gumagana noong 1975 ay hindi sapat para sa AI, sapagkat ang AI ay kulang ng maliit na pamayanan, ng mababang mga tulos, at ng nakapaloob na panganib na nagpapahintulot na ang kabutihang - loob ay sapat na. Ang tamang konklusyon ay na kailangan ng AI ang maaaring makamit ni Ashilomar, tunay na pamigil bago ang panganib, na inihatid sa pamamagitan ng makinaryang may bisa, berifiable, internasyonal na kailangan ng isang trilyong-dollar na global race, hindi na kailangan ng AI ang sarili nitong Asilomar.