Noong 22 Oktubre 2025, inilabas ng Future of Life Institute ang isang pampublikong liham na pinamagatang ang Pahayag tungkol sa Superintelligence. Hindi tulad ng malawak na manipesto na karaniwang kasama ng mga sandaling tulad nito, ang buong titik ay ito:

Nanawagan kami ng pagbabawal sa pagbuo ng superintelligence, na hindi babawiin hanggang sa may malawak na scientific consensus na ligtas at kontrolado itong magagawa, at may matibay na suporta mula sa publiko.

Pahayag tungkol sa Superintelligence, Future of Life Institute · Oktubre 2025

Hindi nito sinasabi na hindi dapat itayo ang superintelligence. Hindi nito kinokondena ang AI bilang ganoon. Nagtatakda ito ng kondisyon (dalawa pa nga) at humihiling na tumigil ang development hanggang matugunan ang mga ito. Para maunawaan kung bakit ang tila simpleng kahilingang ito ay tunay na pagbabago sa debate, kailangan mong maunawaan ang hinihingi nito at kung sino ang handang ilagay ang pangalan nila rito.

Ano talaga ang hinihingi ng pahayag

Tumpak ang pagkakabuo ng pangungusap. Tatlong katangian ang nagpapakilala rito mula sa mga naunang open letter, kasama na ang kilalang 2023 letter na nananawagan ng anim na buwang paghinto sa pinakamalalaking training runs.

  • Tumutok ito sa superintelligence nang partikular. Hindi makitid ang AI, hindi ang mga chatbot, hindi ang mga kasangkapan ng AI na naging bahagi na ng pang - araw - araw na buhay. Ang pagbabawal ay kapit sa mga sistema na nakahihigit sa kakayahan ng tao sa lahat ng saklaw ng kaalaman. Ang prekwensiya na ito ay nagreresulta sa karaniwang pagtutol na nais ihinto ng mga tagapagtaguyod ng kaligtasan ang kapaki-pakinabang na teknolohiya. Nais nilang ihinto ang isang espisipiko, at lubhang mapanganib, na hangganan.
  • Ito ay kondisyonal na pagbabawal, hindi permanenteng pagbabawal. Ang pagbabawal ay nagpapataas sa dalawang sandaling iyon. Ang default ngayon ay: gumawa ng superintelligence, at maging ligtas pagkatapos kung magagawa natin. Ang pangungusap ay nakapipigil dito: itatag muna ang kaligtasan, pagkatapos ay magtayo. Ang bigat ng patotoo ay nagtutungo sa mga nagpapaunlad, kung saan (para sa isang teknolohiya ng resultang ito) ito ay may katuwiran.
  • Kailangan nito ng suporta mula sa publiko, hindi lang ng pag-apruba ng mga eksperto. Ang pangalawang kondisyon ay demokratiko, hindi teknikal. Kahit na balang araw ay sumang-ayon ang mga siyentipiko na kontrolado ang superintelligence, iginigiit pa rin ng pahayag na kailangan ng pahintulot ng publiko bago ito itayo. Direktang hamon ito sa kasalukuyang kaayusan, kung saan kakaunting pribadong laboratoryo ang gumagawa ng desisyong nagbabago ng sibilisasyon para sa lahat, ang alalahaning tinitingnan natin sa sino ang kumokontrol sa superintelligence.

Kung bakit mas mahalaga ang mga lumagda kaysa sa mga pananalita

Ang mga bukas na titik ay mura. Ang gumawa sa kaisa - isang lupaing ito ay ang koalisyon. Mahigit na 850 katao ang pumirma sa lantsa, at ang talaan ay kapansin - pansin hindi sa haba nito kundi sa haba nito saklaw. Mula noon ang bilang ng publiko ay lumampas na sa 70,000.

Nasa itaas ang mga siyentipikong nagtatag ng larangan. Yoshua Bengio at Geoffrey Hinton (kapwa Turing Award laureates, kapwa regular na tinatawag na godfathers ng modernong AI) ang pumirma, gayundin ang Berkeley's Stuart Russell, may-akda ng standard AI textbook. Kapag ang mga taong pinakamay pananagutan sa pag-iral ng isang teknolohiya ay humihiling sa mundo na tumigil bago itayo ang pinakamakapangyarihang anyo nito, iyon ay testimony, hindi activism.

Pagkatapos ay dumating ang mga tagapagtayo at ang mga kilalang tao sa publiko. Apple co-founder Steve Wozniak at tagapagtatag ng Virgin Richard Branson. Historyador Yuval Noah Harari, aktor Stephen Fry, at musikero will.i.am. Mga retiradong national-security leaders kasama ang dating Joint Chiefs chairman Admiral Mike Mullen at dating National Security Advisor Susan Rice. At, pinakamahalaga, mga pigura na halos wala nang pinagkakasunduan sa iba pa: Prince Harry at Meghan kasama Steve Bannon at Glenn Beck.

Ang huling detalyeng iyan ang siyang buong argumento sa maliit na paraan. Nang isang Britanong maharlikang mag - asawa at isang dalubhasa sa media sa MAGA ang magsabi ng kanilang mga pangalan sa iisang pangungusap, ang isyu ay nakaligtas sa karaniwang pag - uuri ng ideolohiya. Ang pagkabahala sa superintelligence ay isa sa mga naglalahong ilang posisyon sa 2025-2026 na may tunay na cross-partisan maabot, na eksaktong uri ng koalisyon na gumagawa sa patakarang pang-edukasyon na posible, hindi kaliwa o kanan, hindi estruktura o populista.

Ano ang nilalaman ng pahayag, at ano ang hindi

Mahalagang maging malinaw ang pananaw tungkol sa mga limitasyon. Ang pampublikong pahayag ay walang ipinagbabawal. Hindi ito nag-uutos sa regulator, hindi nagbubuklod sa kompanya, at hindi nagpipigil sa gobyerno. Mali ang sinumang titingnan dito bilang batas.

Ang ginagawa nito ay ilipat ang Bintana ng Overton, ang saklaw ng mga posisyong itinuturing na mainstream at masasabi. Dalawang taon na ang nakalipas, ang pagtawag para sa pagbabawal sa isang klase ng AI ay ituturing na fringe. Pagkatapos ng Oktubre 2025, ito ay isang posisyon na hayagang hawak ng mga siyentipikong Nobel-tier, iconic na entrepreneurs, at mga pulitikong mula sa iba’t ibang spectrum. Ang pagbabagong iyon sa kung ano ang respectable na sabihin ay ang precondition para sa lahat ng susunod. Ang mga pulitiko ay kumukuha ng mga posisyon na popular na; bihira silang manguna. Ang tungkulin ng pahayag ay gawing popular ang prohibition nang sapat para makilos ang mga lider dito.

Ganito talaga nagsimula ang mga nakaraang kilusan para sa pamamahala ng teknolohiya. Ang Mga Kumperensya ng Pugwash gumugol ng dalawang dekada sa pagbuo ng intelektwal at moral na konsensus na kalaunan ay naging batayan ng nuclear arms control. Ang mga pahayag at deklarasyon ang nagpapatayo ng runway, hindi ang finish line.

Mula sa isang pangungusap tungo sa isang kasunduan

Ang agwat sa pagitan ng pahayag at realidad ay ang agwat na umiiral ang Pundasyong Nakada para isara. Ang isang deklarasyon ay nagtatatag na kanais-nais at lehitimo ang pagbabawal. Hindi nito itinatag ang makinarya para ipatupad ito. Nangangailangan ito ng tatlong bagay na sadyang hindi tinukoy ng pahayag:

Ang Pahayag sa Superintelligence ay nagpatunay ng isang bagay na mahalaga: ang kalooban ay umiiral, at ito ay tumatawid sa bawat linya na kadalasang naghahati sa mga tao. Our plano ay tungkol sa pagkumberte na magiging kompetitibong mga kontrol, ahensiyang sumusubaybay, at internasyonal na kasunduan na magbibigay ng puwersang kailangan nito. Kung ikaw ay sang - ayon, ang pinakakapaki - pakinabang na bagay na magagawa mo sa susunod ay tulungan kang gumawa ng koalisyon na gagawa ritong patakaran.