Ang modelo ay Mythos, na iniulat na pinakamakapangyarihang sistema ng Anthropic. Ang senador ay si Mark Warner ng Virginia, vice chair ng Senate Intelligence Committee. Ang heneral ay si Joshua Rudd, na namumuno sa NSA at U.S. Cyber Command. Ayon sa salaysay ni Warner, unang iniulat ni Ang Economist at kumalat sa mga trade press, sinabi ni Rudd sa kanya kung ano ang ginawa ng modelo.
Sa loob ng ilang oras, ng isang komersyal na modelo. Pinagtatalunan ang mga detalye at naging masalimuot ang kuwento sa loob ng ilang araw. Ang ubod nito ay totoo, at sapat na ang ubod nito.
Pumasok ang Mythos sa halos lahat ng classified systems namin, hindi sa loob ng linggo kundi ng oras.
Gen. Joshua Rudd, pinuno ng NSA at U.S. Cyber Command, na ipinadala ni Sen. Mark Warner at iniulat niAng Economist, Hunyo 2026
"AI hacks the NSA" ang sarili nitong headline. Hindi rin eksaktong iyon ang nangyari. Ang agwat sa pagitan ng viral na bersyon at ng tunay ay dapat tumpak na talakayin, dahil ang tunay ang dapat magpuyat sa iyo.
Ano talaga ang nangyari
Walang rogue machine na bumaling sa mga gumawa nito at sinakop ang mga lihim ng bansa. Naganap ang break-in sa loob ng isang awtorisadong ehersisyong red-team: isang kontroladong security test kung saan itinuro ng ahensya ang modelo sa mga replika ng sarili nitong classified na kapaligiran at inutusang humanap ng paraan papasok.
Mabilis na nag-stack ang mga caveats. Isang opisyal ng gobyerno ang nagsabi mamaya na maaaring pinaikli ni Warner ang kwento sa pagkukwento, at ang linyang "hours, not weeks" ay tumutukoy lamang sa red-teaming context at hindi sa live network. Hindi kinumpirma ng NSA o Cyber Command ang kanyang account. Isama ang lahat ng iyan. Bigyan ng bawat pagwawasto. Ipagpalagay na ang pinakakapanatag na pagbabasa ang nakaligtas.
Ang natitira pagkatapos ng deflation ay ito pa rin. Isang modelong maaari mong arkilahin, na nakatuon sa mga stand-in para sa pinakasecure na sistema na alam ng bansang ito kung paano itayo, natagpuan ang mga flaw at pinagsama-sama ang mga ito sa halos kabuuang access sa isang hapon. Hindi ginagawa iyon ng isang human red team ng pinakamahuhusay na operator sa mundo sa isang hapon.
Pinatay nila ang produkto
Hindi sila nagkikibit - balikat.
Kinabukasan pagkatapos ng pagsusuri, inilipat ng Departamento ng Komersyo na ipagbawal ang bawat dayuhang nasyonal, kasama na ang sariling hindi mamamayang empleyado ng Anthropic, sa paggamit ng dalawa nitong pinakamahuhusay na modelo, Mythos at Fable. Hindi hinamon ng Anthropic ang teknikalidad. Ito tinanggal ang parehong mga model sa merkado sa buong mundo, para sa lahat, na sinasabi nitong hindi praktikal na ipatupad ang citizenship test sa kung sino ang makakapag-log in. Kinuha ng isang kumpanya ang flagship product nito, ang mismong dahilan ng pag-iral nito para ibenta, at pinatay ito sa buong planeta sa loob ng isang araw. Hindi mo gagawin iyan dahil sa kakayahang sa tingin mo ay ligtas na kontrolado.
At hindi ito isang one-off parlor trick ang NSA test. Sa pamamagitan ng isang classified evaluation program, iniulat na nakahanap ang Mythos ng libu-libong software vulnerabilities, kasama ang isang depekto na nanatiling hindi natuklasan sa OpenBSD, isang operating system na pinipili ng mga security professionals dahil mahirap sirain, sa loob ng dalawampu't pitong taon. Dalawampu't pitong taon ng mga ekspertong mata ng tao ang hindi ito nakita. Binasa ng modelo ang code tulad ng pagbabasa mo ng isang talata. Hindi ito napapagod. Lagi na lang dadami pa ito.
Ito ang pinakamabagal na galaw nito kailanman
Dapat itong mabahala ang sinumang nagbibigay-pansin. Nagmamadali ang mga lab patungo sa superintelligence at lalong bumibilis ang takbo. Isang taon na ang nakalipas, walang sinuman sa labas ng frontier lab ang nakakita ng modelong gumagawa ng ginawa ng Mythos. Pagkalipas ng anim na buwan, magkakaroon ng mga sistema na magpapakita sa Mythos na mabagal, at pagkatapos ng isa pang anim na buwan ay mapapahiya na naman tayo.
Hindi misteryoso ang dahilan kung bakit ito nagkakaroon ng compound effect. Ang isang modelo na sapat na mahusay para makahanap ng mga butas sa software ng mundo ay sapat na mahusay para makatulong sa pagdidisenyo ng sarili nitong kahalili, na siyang buong mekanismo sa likod ng paulit-ulit na pagpapabuti sa sarili. Ang pananaliksik na nagpapabilis sa pananaliksik ay hindi nagdaragdag. Nagpaparami ito. Hindi alintana ng kurba ng kakayahan na hindi pa tayo handa, at hindi ito hihinto sa gilid habang hinihintay ang batas. Hindi pa malapit ang batas.
Isang malamang na resulta ng karerang ito, kung hindi natin ito pipigilan, ay mawawalan tayo ng kontrol sa ginagawa natin at papatayin tayo nito. Hindi lang "disrupts the labor market." Hindi lang "strains our institutions," bagaman gagawin din nito iyon, habang patungo. Papatayin tayo. Lahat. Lahat ng mahal mo, at lahat ng mahal nila, at ang buong tahimik na hinaharap ng sangkatauhan na dapat sanang sumunod.
Nasa ang pinakamalaking survey ng mga AI researcher na naisagawa kailanman, sa halos 2,800 katao na gumagawa ng mga sistemang ito para mabuhay, sa pagitan ng 38 at 51 porsyento ang naglalagay ng tsansa na ang advanced AI ay magdudulot ng resulta na kasing sama ng pagkalipol ng sangkatauhan sa isa sa sampu o mas mataas pa. Hindi isa sa isang milyon. Isa sa sampu, mula mismo sa mga gumagawa. Hindi mo papayagang sumakay ang anak mo sa eroplano na may ganitong tsansa. Sinusuot namin ang buong species.
Geoffrey Hinton nanalo ng Turing Award para sa mga pamamaraang nagbigay-daan sa lahat ng ito, pagkatapos ay umalis sa Google para masabi niya ang iniisip niya nang walang corporate minder sa silid. Inilalagay niya ang tsansang magdala ng extinction ang AI sa 10 hanggang 20 porsyento. Hindi siya ang pinakakilabutan sa larangan. Marami sa mga taong pinakamalapit sa gawain ang naglalagay ng mas mataas na numero, at ang mga estimate ay karaniwang tumataas, hindi bumababa, habang mas malapit ang eksperto sa frontier.
Noong 2023, daan-daang pinaka-nabanggit na mga mananaliksik na buháy at ang mga punong ehekutibo ng mga laboratoryo ay nagreresulta sa pagbuo ng teknolohiya, ang Anthropic sa gitna nila, ay lumagda ng isang pahayag mula sa Center for AI Safety: ang pag-udyok ng panganib ng pagkalipol mula sa AI ay dapat maging isang pandaigdigang prioridad kasama ng iba pang mga panganib na societal-scale tulad ng mga pandemic at digmaang nukleyar. Ang mga taong nagtatayo nito ay gumagamit ng lakas upang wakasan ang sangkatauhan sa katulad na paraan ng digmaang nuklear, pagkatapos ay bumabalik sa kanilang mga mesa at mas mabilis na itinayo ito. Ang kanilang pamumulikat. Ang kanilang mga salita. Ang kanilang mga pangalan.
Pero may magagawa ka tungkol dito
Ang tahimik na kawalan ng pag - asa ay isa pang paraan ng hindi paggawa ng anumang bagay, at ang hindi paggawa ng anuman ang siyang dahilan kung paano tayo naiwawala dahil sa hindi pagtupad.
Naibangon ang Mythos dahil pinindot ng gobyerno, at pinindot ng gobyerno dahil umabot sa kanila ang pressure. Ang mga gobyerno ang nagsusulat ng mga patakaran, at ang mga gobyerno ay sumasagot sa mga taong tumatangging manahimik. Kaya tumanggi ka.
- Sabihin sa inyong mga kinatawan, sa simpleng salita, na gusto mo ng binding limits sa frontier AI at iboboto mo ito. Kung hindi mo pa nagagawa, gamitin ang aming tool para sa sumulat sa iyong kinatawan ginagawang madali ang unang mensahe.
- Bumalik Nagpapatupad ng internasyonal na kasunduan tungkol sa pinakamapanganib na mga sistema, ang paraan ng dating pasiya ng daigdig na ang nuklear at biyolohikal na mga sandata ay lubhang mapanganib upang magtungo sa sinumang mabilis kumilos.
- Suportahan ang mga taong gumagawa nito nang full time. Maglagay ng iyong pangalan sa ibaba, magbigay ng anumang kaya mo, at gawin ito ngayong linggo, hindi pagkatapos ng susunod na headline na mas masahol pa rito.
Sinabi na sa inyo ng mga taong gumagawa nito, sa rekord at sa kanilang sariling pangalan, na maaaring patayin nito ang lahat. Isang AI lang ang nakalusot sa halos lahat ng classified wall ng bansa, sa isang hapon lang, at ang opisyal na tugon ay alisin ito sa merkado bago ang weekend. Huwag nang maghintay ng babala na mas malinaw pa sa mga nasa harap niyo na. Wala nang darating na ganoon.