Ginagamit ng mga tao ang pangkalahatang artificial intelligence at superintelihensya na para bang sila ay mga quarters, brand na pangalan, o si-fi mood lighting. Mahalaga ang pagkakaiba dahil nagbabago ang problema sa pagkontrol at ang mga kasangkapang pampook habang umaakyat ka sa hagdan, at dahil may mga insentibo ang mga laboratoryo na maging malapit sa "pangkalahatang artificial intelligence" para sa pondo habang umaabot ng malayo sa panganib para sa regulasyon.
Mga payak na kahulugan
Narrow AI ay binuo para sa isang hangganang gawain: magrekomenda ng mga video, magtiklop ng mga protina, makita ang mga tumor. Maaari itong maging mahusay at hindi pa rin isang general agent.
pangkalahatang artificial intelligence (artificial general intelligence) ay nangangahulugang malawak, flexible na kakayahan sa maraming gawain sa antas na halos katulad ng tao, na may sapat na ahensya para ituloy ang mga layunin sa halip na sumagot lamang sa mga prompt. Nag-iiba-iba ang mga depinisyon, pero ang mahalagang ideya ay ang pagiging general kasama ang usable autonomy.
superintelihensya (artificial superintelligence) ay nangangahulugang cognitive performance na higit na nakahihigit sa tao sa halos lahat ng domain na mahalaga para sa agham, estratehiya, at kapangyarihan. Hindi ito "pangkalahatang artificial intelligence plus sampung porsyento." Ito ay isang qualitative break sa kung sino ang makakapag-outplan kanino.
Isang hagdan, hindi dalawang lalagyan
Isipin sa mga hagdan. Ang frontier models ngayon ay malawak ngunit hindi pantay, lubhang sinusuportahan ng tao, at mabilis na umuunlad. Ang agentic stacks (tools, memory, planning loops) ay maaaring magparami ng base model na kumilos nang mas autonomous kaysa sa ipinapahiwatig ng chat box. Ang pangkalahatang artificial intelligence-class agency ay seryosong problema na sa kontrol at lipunan kapag ito ay misaligned. Ang superintelihensya ay mapagpasyang kalamangan: mas mabilis na agham, mas mahusay na estratehiya, mas mahusay na pagsasamantala sa bias ng tao, mas mahirap i-shutdown.
Domain superintelligence ay dating balita na. Maaaring talunin ng isang sistema ang mga tao sa chess o protein folding at nananatili pa ring narrow. Cross-domain strategic superintelligence ang antas na nilalayon ng site na ito na pigilan.
Bakit hindi stable ang "we will stop at pangkalahatang artificial intelligence"
Kung makakamit ng isang lab ang controllable human-level general system, hindi mawawala ang pressure na itulak pa. Military advantage, commercial edge, at prestige ay lahat nakaturo pataas. Ang racing dynamics ay nagbibigay ng gantimpala sa pinakamaliit na maingat na gumagalaw. Ang kwento ng karera ay madalas ginagamit para bigyang-katwiran ang bilis; hindi nito binibigyang-katwiran ang kontrol.
Pagsukat nang walang marketing
Bumabagsak ang benchmarks; tumataas ang press releases. Sinusubukan ng dangerous-capability evaluations na sukatin ang cyber offense, bio assistance, autonomous replication, at persuasion sa ilalim ng kontroladong kondisyon. Nakakatulong sila. Hindi sila kumpletong safety case, lalo na kung ang isang sistema ay makakagawa ng magpigil. Ang patakaran ay dapat nakabatay sa compute, capability tests, at autonomy, hindi sa kung ano ang tawag ng mga kumpanya sa produkto.
Mga mito na nag-aaksaya ng oras
Hindi kailangan ng pangkalahatang artificial intelligence ng robot body. Remote tools at existing machines ang gumagalaw sa pisikal na mundo. Hiwalay na usapin ang consciousness sa capability at control. Hindi isang numero ang "human-level": iba ang bar ng median person, specialist team, at institutional best ng sangkatauhan. Tungkol sa safety-relevant pangkalahatang artificial intelligence ang general problem-solving agency sa ilalim ng tunay na insentibo, hindi isang exam score.
Ano ang pumapasok sa batas
Kung ang batas ay naghihigpit lamang sa mga sistemang may tatak na "pangkalahatang artificial intelligence" o "superintelihensya," magre-rebrand ang mga kumpanya. Mabubuting trigger ang operational: laki ng training-run, tool autonomy, resulta ng dangerous-capability, open-weight release ng high-end general models. Dapat magpatuloy ang narrow AI na nananatiling tool-like. Ang linyang iginuhit ng Foundation na ito ay artificial superintelligence at ang mga programang naglalayon dito.
Paano sabihin ito sa isang minuto
Muntik AI: mga kasangkapan. pangkalahatang artificial intelligence: human-level general agency, isang malubhang problema sa kontrol kung ang autonomous at misalised. superintelihensya: Pag - unawa ng makina na nakahihigit sa atin sa ibayo ng lupon. Maiingatan natin ang mga kasangkapan at hindi natin dapat itayo ang soberanong isip. Ang superintelligence ay hindi maaaring kontrolin.