Ang singularity, sa physics, ay isang punto kung saan sumasabog ang isang dami at humihinto ang mga equation na ginagamit mo sa pagbibigay ng makatwirang sagot. Ang sentro ng black hole ang karaniwang halimbawa. Hiramin ang salita para sa teknolohiya at makakukuha ka ng technological singularity: isang hypothesized na punto kung saan ang machine intelligence ay nagpapabilis ng pagbabago nang napakabilis at napakalalim kaya nasisira ang kakayahan nating mahulaan o maunawaan pa ang susunod na mangyayari.

Ito ay pahayag tungkol sa isang horizon, lampas sa kung saan ang bilis ng intelligence-driven na pag-unlad ay lumalampas sa pag-unawa ng tao, hindi isang claim na darating ang isang partikular na gadget.

Saan nanggaling ang ideya

Ang lahi ay nagkakahalaga ng pag-alam, dahil ang termino ay nagagamit nang maluwag. Ang mathematician na si John von Neumann ay na-paraphrase noong 1950s na iniisip na ang teknolohikal na pag-unlad ay papalapit sa ilang mahahalagang singularidad sa kasaysayan. Noong 1965 si I.J. Magandang inilarawan ang pagsabog ng katalinuhan, ang mekanismong inaasahan ng karamihan sa mga bersyon ng singularity. Binigyan ng science-fiction author at mathematician na si Vernor Vinge ng pangalan at puwersa ang modernong ideya sa isang sanaysay noong 1993, na nangatwiran na ang paglikha ng greater-than-human intelligence ay magiging sanhi ng pagkabasag ng tela ng predictable history. Pagkatapos ay pinalaganap ito ni inventor Ray Kurzweil sa malawak na madla, na naglagay ng singularity sa paligid ng 2045 at isinama ang mas malawak na kuwento tungkol sa exponential technological trends.

Iba't ibang claim ang mga iyon na nagsusuot ng iisang salita, na bahagi ng dahilan kung bakit umaakit ang singularity ng parehong debosyon at eye-rolling.

Ang makina sa ilalim

Simple lamang ang pag - aalis ng lasa at ng mekanismo sa core. Kung makagagawa ka ng isang makina na mas mahusay kaysa mga tao sa paggawa ng mga makina, pati na sa pagpapabuti ng sarili nitong talino, kung gayon ang pagsulong ay kinakain ang sarili nito. Ang bawat sistemang mas matalino ay mas mainam sa paggawa ng susunod, at ang bilis ng pagsulong ay tumataas sa halip na matatag. Tatakbo ang silo at kakayahan na iyon ay maaaring tumaas mula sa human-level tungo sa higit pa sa maikling panahon.

Ang intelligence explosion ang tunay na nilalaman sa likod ng karamihan sa seryosong paggamit ng singularity. Ang prediksyon ng hindi mahuhulaan ay bunga nito: kapag ang mga system ay nagpapabuti sa sarili nila sa bilis ng makina, ang trajectory ay lumalabas sa saklaw kung saan gumagana ang human forecasting. Tinatalakay natin ang mekanismong iyan nang buo sa kanyang sariling paliwanag, at doon matatagpuan ang laman nito.

Ang mga puna

  • Maaaring tumama ang self-improvement sa matitinding limitasyon. Maaaring tumigil ang katalinuhan sa diminishing returns, data bottlenecks, o pisikal na hadlang na nagpapantay sa kurba sa isang steady climb sa halip na isang pagsabog.
  • Malabo ang konsepto. Iba’t ibang proponent ang may ibang kahulugan, at ang mga grandeng bersyon ala-Kurzweil ay may kasamang tiyak na petsa at halos mistikal na tono na nagdudulot ng pagdududa.
  • Nababago ang exponential trends. Ang mga kurba na mukhang sumasabog ay madalas na unang bahagi lang ng S-shape na unti-unting bumababa.

Makatarungan ang mga ito, at wala sa mga ito ang nangangailangan na mali ang singularity kundi hindi tiyak. Ang pagkakamali ay ituring ang pagdududa sa isang dramatikong, pinangalanang pangyayari na parang nawala na ang pinagbabatayan na panganib.

Bakit mas mahalaga ang mekanismo kaysa sa label

Maaari mong tanggihan ang salitang singularity nang buo, kasama ang amoy ng propesiya at eksaktong petsa nito, at maiiwan ka pa rin sa bahaging mahalaga para sa patakaran. Ang seryosong tanong ay kung mabilis na makakapagpabuti ang machine intelligence nang higit sa ating kakayahang magsupervise o mamahala, hindi kung may mystical na sandali noong 2045. Ito ay pahayag tungkol sa mga timeline at bilis ng takeoff, at hindi nito kailangan ang malaking pag-frame para maging nakakaalarma.

Iwanan mo ang salita kung gusto mo. Ang problema na tinuturo nito, isang transisyon na masyadong mabilis para mapamahalaan, ay hindi nangangailangan ng salita para maging totoo.

Ang ikinababahala ng Pundasyon ay ang espesipiko at sira - sirang bersiyong iyon. Kung ang run-up sa malawak na superhuman AI ay maaaring maging mabilis, kung gayon ang tanging maaasahang oras sa mamahala at panatilihing kontrolado ay bago pa ito magsimula, samantalang ang mga tao pa rin ang nagpapasiya. Ang presyur ng kompetisyon upang marating muna ang pasukang iyon ay nagpapaikli lamang sa runway. Kung tawagin mo man na pang - isahan ang malayong panig, gayundin ang tugon.

Ang singularity ay hindi dapat mangyari kailanman

Ang posisyon ng Foundation ay pagbabawal, hindi prediksyon. Hindi makokontrol ng tao ang superintelligence. Ang abot-tanaw na tinutukoy ng salitang ito ay isang takeoff na lampas sa punto kung saan tayo pa rin ang nagpapasya. Ito ang parehong pagtawid tulad ng pagbuo ng superintelligence. Hindi dapat mangyari ang singularity.