Dalawang daang milyon ang posisyon sa isang segundo. Iyan ang bilis ng pagnguya ng IBM sa chess nang bugbugin nito si Garry Kasparov noong Mayo 1997. Ang posporo ay isang malinis na modelo ng kung paano natin maling binabasa ang mga makina, pagkatapos at ngayon, taglay ang higit pang pagsakay sa kasagutan. Natalo si Kasparov sa isang makina na hindi makapagsasabi sa iyo na ito ay naglalaro ng chess. Ang pagkaunawa kung bakit totoo iyan, at kung bakit wala itong ginawa upang gawing mapanganib ang makina, ay mas mahalaga kaysa sa karamihan ng naisulat tungkol sa modelong inilabas noong nakaraang linggo.
Si Garry Kasparov, ang pinakamalakas na manlalaro ng kanyang henerasyon, at sa ilang pagtataya ng anumang henerasyon, ay natalo sa isang programang tinatawag na Deep Blue, tatlo at kalahati puntos laban sa dalawa at kalahati. Ang mga headline kinabukasan ay tungkol sa isang pagtatapos: natapos na ang supremacy ng tao. Halos tatlumpung taon na ang lumipas, ang laban ay mayroon pa ring maituturo, at ito ay halos kabaligtaran ng sinabi ng mga headline na iyon.
Isang makina na higit sa tao sa eksaktong isang bagay lamang
Malalim Hindi naisip ni Blue ang chess na gaya ni Kasparov. Naghanap ito. Purpose-tatag ng IBM, sinuri nito ang isang bagay batay sa pagkakasunud-sunod ng 200 milyong mga posisyon bawat segundo at tumatakbo bawat isa sa isang tungkulin ng pagtatasa na inayos ng mga inhinyero nito sa tulong ng mga grandmaster. Higit pa ang nakita nito kaysa sa magagawa ng sinumang tao at ginampanan nito ang linya na pinakamagaling ang iskor.
Ang hindi nito magawa ay halos lahat ng iba pa. Hindi nito mapaglaruan nang maamo ang isang bata. Hindi nito mapaglaruan ang checkers, o basahin ang orasan, o hanapin ang isang chessboard sa isang litrato. Hindi nito alam na nanalo ito. Nang matapos ang laban, pinatay ito ng IBM at kalaunan ay binuwag, at hindi ito lumaban, dahil walang sinuman sa loob na lalaban. Ang Deep Blue ay isang magandang instrumento na nakatutok sa isang bounded na problema. Isang pulgada sa labas ng problemang iyon ay walang buhay ito.
Hawakan mo ito. Isang makina ang tumawid sa teritoryong nakahihigit sa tao noong 1997, at hindi bumagsak ang langit. Hindi namatay si Chess. Mas popular ito ngayon kaysa kailanman sa kasaysayan nito. Ang tagumpay ay ligtas na may Deep Blue na napakalakas, sapagkat ang lakas nito ay walang nararating sa gilid ng tabla at wala sa likod nito. Ang gayunding dahilan kung bakit ang makipot na mga kasangkapan na ngayo'y bumabago sa medisina at siyensiya ay isang kaloob sa halip na isang banta.
Nagkamali tayo nang isiping calculation ay intention
May isang sandali mula sa unang laro na palaging nananatili sa akin. Nanalo si Kasparov sa larong iyon, ngunit sa loob nito ay gumawa si Deep Blue ng isang galaw (ang ika-44 nito) na walang halatang kahulugan. Pinag-aralan ito ni Kasparov at napagpasyahan niya na nakikita niya ang isang bagay na banayad, isang plano na umaabot nang higit sa kanyang masundan. Naistorbo siya. Nagsimula siyang maghinala na walang simpleng programa ang makakapaglaro nang ganoon, na may isang human grandmaster na nagpapakain ng mga galaw sa makina mula sa likod ng kurtina.
Ayon sa mga gumawa nito, isang bug ang galaw na iyon. Dahil hindi makapagdesisyon kung ano ang gusto niya, bumalik si Deep Blue sa default at naglaro ng halos ingay lang. Ang pinakamahusay na chess mind na buhay ay tumingin sa isang glitch at nakakita ng henyo na tumitingin pabalik. Hindi na niya lubos na narecover ang tindig niya, at sumunod sa kanya ang hinala sa buong laban.
Nakaugalian nating makakita ng isip saanmang may behavior na hindi namin maipaliwanag. Hindi kailangang matalino ang makina; kailangan lang naming kumbinsihin na ito ay matalino.
Ang mga mapa na iyan ay tuwiran sa ngayon. Ang mga sistema sa ngayon ay gumagawa ng matatas, may tiwala, makataong wika, at nababasa natin ang pag-unawa sa katatasan katulad ng paraan ng pagbasa ni Kasparov ng stratehiya sa pagkakamali. Ang diwa na ang isa ay nasa bahay ay malakas. Ito ay karaniwan nang isang projection. Ito ang eksaktong mekanismo na sa pamamagitan nito ay ibinibigay natin ang pagtitiwala na hindi natin aktuwal na susuriin. Nauunawaan man ng mga sistemang ito ang anumang bagay, kumikilos tayo na para bang may ginagawa ang mga makina. Ang reflex ay hindi bago. Naupo ito sa ibabaw ng tabla mula sa Deep Blue noong 1997, at magagawa mo ito hiwalayin ang dalawang tanong sa parehong paraan.
Si Kasparov ay pumutok sa ilalim ng isang makina na walang pakiramdam.
Hindi lang dahil sa kalkulasyon ng Deep Blue natalo si Kasparov. Bahagi rin ito ng kanyang sariling nervous system. Sa ikalawang laro ay nag-resign siya sa isang posisyon na ipinakita ng susunod na pagsusuri na draw. Napakatiwala niya na nakakita pa ng mas malayo ang makina kaysa sa aktwal nitong nakita kaya sumuko siya sa isang laro na maaari niyang mapanatili. Sa huling laro ay sobrang gulat na siya kaya diretso siyang pumasok sa isang kilalang bitag sa opening, isang piece sacrifice na makikita niya sa anumang kalmadong hapon, at natapos ito sa labing-siyam na galaw.
Wala namang nararamdaman ang makina. Walang ego na masasaktan, walang press conference na katatakutan, walang masamang laro na dadalhin sa susunod. Permanenteng asymmetry iyan, at hindi talaga tungkol sa chess. Kapag nakikipagkumpitensya o umaasa ang isang tao sa isang walang sawang sistema na hindi kailanman nagdududa sa sarili, ang unang madalas na bumigay ay ang tao: ang composure, ang judgment, ang nerve. Anumang tapat na paglalarawan ng pamumuhay kasama ang mga tool na ito ay kailangang harapin ang kahinaan sa ating panig ng mesa, hindi lang ang horsepower sa kanila.
Mali ang lahat ng prediksyon, sa magkabilang direksiyon
Sa loob ng maraming dekada, sinabi ng seryosong mga tao na ang isang computer ay hindi pa tatalo sa kampeon ng daigdig sa loob ng mahabang panahon, at na kapag ito sa wakas ay nagtagumpay, nangangailangan ng isang bagay na gaya ng tunay na pagkaunawa upang makarating doon. Ang parehong mga kalahatian nito ay lumabas na mali: ito ay dumating ng mas maaga kaysa mga tiyak na mga hula na pinapayagan, na walang anumang pagkaunawa, dahil ang wild-force search ay dumating muna doon.
Dalawang aral ang nahuhulog doon, at ang mga ito ay tumuturo sa magkasalungat na direksyon, kaya naman ang mga tao ay may posibilidad na panatilihin ang isa at tahimik na ihulog ang isa pa. Una: ang mga milestone ng kakayahan ay malamang na bumaba nang mas maaga kaysa sa inaasahan ng mga eksperto, kaya ang pagtaya sa mga komportableng timeline ay isang pagkakamali na nagawa na natin minsan, sa publiko. Pangalawa: ang isang milestone na bumabagsak ay nagsasabi sa iyo ng mas kaunti tungkol sa pagdating ng isang isip kaysa sa nararamdaman nito. Ang panalo ng Deep Blue ay isang katotohanan tungkol sa paghahanap at silikon, hindi isang pagsikat ng araw ng pag-iisip ng makina. Parehong totoo magkasama. Maaaring mas mabilis ang pag-unlad kaysa sa iyong iniisip at mas mababaw kaysa sa hitsura nito sa parehong taon, na dapat tandaan kapag binasa mo ang susunod na round ngmga hula tungkol sa kung saan patungo ang lahat ng ito.
Ang isang pagkakaiba na nagbabago sa lahat
Dito na hindi na nakaaaliw ang 1997 at nagiging babala na. Halos lahat ng nagpatibay sa kaligtasan ng Deep Blue ay katangian na sinasadya nating inaalis sa ating mga makina ngayon.
Muntik na: isang bagay ang ginawa nito, at wala nang iba.
Walang sariling tunguhin: naghintay ito na mabigyan ng isang posisyon at ginawa lamang ang hinihiling sa kaniya.
Naka-off at binuwag sa huli nang walang protesta, dahil wala itong anumang bagay na mas gusto pang patuloy na tumakbo.
Hindi umabot ang lakas nito lampas sa board.
Heneral: na ang ibig sabihin ay kumilos sa ibayo ng bawat nasasakupan nang minsanan.
Binigyan ng open-ended na mga layunin at patuloy na mas maraming awtonomiya para ituloy ang mga iyon.
Inaasahan na magplano at kumilos sa mundo na may mas kaunting pangangasiwa ng tao at, sa pamamagitan ng lohika ng instrumental convergence, binigyan ng dahilan upang pigilan ang pagiging patayin.
Walang gustong gusto ang Deep Blue, kaya't ito ay maaaring i-unplug. Ang sistema na may sariling goal ay may dahilan para manatiling tumatakbo, dahil hindi nito matatapos ang trabaho kung may makarating sa switch. Ito ay malinaw na bunga ng pagbuo ng bagay na nagpupursigi ng isang layunin, at may pangalan ito, pagsasama ng mga layuning instrumental. Ang sandaling tumawid tayo mula sa mga tool na sumasagot patungo sa mga agent na may gusto, ang komportableng aral ng 1997 ay nagwawakas.
Ano ang ginawa ni Kasparov pagkatapos
Ang coda ang pinakamapag-asa na bahagi, at madalas itong hindi isinama. Hindi nagmukmok si Kasparov sa mga sumunod na taon tungkol sa makina. Sa loob ng isang taon, itinataguyod niya ang bagong format, na tinatawag minsan na advanced chess, kung saan ang isang tao na nakipag-partner sa computer ay naglalaro laban sa isa pang ganoong pares. Ang lumabas ay kapansin-pansin: ang pinakamalakas na kakumpitensya sa board ay hindi ang pinakamahusay na grandmaster o ang pinakamahusay na engine, kundi ang may kakayahang tao na mahusay gumamit ng makina. Hindi pinalitan ng kasangkapan ang manlalaro. Pinalaki niya ito.
Ang future worth wanting ay inaalok ngayon mismo: sa medisina, sa lab, sa ordinaryong trabaho, ang human judgment na pinalawak ng narrow, controllable tools na walang sariling agenda. Iba itong proyekto sa ginagawa ng frontier labs, na nagtatayo ng autonomous general mind na hindi na nangangailangan ng tao sa board. Ang unang uri ng proyekto ay nagpapalaki sa atin. Ang pangalawa ay dinisenyo upang gawing hindi na kailangan ang ating pag-iral, at ang isang system na hindi na nangangailangan sa atin ay isang bagay na mas mabuting tiyakin nating maaari pa rin nating i-switch off. Ang katiyakang iyan ay eksaktong hindi pa umiiral, na siyang ang banta at ang dahilan para sa ang planong itinutulak namin.
Noong 1997 ay nagdaos tayo ng pampublikong rehearsal para sa tanong na ngayon ay nasa gitna ng lahat: ano ang gagawin natin kapag gumawa tayo ng makina na mas mahusay kaysa sa atin? Nagbigay si Deep Blue ng banayad na sagot, dahil ito ay tool lamang. Ang tool na walang kalooban ay maaaring talunin ang world champion at hindi maapektuhan ang iba pang bahagi ng mundo. Ang susunod na sagot ay hindi magiging banayad bilang default. Ito ay nakasalalay sa kung ang bagay na itinayo natin ay mas pinong instrumento o isang kahalili na may sariling mga layunin. Dapat nating gawin ito nang may intensyon, habang nasa atin pa ang kakayahang gawin ito.
Malalim Ayaw ni Blue ng anuman. Ang landas ngayon ay ang pagiging pangkalahatan at ahensiya pati na ang self-improvement pressure. Ang pambubugbog sa isang kampeon sa chess ay hindi katulad na uri ng panganib na gaya ng isang sistema na nakahihigit sa mga institusyon.