물리학에서 특이점은 어떤 양이 무한대로 발산하여 사용하던 방정식이 더 이상 합리적인 답을 내지 못하는 지점입니다. 블랙홀 중심이 대표적인 예입니다. 이 단어를 기술에 빌려오면 기술적 특이점이 됩니다. 즉 기계 지능이 변화를 너무 빠르고 깊게 일으켜 다음에 일어날 일을 예측하거나 이해하는 능력이 무너지는 가설적 지점입니다.
이는 특정 장치가 도착한다는 주장이 아니라, 지능 주도 진보의 속도가 인간의 이해를 넘어서는 지평에 대한 주장입니다.
그 생각이 어디서 왔는지
계보를 아는 것은 가치가 있습니다. 용어가 느슨하게 쓰이기 때문입니다. 수학자 존 폰 노이만은 1950년대에 기술 진보가 역사의 본질적 특이점에 접근하고 있다고 말한 것으로 전해집니다. 1965년 I.J. 굿은 지능 폭발, 특이점의 대부분 버전이 의존하는 메커니즘이다. SF 작가이자 수학자인 버너 빈지는 1993년 에세이에서 현대적 아이디어에 이름과 힘을 부여하며, 인간을 초월하는 지능의 창조가 예측 가능한 역사의 구조를 파괴할 것이라고 주장했다. 발명가 레이 커즈와일은 이를 더 넓은 청중에게 대중화하며, 2045년경 특이점을 배치하고 지수적 기술 추세에 대한 더 넓은 이야기를 덧붙였다.
그것들은 한 단어로 쓰인 서로 다른 주장이며, 특이점이 헌신과 눈썹을 동시에 끌어들이는 이유 중 하나다.
밑에 깔린 동력
맛과 핵심 메커니즘이 간단하다. 건물 기계보다 더 나은 기계를 구축 할 수 있다면, 자체 지능을 향상시키기 위해 다음 자체에 피드를 개선합니다. 각 더 똑똑한 체계는 다음 생성에 더 낫습니다, 그리고 꾸준한 붙드는 것보다 진도 상승의 비율. 반복과 기능은 인간 수준에서 짧은 시간에 멀리 넘어질 수 있었습니다.
지능 폭발은 특이점이라는 표현이 진지하게 쓰일 때 대부분이 가리키는 실질적 내용이다. 예측 불가능성에 대한 예측은 여기서 나온다. 시스템이 기계 속도로 스스로를 개선하기 시작하면 궤도는 인간 예측이 작동하는 범위를 벗어난다. 이 메커니즘은 해당 자체 설명서, 그리고 실질적인 내용이 있는 곳입니다.
비판
- 자기 개선은 강한 한계에 부딪힐 수 있습니다. 지능은 수익 체감, 데이터 병목, 또는 물리적 제약에 부딪혀 폭발이 아닌 꾸준한 상승 곡선으로 평탄화될 수 있습니다.
- 이 개념은 모호합니다. 지지자마다 의미가 다르며, 더 거창한 커즈와일 스타일 버전은 자신 있는 날짜 설정과 거의 신비주의적인 어조를 함께 묶어 회의감을 불러일으킵니다.
- 지수적 추세는 꺾인다. 폭발적으로 보이는 곡선은 종종 평평해지는 S자 곡선의 초기 부분으로 드러난다.
이들은 모두 합리적이며, 어느 것도 특이점이 틀렸다는 것을 요구하기보다는 불확실하다는 점을 요구합니다. 실수는 극적이고 이름 붙은 사건에 대한 의심을 근본적인 위험을 해소하는 것으로 취급하는 데 있습니다.
라벨이 메커니즘보다 덜 중요한 이유
특이점이라는 단어를 그 예언적 뉘앙스와 정확한 날짜 때문에 완전히 거부할 수 있더라도, 정책에 중요한 부분은 남습니다. 진지한 질문은 기계 지능이 우리가 감독하거나 통치할 수 있는 속도보다 빠르게 우리를 훨씬 능가하는 시스템으로의 전환이 일어날 만큼 충분히 빠르게 개선될 수 있는지 여부이지, 2045년에 신비로운 순간이 있는지 여부가 아닙니다. 그것은 예상 시기 그리고 이륙 속도이며, 이는 놀라운 일이 되기 위해 거창한 틀이 필요하지 않습니다.
원한다면 그 단어를 빼도 좋다. 그 단어가 가리키는 문제, 즉 통제할 수 없을 만큼 빠른 전환은 단어가 없어도 실재한다.
재단의 관심사는 특정, 부풀린 버전입니다. 광대하게 superhuman AI에 뛰기 위로가 급속할 수 있던 경우에, 그 후에 단지 믿을 수 있는 시간 관리 및 유지 관리 그것이 시작되기 전에, 인간은 여전히 하나의 결정이다. 더 보기 경쟁 압력 임계 값이 첫 번째로 짧게 도달 할 수 있습니다. 당신은 단수면을 호출 여부, 응답은 동일합니다.
특이점은 절대 일어나서는 안 된다
재단의 입장은 예측이 아니라 금지입니다. 초지능은 인간이 통제할 수 없습니다. 이 단어가 가리키는 지평은 우리가 여전히 결정권을 가진 시점을 넘어선 도약입니다. 그것은 초지능 구축. 특이점은 절대 일어나서는 안 됩니다.