폭탄은 건축되었습니다, 겨냥하고, 지금까지, 1945 후에 도시에 다시 사용되지 않았습니다. "그래서"가 붙은 사람들은 추운 전쟁을 보냈다. 테스트 금지, 핫라인 및 최종 1 위를 얻은 테러를 유지 한 검증 요법은 지난 세기의 가장 중요한 일을했습니다. 그들 중 대부분은 그것을 위해 유명하지 않을 것입니다. 자연에 둘러싸인 예방 그것은 작동 할 때, 아무것도 일어나지 않고 아무것도 기념물에 넣어 어려운 일입니다.

같은 형태, 새로운 무기

나는 새로운 콜드 전쟁을 통해 살고 있다고 말할 때, 나는 같은 모양을 의미 : 기술로 미국과 중국 경주는 다른 도달을 먼저 할 수 없습니다, 그것은 잘못되면 인간 이야기를 종료 할 수, 그리고 그 아무도 경주는 정직하게 통제 주장 할 수 없다. 인공 superintelligence에 대한 수소 폭탄을 교환하고 1958 및 2026을 가지고 있습니다.

나만이 그 메아리를 듣는 것은 아닙니다. 6월에 중앙정보국 국장은 워싱턴의 청중에게 오늘날 최전선 인공지능의 능력을 그렇게 부르는 것이 잘못되지 않을 것이라고 말했습니다 "디지털 핵무기."

차이점들이 잘못된 방향으로 흐르고 있다

그때와 지금 사이에는 실제 차이가 있으며, 이것이 저를 밤잠을 설치게 하는 부분입니다. 그 차이의 거의 전부가 우리의 상황을 더 쉽게 만드는 것이 아니라 더 어렵게 만듭니다. 핵무기는 인간의 손에 남아 있습니다. 초지능은 하지 않을 것입니다. 핵 물질은 물리적이기 때문에 채굴하고 셀 수 있다. AI의 입력은 칩과 코드로, 보기 어렵고 숨기기 쉽지만 통제 불가능한 것은 아닙니다. 그리고 냉전은 참여자들에게 우리가 얻지 못할 수도 있는 한 가지를 주었습니다. 바로 시간입니다. 세계는 히로시마를 받아들이고, 배 속에서 두려움을 느끼고, 그에 대응해 제도를 구축할 시간을 가졌습니다. AI 능력은 우리가 가진 어떤 제도도 따라잡을 수 없을 만큼 빠르게 복합적으로 증가하고 있습니다.

냉전이 실제로 증명한 것

그러나 같은 시대는 가속론자들이 가장 의지하는 주장을 무너뜨렸습니다. 서로를 신뢰하지 않는 경쟁자들이 결코 후퇴에 동의할 수 없다는 주장입니다. 워싱턴과 모스크바는 전혀 서로를 신뢰하지 않았지만, 여전히 구속력 있고 검증 가능한 군비 통제 협정에 서명했습니다. 둘 다 무한한 경쟁이 그들을 동등하게 구속하는 규칙보다 더 나쁘게 만든다는 것을 알았기 때문입니다. 불신이 조약의 이유였지, 장애물이 아니었습니다. 두 정부가 수만 개의 핵탄두가 서로의 도시를 겨냥한 상황에서 그 논리를 찾을 수 있었다면, 미국과 중국이 AI에서 같은 일을 할 수 없다는 자신만만한 주장은 현실주의로 위장한 지속의 변명입니다.

재단이 존재하는 이유

나는 스스로를 목표로 할 수있는 무기를 구축 한 세대의 일부가 될 것을 거부하고, 거기 전체 방법, 그것은 선택이 없었다.

냉전 최악의 사태를 막은 사람들은, 순진하다는 비난을 받으면서도 일부 기술은 경쟁에 맡기기에는 너무 위험하다고 주장한 사람들이었습니다. 그들은 당시 옳았습니다. 지금 중요한 유일한 과제는 다시 옳아지는 것이며, 제때 옳아지는 것입니다.