중국 연구자가 동료에게 국내에서 대규모 연구 예산을 확보하는 비결을 말한 적 있다. 미국이 이미 훨씬 앞서 있으며, 중국은 더 많은 돈 없이는 따라잡을 수 없다고 말하라는 것이다. 미국판은 정반대다. 중국이 이미 앞서 있으며, 우리가 뒤처지고 있다고 말한다. 양쪽 모두 돈이 풀린다. 과학이 그로 인해 더 나아지는지는 별개의 문제다.

그들은 다른 측면이 이미 앞서 경고하여 국가 보안 예산을 높입니다. 돈은 승자를 포함하여 아무도, 통제할 수 있는 기계를 건설하는 것을 지불할 것입니다.

그 교환은 중반 2026 년에보고 된 국가 보안 Playbook의 가장 오래된 장에 속하며 새로운 기술에 대한 먼지가 있습니다. 콜드 전쟁에서 선은 "종이 갭"이었다. 이제 "shoggoth gap": 다른 측면이 제어 할 수없는 기계 마음을 구축하는 데 대한 주장, 그래서 우리는 하나 먼저 구축해야합니다, 그리고 더 빠른, 그리고 더 적은 브레이크. 예산 논리는 missile-gap 년과 동일하며, 돈을 제외하고는 마음의 아무도는 미사일 수보다 오히려 통제 할 수 있습니다.

격차가 어떻게 백지 수표가 되는가

원래 미사일 갭은 정치적 도구였다. 1950년대 후반 미국 관리와 후보들은 소련이 대륙간 탄도 미사일에서 미국을 앞지르고 있다고 경고했다. 그 주장은 돈과 선거와 전력 구조를 움직였다. 더 나은 정보가 들어오자 갭은 대부분 사라졌다. 소련이 가진 미사일은 연설이 요구한 것보다 적었다. 지출은 추정치만큼 깔끔하게 되돌려지지 않았다.

이 패턴은 지루하기 때문에 유용합니다 : 두 개의 라이벌 시스템, 각 실험실과 마이너리가 성장할 때 성장하는 광부, 그리고 오히려 스카프 스토리를 지나가는 지도자들과 각각은 실제적인 것을 막을 수 있습니다. 아무도 영감을 얻었다. 안전한 bureaucratic 이동은 항상 동일합니다: 다른 측에 대한 최악의 가정, 더 많은 것을 요구하고, naivete로 구속을 대우하십시오.

미사일을 최전선 모델로 바꿔도 인센티브는 그대로 정렬됩니다. 칩과 인재, 규제 유예를 원하는 연구소는 경쟁자가 6개월 앞서 있다고 말할 이유가 충분합니다. 더 큰 AI 예산을 원하는 부처는 그 말을 믿을 이유가 충분합니다. '지는' 책임을 지기 싫은 정치인은 양쪽 모두에 자금을 대줄 이유가 충분합니다. 그 고리 안에서 누구도 결승선이 누구나 잡을 수 있는 상인지 묻는 대가를 받지 않습니다.

격차는 사실이 되기 전에 예산 이야기입니다. 항상 질문은 그것을 날씨처럼 취급함으로써 누가 이득을 보는가입니다.

쇼고스 격차가 몰래 들여오는 것

현대 버전은 콜드 워 하나보다 날카로운, 인종의 개체가 다르기 때문에. 미사일은 무기입니다. 인공 superintelligence는 위험에 대해 정직하다면, 시스템은 아무도 통제 할 수 없습니다. 첫 번째 steer 할 수없는 무언가에 대한 첫 번째 대답이됩니다.

피치는 통지하지 않습니다. 그것은 사일로 열쇠처럼 느낄 수있는 끝 선을 필요로, 대통령은 보유. 그런 다음 "뒤로 떨어지는"는 국가 비상과 같은 소리, 그리고 "우리가 그것을 통제하는 방법을 알고 때까지 아래로"는 어떤 증거가 도착하기 전에 unilateral disarmament와 같은 소리.

실제로 긴급 버전에 대한 사실은 무엇입니까? 라이벌은 통제할 수 없는 superintelligence를 곧 건축할 수 있고, 생존에 있는 공유한 관심사가 그(것)들을 느리게 할 수 없다는 것을 돕기 위하여 충분히 놀아야 합니다. 그것은 거의 가치가있는 배려로 argued. 더 자주 asserted, 다음의 훈련 실행에 대한 권한 슬립으로 사용.

중국은 국제 AI 위험 선언을 서명했으며 자체 지배적 제안을 발표했으며 미국과 직접 연설에서 sat가 주관합니다. 아무도 그들은 통제할 수 없는 기계를 우리가 하는 무슨 사정을 건설할 것입니다, 그러나 돈은 그들 처럼 도착합니다.

양쪽 모두 속임수에 대해서는 옳을 수 있지만 해결책에 대해서는 틀릴 수 있습니다

자금 조달 기법이 효과를 보는 이유는 그 아래에 실제 경쟁이 존재하기 때문입니다. 미국과 중국 연구소는 서로를 주시합니다. 첨단 칩 수출 통제가 존재하는 이유는 산업 경쟁이 실제이기 때문입니다 그 통제의 정치 그리고 더 넓은 중국 신화 그것은 운명으로 경쟁이 살아있는 질문이다.

정상적인 기술 경주에서, 더 많은 돈은 당신에게 더 나은 제품을 아직도 소유합니다. superintelligence에 대한 인종에서, 더 많은 돈은 당신에게 더 빠른 접근 방식을 구입, 빌더의 자신의 위험 추정에, 제품을 숙박 할 수 없습니다. 이제 채워진 missile silos 같은 피치 데이터 센터를 채우고, 사람들이 체크를 작성하는 것은 거의 차이와 앉아 물었다.

두 수도 모두 같은 놀이를 실행할 때 ("그들은 앞서, 우리를 자금을 자금을 자금을 자금을 잃습니다"), 양쪽 모두 가속. 각 측의 recklessness는 다른 측의 증거가 됩니다. 그것은 당신이 얻는 방법 가장 신중하지 않은 연구실을 선택하는 경쟁, 그리고 예산 휴리스틱이 아무도 멸종을 원하지 않아도 멸종 경로가 되는 방법.

브리핑에 없는 움직임

Cold War adversaries는 결국 어떤 인종이 허용되지 않은 끝을 발견했습니다. 아직 적, 그들은 모두 끝낼 수있는 무기의 주위에 검증을 구축, 언바운드 경쟁이 모두 똑같게 경계 규칙보다 악화하기 때문에. 그들은 서로를 신뢰하기 때문에 종이 작업을 원했습니다.

Superintelligence는 동일한 구조, 단지 세탁기술자가 있습니다. 시스템에서 중요한 힘 이익은 아무도 통제할 수 없습니다. 그 공동 관심은 왜 치료가 존재 할 수 있는지이다 : 의결, superintelligence에 verifiable halt, 검수원과, 결과, 그리고 팔 통제 실제 만든 같은 서류. 연설은 실험실을 멈추지 않을 것이며, 그 순간의 경쟁이 앞서 보이는 것을 느리게 약속하지 않습니다.

그 피치는 그 옵션의 방이 없기 때문에 자금 조달 장치입니다. 그 직업은 다음 apequion 느낌 inevitable을 만드는 것입니다. "우리는 뒤에 떨어지는"는 인수에 대해 의미하지 않았습니다. Cold War 예산 트릭을 만들기 위해 종이 키를 유지한다는 것을 결정합니다.