국제 초지능 거버넌스에 대한 가장 흔한 반대는 “불가능하다”는 것입니다. 그러나 1세기 동안의 조약들은 그렇지 않다고 말합니다. 공유된 멸종 위험에 대한 조율은 이미 일어난 바 있으며, 진지한 국가들의 기록된 습관이지 유토피아가 아닙니다.
핵 무기. 화학 무기. 오존 층. 기존의 위협에 대한 글로벌 조정은 문서화 된 인간 성과입니다. 초지능에 대한 질문은 우리가 시간이 지남에 따라, 정치가 필요한 이전 사례.
인류가 협력된 실존적 위협에 직면할 때마다 같은 반대가 제기되었다. 문제는 너무 복잡하고, 적대자는 너무 많으며, 검증은 너무 어렵고, 이탈은 너무 가능성이 높다는 것이다. 매번 그 반대를 넘어선 이들은 불완전하더라도 재앙적 결과를 막은 틀을 만들었다.
위협이 명확할 때, 과학은 신뢰할 수 있고, 모험은 조직되고, 국제 조정은 느리고 경연했을 때에도 가능합니다.
초지능 위협은 문서화되고, 과학적인 경고는 대중적이고, 옹호는 성장합니다. 아직도 누락 된 것은 정치적 압력이 강하다.
아래 네 가지 사례는 단일 국가가 해결할 수 없는 위협에 직면했을 때 인간 문명이 이룰 수 있는 것을 정의하는 사례들입니다. 각 사례는 오늘날 초지능 거버넌스 비판자들이 내놓는 것과 같은 반대에 직면하며 시작됐습니다.
핵무기는 1945년 전쟁에서 사용되었습니다. 수년 안에 여러 국가가 핵무기를 개발했거나 개발 중이었습니다. 수십 개국이 핵무기를 보유할 가능성은 문명 종말 위험을 나타냈습니다. 비판자들은 핵확산금지조약이 불가능하다고 말했습니다: 너무 많은 행위자, 너무 많은 국가 이익, 준수 여부를 검증할 방법이 없다고.
핵확산금지조약은 1968년에 서명을 위해 개방되어 1970년에 발효되었다. 이는 대부분의 국가가 민간 핵 기술에 대한 접근을 대가로 핵무기를 개발하지 않기로 합의하는 틀을 만들었다. 국제원자력기구를 통한 검증 체제가 준수를 감시했다.
오늘날 아홉 개국이 핵무기를 보유하고 있지만 수백 개국이 만들 수 있었다. 1945년 이후 핵무기는 전쟁에서 사용되지 않았다. NPT는 불완전하고 모든 확산을 막지는 못했지만, 비판자들이 불가피하다고 말했던 재앙적 시나리오는 막았다. 80년의 핵 평화는 우연히 일어나지 않았다.
국제원자력기구는 1957년에 평화적 핵에너지 촉진과 무기 전용 방지를 위한 권한으로 설립되었습니다. 그 검사 및 안전장치 체제는 국제 사찰관이 신고된 시설의 핵 물질이 민간 목적을 넘어 농축되지 않았는지 확인할 수 있게 합니다.
이 감시 체제가 작동하는 이유는 핵 물질이 AI 연산처럼 식별 가능한 병목을 통과하기 때문이다. 우라늄은 특정 시설에서 농축해야 하고, 원심분리기는 추적 가능하다. IAEA는 실존적 위험을 초래할 이중 용도 기술을 감시하기 위한 기술적 메커니즘을 개발했다.
AI와의 유사점은 직접적입니다. 최전선 AI 모델을 훈련하는 데 필요한 하드웨어, 특히 엔비디아가 생산하는 GPU 클러스터와 ASML 리소그래피 장비를 사용하는 TSMC가 제조하는 첨단 반도체는 모니터링이 기술적으로 가능한 방식으로 집중되어 있습니다. 소수의 기업이 병목 지점을 통제합니다. 수출 통제는 이미 이 칩들을 추적하려 시도합니다.
IAEA가 보여주는 것은 이중 용도 기술에 대한 국제 감시가 이미 작동하는 관행이라는 점입니다. 이 기관은 거의 70년 동안 운영되며 수십 개국에서 수천 건의 사찰을 수행했습니다. AI 컴퓨트에 대해 동일한 작업을 수행하기 위한 기반은 존재합니다. 필요한 것은 기술 혁신이 아니라 정치적 의지입니다.
1970년대 중반 과학자들은 냉매, 에어로졸, 산업 공정에 쓰이는 염화불화탄소(CFC)가 지구를 자외선으로부터 보호하는 오존층을 파괴하고 있음을 확인했습니다. 오존층이 없으면 지구 생명체는 재앙적 결과에 직면합니다. 업계는 CFC를 없애는 것이 경제적으로 불가능하다고 주장했습니다.
몬트리올 의정서는 1987년에 46개의 국가에 의해 서명되고 1989년에 발효되었습니다. 그것은 의무적인 국제 일정에 ozone depleting 물질의 생산 그리고 소비를 실행했습니다. 국가 개발은 장시간 시간과 재정 지원을 받았습니다. 지구의 모든 국가들은 조약을 쥐고, 보편적 인 배양과 국제 조약.
오존층은 회복되고 있습니다. 과학적 평가들은 금세기 중반까지 1980년 수준으로 돌아올 것이라고 전망합니다. 몬트리올 의정서는 역사상 가장 성공적인 환경 조약으로 널리 평가됩니다. 처음에 반대했던 화학 산업은 대체 화합물을 개발하고 수익성 있게 계속 운영했습니다. "불가능한 것"은 결국 그렇지 않았습니다.
화학무기는 제1차 세계대전, 식민지 분쟁, 1980년대 이란-이라크 전쟁에서 사용되었다. 1993년 서명을 위해 개방되어 1997년 발효된 화학무기금지협약은 화학무기의 개발, 생산, 비축, 사용을 금지하고 기존 비축물의 검증된 폐기를 요구했다.
190개 이상의 국가가 협약을 비준했습니다. 미국과 러시아를 포함해 상당한 화학무기 비축량을 보유한 국가들은 2013년 노벨 평화상을 수상한 화학무기금지기구의 국제 감독 아래 이를 폐기했습니다.
화학무기협약은 국가들이 수십 년과 수십억 달러를 투자해 개발한 무기를 검증된 방식으로 파괴하는 국제 협정이 가능함을 보여줍니다. 조약이 요구하면 국가들이 전략적 우위를 포기하지 않을 것이라는 반론은 현대사에서 가장 적대적인 관계들에서 반복적으로 반박되었습니다.
협약 위반이 발생하면 국제적 대응이 뒤따른다. 이 체제는 완벽한 도구가 아니다. 그러나 협약 이전에 화학무기 사용이 논쟁의 여지가 있는 군사적 선택지였던 것과 달리, 이제는 국제 규범을 위반하는 행위로 규정되어 전 세계의 비난과 대응을 촉발한다. 국제 규범의 이러한 변화 자체가 거버넌스 성공의 한 형태다.
이 네 가지 사례는 구조를 공유한다. 각 경우 위협은 처음에 국제 거버넌스에는 너무 추측적이거나 기술적으로 복잡하다는 이유로 일축됐다. 각 경우 관련 산업은 규제가 경제적으로 불가능하다고 주장했다. 각 경우 검증은 환상으로 묘사됐다. 각 경우 결국 합의가 이뤄지고, 검증 메커니즘이 구축됐으며, 위협은 실질적으로 줄었다.
초지능 거버넌스는 오늘이 같은 물체 중 하나를 직면, 같은 형태로, 같은 유형의 배우. 기술 회사는 규정은 혁신을 자극합니다. 국가 보안 확립은 adversaries가 결함을 말한다. Commentators는 문제를 이해하기 위해 Legislators에 대해 기술적으로 복잡합니다. 이 인수는 오래 된, 잘못 된 이후; 그들에 게 기울이는 사람은 그들이 ignoring 인 선원을 요청해야합니다.
초지능 거버넌스를 이 선례들과 구별하는 특징은 긴급성입니다. NPT는 핵무기가 여전히 인간이 통제하는 동안 수년에 걸쳐 협상되었습니다. 몬트리올 의정서는 오존층이 계속 얇아지지만 회복 가능했던 수십 년 동안 시행되었습니다. AI 개발은 더 빠르게 진행되고 있으며, 충분히 발전한 시스템은 오존 분자나 핵탄두가 할 수 없는 방식으로 거버넌스에 저항할 수 있습니다.
우선순위는 더 빨리 움직이는 이유입니다. 기업의 야당에도 불구하고 조정, 검증 및 계약은 모두 전에 일어났다. 우리가 여전히 필요한 것은 정치는 지분을 이해하고 대기를 거부하는 사람들에 의해 만들어진 타임 라인을 압축 할 것입니다.
초지능 거버넌스를 가능하게 할 정치 연합을 구축하는 사람들에 합류하세요.