핵무기는 물질 문제에 둘러싸인 설계다. 보통 고농축 우라늄이나 원자로 경로로 얻은 플루토늄 같은 핵분열성 물질이 필요하며, 그 양과 순도는 하늘에서 떨어지지 않는다. 농축 시설은 크고 전력 소모가 크며, 정보 기관이 70년 동안 찾아내는 법을 익힌 장비로 가득하다. 그 어려움이 비확산 이야기의 전부는 아니지만, 물리학이 공짜로 제공한 부분이다.

이제 생각 실험 AI 리더 건너뛰기. 폭탄을 쉽게 만드는 원자의 정확한 구성을 공급합니다. 입력을 공급하는 것은 싸고, 이중 용도이고, 깔판에 의해 판매했습니다. 완성된 디자인을 공급하는 것은 파일처럼 복사될 수 있었습니다. 몇 년 동안 종은 지속됩니까?

그렇지 않습니다. 조약은 여전히 중요할 것입니다. 규범과 두려움도 마찬가지입니다. 그것들은 현재 자재의 어려움이 수행하는 모든 역할을 수행해야 하며, 어떤 집행 체계도 지금까지 관리해 본 적 없는 규모로 수행해야 합니다. 20세기의 핵무기에 대한 부분적 성공은 공급망의 마찰 없이는 이해할 수 없습니다. 우리는 우라늄이 까다롭다는 점에 운이 좋았습니다.

엄격함이 가져다준 것

아홉 개 국가가 핵무기를 보유한 것으로 알려져 있다. 그 숫자는 스캔들이면서 동시에 일종의 자비이기도 하다. 수백 개 국가가 물리학을 이해할 과학 인재를 갖고 있다. 제재와 감시, 비용 속에서 산업 마라톤을 완주한 국가는 훨씬 적다. 핵확산금지조약과 수출통제 체제, IAEA 안전장치 체계는 모두 한 가지 단순한 사실에 의존한다. 병목이 충분히 눈에 띄어 감시할 수 있다는 점이다.

병목을 제거하면 조금 더 어려운 외교 문제가 생기는 것이 아니다. 한계 행위자, 즉 약소국, 자금이 풍부한 집단, 분열한 사령부가 도시를 인질로 잡을 수 있는 세계가 생긴다. 소수의 신중한 강대국 사이에서 간신히 작동하는 억지 논리는 시간 지평이 짧은 수십 명의 행위자 사이에서는 작동하지 않는다. 폭탄은 두렵다. 쉬운 폭탄은 완전히 다른 종류의 문제다.

우리는 더 나은 연설로 핵 물질을 쉽게 다루며 살아남지 않습니다. 우리는 검사 위에 놓인 단단한 핵 물질로 살아남습니다. 초지능은 쉬운 방향으로 흘러가고 있습니다.

인공지능은 어느 방향으로 움직이는가?

최전선 훈련에는 여전히 상당한 자금, 상당한 칩, 상당한 엔지니어링이 필요합니다. 최전선을 밀어 올릴 만큼 큰 클러스터는 건물 안의 물리적 객체이며 전기 요금이 발생합니다.

추세선은 우라늄의 추세선이 아니다. 모델은 달러당 더 유능해진다. 기술은 개선된다. 한 번 훈련된 가중치는 거의 무 비용으로 복사될 수 있다. 공개 배포와 유출은 능력을 수평으로 퍼뜨린다. 인재는 전 세계적이다. 그 어느 것도 핵 비확산을 가능하게 한 우연한 물질 관문을 우연한 선물로 만들지는 않는다. 모든 것은 그 방향을 가리킨다.

정직하게 두 개의 스택을 비교합니다. 두 번째 핵 비소를 얻으려면 여전히 식물, feedstock 및 망원경의 시간이 필요합니다. 훈련 된 모델의 두 번째 사본을 얻으려면 드라이브가 필요합니다. 위험한 객체가 있다면 warhead 보다는 오히려 대리인, 복제는 isotope 패턴이 아닌 소프트웨어 패턴을 선호합니다.

잘못된 교훈과 올바른 교훈

잘못된 수업은 치명적입니다. 입력이 더 쉽기 때문에 주관은 희망입니다. 더 많은 기능을 저장할 수있는 실험실 피치의 거울 이미지입니다. 둘 다 우리가 아직도 있는 간격을 건너서, 국경이 눈에 보이는 곳에 있고 심각한 배우의 수는 작습니다.

올바른 교훈은 우리가 발명해야 하는 어려움에 대한 긴급성입니다. 물리학이 문을 좁게 유지하지 않는다면, 법과 산업 표준이 그렇게 해야 합니다. 고급 칩에 대한 고객 확인 규칙. 훈련 실행에 대한 보고 임계값. 감사 권한. 대규모 은밀한 훈련을 숨기기 어렵게 만드는 하드웨어 기능. 초지능은 허용된 제품이 아니라는 조약. 초지능은 통제될 수 없습니다 NPT 그리고 모델 조약 스케치 그 어려움을 쉬운 길이 완전히 열리기 전에 문서로 정리하려는 시도입니다.

사고 실험을 닫다

1960년에 대통령에게 검증된 설계와 폭탄 재료가 비료처럼 팔리는 세상을 브리핑한다고 상상해 보십시오. 방 안의 모든 본능은 원천 통제를 외칠 것입니다. 누구도 그 본능을 반과학이라고 부르지 않을 것입니다. 누구도 첫 번째 폭탄을 감시하기 위해 더 똑똑한 폭탄을 발명하는 것이 답이라고 말하지 않을 것입니다.

우리는 폭탄보다 재료 관문이 약한 능력을 향해 구축하면서 속도가 안전이라고 스스로에게 말하고 있다. 사고 실험은 미묘하지 않다. 위험한 것이 만들기 쉽다면, 세계는 두 번째 기회를 얻지 못한다. 아직 어렵게 만들 수 있을 때 의도적으로 어렵게 만들어라. 그렇지 않으면 생존자 화석 기록 없이 쉬운 것이 어떤 느낌인지 알게 될 것이다.