수출 규정은 누가 칩을 살 수 있는지 정할 수 있습니다. 실리콘 안에 라이선스 조건을 강제하는 칩은 한 걸음 더 나아갑니다. 하드웨어 기반 거버넌스는 일부 규칙이 PDF가 아니라 금속 안에 살아야 한다는 내기입니다.
이 아이디어는 AI를 unusually 통제하기 쉽게 만드는 사실에 기반한다. 최전선 모델 훈련에는 대량의 특수 칩이 필요하며, 이는 대규모 데이터 센터에 집중되어 있고, 소수의 기업이 심각한 병목이 있는 공급망을 통해 생산한다. 소프트웨어는 보이지 않게 즉시 복제되지만, 수만 개의 고성능 프로세서가 메가와트 규모의 전력을 끌어들이는 것은 그렇지 않다. 그 물리적 발자국이 거버넌스가 붙잡을 수 있는 표면이며 연산 거버넌스, 칩 수준까지 내려간.
하드웨어에 무엇을 구축할 수 있을까
제안들은 소박한 것부터 야심찬 것까지 다양하다.
- 사용 검증. 칩은 수행 중인 작업의 속성, 예를 들어 훈련 실행이 소비한 컴퓨트 양을 변조 방지되고 프라이버시를 보호하는 방식으로 증명할 수 있어 검사관이 모델이나 데이터를 읽지 않고도 준수 여부를 확인할 수 있게 합니다.
- 사용 제한. 하드웨어는 권한을 부여받지 않는 한 설정된 규모 이상의 훈련 실행에 참여하는 것을 거부하여 법적 한계를 물리적 한계로 전환하여 상한을 시행할 수 있습니다.
- 위치와 무결성. 칩이 선언된 위치에 있으며 변조되지 않았음을 확인할 수 있는 메커니즘은 수출 통제를 지원하고 감시되지 않는 시설로의 전용을 막는 데 도움이 됩니다.
이 중 일부는 다른 이유로 현대 프로세서에 이미 존재하는 보안 하드웨어 기능을 기반으로 한다. 공학은 어렵고 부분적으로 미해결이지만, 공상과학이 아니며 이를 현실화하기 위한 진지한 작업이 진행 중이다.
왜 이것이 그렇게 매력적인 지렛대인지
대부분의 초지능 거버넌스를 약화시키는 문제를 해결한다는 점이 매력입니다. 확인할 수 없는 조약은 생물무기협약, 수십 년 동안 탐지되지 않은 채 위반되어 온 실제 금지 조치입니다. 조약이 실제로 준수를 확인할 수 있는 거버넌스, 즉 핵 사찰 체제 핵분열 물질에 대해 확인하는 것처럼, 이는 유지될 수 있는 거버넌스다. 하드웨어 기반 메커니즘은 물리학에 뿌리를 두고 신뢰가 아닌 검증을 가능하게 하는 경로를 AI에 제공한다. 이를 통해 국가들은 한도를 합의하고 서로가 이를 지키는지 확인할 수 있으며, 이는 거의 모든 국제 제안에서 빠진 핵심 요소다.
어떤 AI 협정에서든 가장 어려운 부분은 규칙을 작성하는 것이 아니라 규칙이 지켜지고 있음을 증명하는 일입니다. 증거는 하드웨어에 있을 수 있습니다.
양날의 검
합법적 당국이 연산 자원을 확인하고 제한할 수 있게 하는 장치는 통제 장치이기도 하며, 통제는 남용될 수 있습니다. 안전 제한을 강제하기 위해 구축된 기반 시설은 잘못된 손에 들어가면 독점을 강제하거나 열쇠를 쥔 자를 공고히 하거나 감시와 강압의 도구가 될 수 있습니다. 공정한 국제 중단을 뒷받침할 수 있는 바로 그 지렛대가 권력 집중 재단이 다른 곳에서 경고하는 것입니다.
이것은 기술에 대해 논쟁하지 않습니다. 그것은 관할 구역의 거버넌스와 건물에 대한 argues : 메커니즘이 무엇인지에 대한 투명성, 누가 통제하는 것에 한계, 그리고 국제은 오히려 다른 권위보다. 그 방법을 처리, 하드웨어 사용 관리는 루트에서 검증 문제를 공격하기 때문에 가장 유망한 도구 중 하나입니다. 그것은 더 구체적인 이유 중 하나입니다 재단은 믿는다 신뢰할 수 있는, checkable 국제 기구 utopian 보다는 오히려 달성할 수 있습니다.