정책 입안자들을 위한 유산 · 2026
1분 브리핑
백서를 읽지 않을 직원을 위한 자료입니다. 이걸 건네세요. 숫자를 말하고 자리에 앉으세요.
500+
전문가들이 2023년 CAIS 성명에 서명하여 AI 멸종 위험을 팬데믹 및 핵전쟁과 같은 수준으로 평가했다
$190M
Approx. yearly AI safety spend, against about $1T into making systems more powerful
0
오늘날 초지능 개발에 관한 구속력 있는 글로벌 조약
요청 사항
세 가지 움직임
- 국내법: 대규모 훈련 실행을 허가하고; 배포 전 독립 평가를 요구합니다.
- 다자간 회담: 검증을 수반한 금지 조치에 대한 공개 협상.
- 자금 지원: 연구실 벽 밖에서 독립적인 평가 및 조약 설계 역량 확대.
그 틀
예방 · 협소한 인공지능 안전
우리는 의학이나 소프트웨어를 동결해 달라고 요청하지 않습니다. 우리는 능력선을 넘는 자율 범용 시스템을 금지해 달라고 요청합니다. 초지능은 통제할 수 없습니다. 선례: 핵확산금지조약 화학무기 금지 몬트리올 의정서.
예상 반론: "중국은 협조하지 않을 것이다."
그런 다음 검증(칩 추적, 클러스터 검사)을 구축하고 이탈을 집행 문제로 다루십시오. 통제 불가능한 시스템을 향한 일방적 질주는 전략이 아닙니다.
직원 브리핑: nakadafoundation.org/contact/ · 계획: nakadafoundation.org/our-plan/ · 정책 PDF: nakadafoundation.org/resources/pdf/policy-brief/