유럽연합은 2023년 9월 첫 번째 책임 있는 확장 정책을 발표했다. 문서를 열면 수사보다 제목에서 구조가 드러난다. 능력 수준이 미리 명명되어 있고, 각 수준마다 평가 결과가 선을 넘었다고 판단되면 작동하는 안전장치가 짝지어져 있다. 더 엄격한 가중치 보안, 더 엄격한 배포 규칙, 더 깊은 레드팀 검증, 상위 단계에서는 지정된 보호 장치가 마련될 때까지 훈련이나 배포를 하지 않겠다는 서면 약속이 포함된다. 업계에서 흔히 부르는 이름은 RSP이며, 기본 논리는 흔히 if-then 약속이라고 불린다.
선도적인 최전선 연구소들이 가장 잘 알려진 버전을 발표했고, 그 형식이 퍼졌습니다. 계층은 대체로 오늘날과 비슷한 시스템부터 생물무기, 심각한 사이버 공격 또는 위험한 자율성을 의미 있게 지원할 수 있는 모델까지 이어집니다. 이 문서는 비상사태 전에 간단한 질문에 답하기 위한 것입니다. 능력이 상승할 때, 회사는 정확히 무엇을 합니까?
왜 형식이 실제 개선인 이유
일반적인 안전을 진지하게 다지겠다는 약속과 비교해 RSP는 더 구체적입니다. 그것은 능력, 임계값, 대응을 미리 명명하여 분위기를 외부인이 가리킬 수 있는 것으로 바꿉니다. 그것은 예측적입니다. 연구소는 발견의 열기와 보도 주기가 함께 도착하기 전에 위험한 능력이 자신에게 어떤 비용을 치르게 할지 결정해야 합니다.
이 형식은 또한 단어를 테스트에 연결합니다 위험한 능력 평가, 그래서 임계 값은 슬로건보다는 조작적인 의미를 가지고 있습니다. 일부 정책은 더 이동 하 고 안전 하 게 기능으로 속도를 유지할 수 없는 경우 halt 개발에 투입. 공공 문서에서 실제 진보로 계산합니다.
초안은 헌법이 아닙니다.
공공, 특정, 사전 준비 규칙은 산업 성숙하는 방법이다. RSP는 초안일 수 있습니다. 그들은 같은 확고한 쓰기, 급료 및 시험에서 이익 동안 헌법이 아닙니다. 초안을 관리합니다. 따르는 법으로 그것을 대우하지 마십시오.
사실이며, 그 약점은 여전히 구조적이다. 같은 연구소가 정책을 작성하고, 기준을 정하고, 평가를 수행하며, 선을 넘었는지 판단하고, 안전장치가 충분한지 결정하며, 본문을 수정할 권한까지 보유한다. 상업적 출시 압력이 연구소가 직접 만들고 운영하는 약속과 충돌할 때, 독립된 제3자는 경고를 할 권한이 없다.
역사는 낙관적인 독서를 호의하지 않습니다. 기록의 경쟁력 있는 압력의 밑에 배운 기업 안전 권고 그들은 비트로 시작 될 때 연화 표준의 기록입니다. 그런 다음 규칙은 그 때만큼 강합니다. 그 다음 약화에서 혜택을주는 파티에 의해 시행됩니다. 설정된 규칙, 측정, 자신에 대한 구약은 의도의 진술입니다. 그것은 제약이 아닙니다.
문서 아래에 두 가지 추가 격차가 자리 잡고 있습니다. RSP는 임계값 초과를 알아차리기 위해 평가에 의존하므로 평가를 제한하는 모든 것(포함 능력 숨기기, 미지의 능력, 안전 증명의 어려움은 그에 기반한 정책을 제한한다. 그리고 RSP는 그것을 채택한 연구소만을 구속한다. 거부하는 경쟁자나 이 문화권 밖의 국가 프로그램은 영향을 받지 않는다. 단일 회사가 그 조정 문제를 혼자 해결할 수는 없다.
재단이 그것들을 읽는 방법
좋은 장치를 유지하라. 임계값 논리, if-then 구조, 평가와의 연결을 재사용하라. 누가 펜을 쥐고 누가 중단을 집행하는지를 바꿔라. 그 트리거를 자발적 정책에서 독립 기구와 연산 거버넌스, 따라서 연구소는 한도가 불편해지면 조용히 스스로 한도를 수정할 수 없습니다.
시행 규칙의 초안으로 정책을 대우하고, 그 후에 실험실 밖에 일을 완료하십시오: 바인딩 법, 독립적 인 집행, compute 통제.