Bản tóm tắt một phút

Dành cho nhân viên không đọc white paper. Đưa cái này. Nói các con số. Ngồi xuống.

500+

Các chuyên gia đã ký tuyên bố CAIS 2023 xếp hạng rủi ro tuyệt chủng AI ngang với đại dịch và chiến tranh hạt nhân

$190M

Ứng dụng, chi tiêu an toàn cho AI hàng năm, chống lại khoảng $1T để làm cho hệ thống mạnh hơn

Các hiệp ước toàn cầu ràng buộc về phát triển siêu trí tuệ ngày nay

Yêu cầu

Ba bước

Luật trong nước: cấp phép cho các lần huấn luyện lớn; yêu cầu đánh giá độc lập trước khi triển khai.
Các cuộc đàm phán đa phương: mở các cuộc đàm phán về lệnh cấm kèm theo xác minh.
Tài trợ: mở rộng năng lực đánh giá độc lập và thiết kế hiệp ước bên ngoài các bức tường phòng lab.

Khung

Phòng ngừa · AI hẹp an toàn

Chúng ta không yêu cầu đóng băng y học hay phần mềm. Chúng ta yêu cầu cấm các hệ thống tổng quát tự hành vượt ngưỡng năng lực. Superintelligence không thể kiểm soát được. Tiền lệ: Hiệp ước Không phổ biến vũ khí hạt nhân, lệnh cấm vũ khí hóa học, Nghị định thư Montreal.

Phản đối dự kiến: "Trung Quốc sẽ không tham gia."

Sau đó xây dựng xác minh (theo dõi chip, kiểm tra cụm) và coi hành vi vi phạm là vấn đề thực thi. Một cuộc chạy đua đơn phương hướng tới hệ thống không kiểm soát được không phải là chiến lược.

Tóm tắt cho nhân viên: Không tạo ra.org/contac/ · Kế hoạch: Không tìm thấy.org/ Kế hoạch của chúng ta/ · PDF Chính sách: Nakadacation.org/resources/pdf/poly-brief/