Ngăn chặn siêu trí tuệ không có nghĩa là đập phá mọi con chip hay chấm dứt học máy. Nó nghĩa là cấm pháp lý và thực tế việc phát triển siêu trí tuệ nhân tạo. Siêu trí tuệ không thể bị con người kiểm soát. Đó là lệnh cấm vĩnh viễn, không phải tạm dừng có thời hạn rồi quay lại cuộc đua cũ.

Những gì phải dừng so với những gì phải tiếp tục

AI hẹp gấp protein, đọc quét, tối ưu hóa hậu cần và vẫn nằm trong các miền giới hạn nên tiếp tục. Mục tiêu là siêu trí tuệ tổng quát, tự cải thiện đệ quy và các chương trình nhắm đến nó, được lọc qua ngưỡng tính toán, bài kiểm tra khả năng và quy tắc nghiên cứu. Các nhà phê bình nói "họ muốn cấm AI" đang bán một sự bôi nhọ nhằm bảo vệ cuộc chạy đua.

Tại sao lời hứa của lab là chưa đủ

Name Và nhiều cam kết có thể tiết lộ mục đích. Hệ thống điều khiển chính thất bại. Cùng một công ty đó viết chính sách, thực hiện các xét nghiệm, đánh giá kết quả và lợi nhuận từ việc vận chuyển. Dưới sự cạnh tranh, nội quy bị bẻ cong, nên luật bên ngoài phải cung cấp vết cắn.

Thang thực thi

Hãy hình dung một chiếc thang trên vách đá.

Công chúng sẽ ở cơ sở: những người có thể nêu tên các nhà lãnh đạo yêu cầu và trừng phạt, những người chỉ đưa ra sân khấu đổi mới.

Luật pháp và cơ quan trong nước: cấp phép cho các lần huấn luyện lớn, trách nhiệm hình sự và dân sự đối với việc phát triển siêu trí tuệ có chủ đích, các cơ quan đánh giá có quyền truy cập thực sự, bảo vệ người tố giác.

Chip và đám mây: kiểm soát xuất khẩu, cụm biết- quen thuộc của bạn, năng lượng và tầm nhìn tập trung dữ liệu. Phần cứng là vật lý. Đó là một đặc điểm của sự quản lý.

Hiệp ước liên minh: một tập hợp các tiểu bang cốt lõi bao gồm hầu hết các khả năng biên giới, với các phụ số, không chỉ các nguyên tắc. Sự không tin cậy là điều bình thường; sự xác nhận tồn tại nên các bên không cần dựa vào tình bạn.

Tổ chức xác minh: thanh tra viên, lịch trình FLOP, báo cáo sự cố, thẩm quyền kích hoạt hậu quả. Hãy nghĩ đến năng lực giống IAEA cho các trung tâm dữ liệu và huấn luyện, chứ không phải một diễn đàn suông.

Điều kiện cấm vĩnh viễn: chỉ mở lại khi khoa học độc lập và công chúng đều vượt qua ngưỡng cao dưới các thể chế không bị các phòng lab kiểm soát.

Mỗi bậc thang hỗ trợ bậc tiếp theo. Các hội nghị thượng đỉnh không có quy tắc tính toán, hoặc quy tắc tính toán không có ý chí công chúng, để lại cuộc leo dốc chưa hoàn thành.

Chính trị trong nước là một nửa vấn đề

Ở Hoa Kỳ, văn bản Geneva xinh đẹp không bị ràng buộc mà không có một con đường thông qua Thượng viện hay thông qua các quy định và các hiệp ước hành hình có thể vượt qua. Thiết kế nhạc cụ từ phiếu bầu bạn có thể thắng. Những nước khác cũng có bẫy phê chuẩn riêng. Bỏ qua thiết kế nội địa và bạn nhận được thông cáo báo chí.

Trung Quốc, đối thủ và cái cớ chạy đua

Lý do chính để phóng đại không giới hạn là: nếu chúng ta chậm lại, chúng sẽ không. Sự dễ bị tổn thương chia cắt cả hai bên. Một siêu thông minh không kiểm soát được là một cách để mất đất nước trong khi chào cờ, không phải tài sản quốc gia. Có những đối thủ không tin tưởng nhau vì sự công khai, từ chối phần cứng và những chương trình vượt ngục chung.

Trọng số mở

Trọng lượng mở cao tạo ra xuất khẩu đường dẫn tăng trưởng chỉ điều khiển một phần địa chỉ. Một khi cân nặng đã được công khai, thì không có triệu hồi trung tâm. Xử lý các loại thuốc cao cấp thông thường là các quyết định gia tăng, không phải sản phẩm bình thường.

Bạn có thể làm gì

Hành động phù hợp với tầm với của bạn.

Cử tri: liên hệ đại diện với yêu cầu cấm ràng buộc, không phải lời kêu gọi mơ hồ "hãy cẩn thận." Nhân viên: soạn thảo các dự luật cấp phép và đánh giá với các ngưỡng số. Nhà tài trợ: tài trợ vận động thay đổi phiếu bầu và văn bản hiệp ước. Các nhà khoa học: ủng hộ lệnh cấm vĩnh viễn và hỗ trợ thiết kế xác minh. Nhân viên phòng thí nghiệm: use lawful reporting channels when internal safety is overridden. Role-specific force beats generic anxiety.

Hầu hết tiền bạc và uy tín vẫn đổ vào việc làm cho cuộc chạy đua an toàn hơn, thay vì chấm dứt cuộc chạy đua hướng tới siêu trí tuệ. Những khoản tặng giúp dừng lại vẫn còn khan hiếm.

Thành công trông như thế nào

Trong hai năm: các đạo luật có thực quyền ở nhiều khu vực pháp lý, giám sát sử dụng cuối tốt hơn trên chip, văn bản đàm phán nghiêm túc có số liệu, và sự ủng hộ công chúng bền vững cho lệnh cấm mang tính ràng buộc. Trong năm đến mười năm: compute được cấp phép bao phủ hầu hết năng lực frontier, kiểm tra hoạt động, liên minh giám sát training, và một văn hóa khiến việc đột phá trở nên tốn kém và dễ bị phát hiện. Chỉ riêng các thông cáo thượng đỉnh thì không tính.

Các chế độ thất bại

Theo dõi sự bảo vệ lại (sự trợ giúp đã được yêu cầu) thay vì siêu trí tuệ), ghi nhận những người đánh giá, hiệp ước tượng trưng mà không cần xác nhận, và chờ đợi "được sắp xếp lại" để có quyền xây dựng. Phòng thủ không tốn kém. Hãy nói tên chúng để anh có thể đặt rào chắn lên.

Thiết kế hiệp ước không có văn bản thiêng liêng

Không có bản nháp thiêng liêng duy nhất. Có các họ thiết kế. Một liên minh cốt lõi bao phủ hầu hết năng lực tiên phong có thể hành động trước khi có thành viên phổ quát. Trình tự khung trước phụ lục (nguyên tắc trước, lịch số cập nhật) vay mượn từ các chế độ môi trường và vũ trang thành công. Các biện pháp thương mại chống lại bên không tham gia thay đổi phép tính chọn không tham gia. Một quỹ đa phương hoặc thỏa thuận tiếp cận công nghệ có thể thu hút các quốc gia lo sợ bị khóa ngoài AI hẹp. Bản nháp kiểu MIRI là một đề xuất được chỉ định đầy đủ; NPT, Montreal và luật vũ khí hóa học là kệ tiền lệ. Chọn cấu trúc bạn có thể xác minh, không phải thơ ca bạn chỉ có thể ca ngợi.

Nghiên cứu gần đường ranh

Vấn đề soạn thảo khó nhất là những công việc nằm sát bên lệnh cấm: hệ thống tác nhân, trợ lý nghiên cứu AI tự động, tự chơi quy mô lớn. Cấm con đường rõ ràng dẫn đến siêu trí tuệ. Cấp phép và kiểm tra vùng xám. Đừng giả vờ mọi bài báo là một quả bom, cũng đừng coi nghiên cứu AI tự động là khoa học thông thường khi nó rút ngắn con đường đến những hệ thống không ai có thể lật ngược.

Công lý và ai phải trả giá

Các quy tắc compute sẽ tác động không đồng đều đến các công ty và quốc gia vì cơ sở công nghiệp không đồng đều. Một chế độ công bằng sẽ kết hợp các hạn chế ở đỉnh thang năng lực với việc tiếp tục tiếp cận các công cụ hẹp có lợi, và không dùng "an toàn" làm bình phong cho các hệ thống đẳng cấp công nghệ vĩnh viễn. Mục tiêu là sự sống còn chung, không phải độc quyền tiến bộ.

Trả lời hai lập luận gay gắt

"Chúng ta sẽ mất nền kinh tế." Một phần vốn sẽ phân bổ lại. Một số câu chuyện cổ phiếu sẽ thu hẹp. Những chi phí đó hiện rõ trên các cuộc gọi thu nhập hàng quý. Tuyệt chủng và mất quyền lực vĩnh viễn không xuất hiện như một khoản mục. Chi phí nhìn thấy được không tự động thắng thế khi lựa chọn thay thế là văn minh.

"Luôn có người sẽ phản bội." Phản đối là một đầu vào thiết kế. Sự công khai, từ chối phần cứng, sự trừng phạt, và sự phơi nhiễm lẫn nhau của các chương trình vượt ngục là để thay đổi kết quả. Làm theo tiêu chuẩn không phải là hoàn hảo, mà là tăng giá gian lận.

Cái thang lần nữa

Các bậc thang là di chúc, luật pháp, chip, một hiệp ước, thanh tra và lệnh cấm vĩnh viễn. Leo lên có nghĩa là lắp đặt bậc thang và từ chối giả vờ là một bức tường sơn là một cái thang. Các tài liệu, điểm nghẹt công nghiệp và tiền lệ pháp lý đã có. Lực sẽ thuộc về nấc tiếp theo mà bạn có thể đạt được. Đường kẻ sáng lập đơn giản hơn: đừng xây dựng siêu trí tuệ. Siêu trí tuệ không thể kiểm soát được.