Tháng 5 năm 1958, Paul-Henri Spaak, Bộ trưởng Ngoại giao Bỉ, gửi một bản ghi nhớ làm việc bốn trang cho các chính phủ khác. Nó kêu gọi một thỏa thuận giữ Nam Cực không có hoạt động quân sự và mở cửa cho thanh tra quốc tế. Hầu như không ai ở Washington hay Moscow hào hứng. Lục địa này không có dân cư thường trú, không có tài nguyên khoáng sản đã biết đáng để tranh giành, và không có giá trị chiến lược rõ ràng. Bản ghi nhớ nằm trên bàn trong một năm. Đến tháng 12 năm 1959, mười hai chính phủ đã ký kết.

Mười hai quốc gia đó đã phi quân sự hóa Nam Cực, đóng băng các yêu sách lãnh thổ, đảm bảo cho nhau quyền kiểm tra bất kỳ đâu, và dành toàn bộ lục địa cho khoa học hòa bình. Hiệp ước đã tồn tại hơn sáu mươi năm. Đây là một mô hình chưa được tận dụng cho AI.

Việc chấp nhận Hiệp ước Nam Cực là lý do mà nó quan trọng đối với chính quyền siêu trí tuệ. Các cường quốc thù địch, với những tuyên bố chồng chéo nhau đã thúc đẩy nhiều năm thuyết phục, đồng ý không ép buộc bất cứ ai trong số họ. Họ tách rời toàn bộ lục địa giữa Chiến tranh Lạnh, và họ viết vào hiệp ước một chế độ xác nhận đủ mở để thỏa mãn các đảng phái không tin tưởng lẫn nhau. Bản hiệp ước này viết tắt cho một thành tựu chính trị lớn như thế.

Hiệp ước thực sự thiết lập điều gì

  • Giải trừ quân bị. Nam Cực chỉ được sử dụng cho mục đích hòa bình. Các căn cứ quân sự, thử nghiệm vũ khí và diễn tập bị cấm. Hiệp ước này là thỏa thuận kiểm soát vũ trang đầu tiên của Chiến tranh Lạnh, được ký trước Hiệp ước Cấm Thử Nghiệm Hạt nhân Một phần năm 1963.
  • Đóng băng các yêu sách lãnh thổ. Bảy quốc gia đã đưa ra tuyên bố chủ quyền, một số trong đó chồng chéo (Anh, Argentina và Chile đều tuyên bố chủ quyền với cùng một bán đảo). Hiệp ước đóng băng tất cả. Không tuyên bố nào bị từ bỏ và không cái nào có thể mở rộng. Tranh chấp được tạm gác, không phải giải quyết.
  • Tự do kiểm tra. Bất kỳ bên nào cũng có thể thanh tra bất kỳ trạm, cơ sở hoặc thiết bị nào của bên kia, vào bất kỳ lúc nào, với các quan sát viên được trao quyền tiếp cận hoàn toàn tự do. Đây là một trong những chế độ xác minh cởi mở nhất từng được soạn thảo.
  • Khoa học như mục đích chung. Lục địa này được dành riêng cho nghiên cứu khoa học, với nghĩa vụ chia sẻ kết quả và nhân sự một cách tự do. Các quốc gia ký kết ban đầu năm 1959 chỉ bao gồm những nước có chương trình khoa học đáng kể ở Nam Cực, và cơ chế tham vấn của hiệp ước vẫn trao quyền ra quyết định cho hoạt động nghiên cứu.

Ý tưởng có thể chuyển giao: đóng băng, sau đó xác minh

Đổi mới trung tâm của hiệp ước là tách biệt sự cạnh tranh cơ bản khỏi hành vi tức thời. Không ai phải nhượng bộ ai "sở hữu" Nam Cực. Họ chỉ phải đồng ý rằng câu hỏi đó sẽ không bị thúc ép, và mọi người có thể kiểm tra. Tư thế đó liên quan trực tiếp đến AI biên giới, nơi nỗi sợ nhường lợi thế quyết định thúc đẩy cuộc đua. Một hiệp ước đòi hỏi thỏa thuận cuối cùng về ai có thể xây dựng các hệ thống mạnh mẽ nhất sẽ không thể ký kết. Một hiệp ước đóng băng các hình thức phát triển nguy hiểm nhất, với lệnh cấm vượt qua các ngưỡng năng lực được chỉ định, và đảm bảo kiểm tra lẫn nhau yêu cầu điều gì đó hẹp hơn và khả thi hơn. Không phải đầu hàng. Một sự dừng chung dưới sự xác minh.

Chế độ thanh tra là phần đáng sao chép nhất. Chế độ của Nam Cực hoạt động vì nó mang tính đối ứng và vô điều kiện, và vì quyền thanh tra là quyền đứng yên được ghi vào hiệp ước, không phải ân huệ được cấp từng trường hợp. Sự đối xứng đó là điều khiến nó trở nên chấp nhận được với các bên không tin tưởng lẫn nhau. Mỗi bên từ bỏ bí mật để đổi lấy quyền tương tự đối với các bên khác. Bất kỳ chế độ kiểm chứng AI nào hy vọng tồn tại giữa các đối thủ đều cần cùng chất lượng đối ứng, được xây dựng sẵn đó.

rủi ro thấp

Nam Cực rất dễ bỏ đi bởi vì mức độ nguy hiểm thấp. Không ai sống ở đó. Không ai tạo ra thứ gì đáng để đua cả. Hiệp ước dựa vào phần thưởng bị cách ly. Loại bỏ những mối nguy hiểm thấp và hạn chế phải đến từ một điều khác: xác thực, chi phí để vượt ngục, và giải thưởng không còn ở ngoài lề nữa.

Cơ chế này không phụ thuộc vào rủi ro thấp. Nó phụ thuộc vào sự sợ hãi lẫn nhau đối với sự thay thế. Các quyền lực đóng băng Nam Cực bởi vì sự xáo trộn quá mức có vẻ tệ hơn đối với mọi người hơn là một sự dừng lại chung. Cái giá của việc để 7 chính phủ đặt lá cờ, thực hiện các cuộc thử nghiệm vũ khí, và đối mặt với nhau trên một lục địa lạnh giá cao hơn chi phí đồng ý với những điều đó. Sự tính toán đó, rằng một cuộc thi không một đảng nào có thể thắng một cách an toàn còn tệ hơn một điểm dừng đã kiểm tra, là cùng một tính toán về khuôn mặt quản trị siêu trí tuệ. Hiệp ước Nam Cực không chứng minh rằng giới hạn thấp là tổng quát. Nó chứng tỏ rằng một loại sợ hãi nào đó có thể được biến đổi thành một thỏa thuận vững chắc, và có thể làm cho thỏa thuận này gắn liền với việc kiểm tra sâu sắc.

Cách hiệp ước trở nên mạnh mẽ hơn theo thời gian

Nam Cực cũng cho thấy một hiệp ước có thể được củng cố khi hoàn cảnh thay đổi. Tháng 10 năm 1991, sau hai năm đàm phán, các bên đã thông qua Nghị định thư Madrid. Nghị định thư cấm khai thác tài nguyên khoáng sản và chỉ định lục địa là “khu bảo tồn thiên nhiên dành cho hòa bình và khoa học”. Lệnh cấm khoáng sản chỉ có thể được xem xét lại sau năm mươi năm. Một khuôn khổ được đồng ý ở một thời đại đã được củng cố thành lệnh cấm mạnh mẽ hơn ở thời đại tiếp theo. Quản trị siêu trí tuệ có lẽ sẽ đi theo quỹ đạo tương tự, với một thỏa thuận ban đầu đóng băng hoạt động nguy hiểm nhất sau đó được thắt chặt khi sự hiểu biết và tin cậy tích lũy.

Sáu mươi bảy năm sau khi ký, Hiệp ước Nam Cực có 56 bên tham gia. Không bên nào trong số 12 bên ban đầu rút lui. Không bên nào thử nghiệm vũ khí trên lục địa. Không bên nào mở rộng yêu sách của mình. Chế độ xác minh đã được sử dụng hàng chục lần, hầu hết không có sự cố, và những tranh chấp ít ỏi (về thông báo trạm, quy tắc môi trường, du lịch) đã được giải quyết trong cơ chế tham vấn thay vì bằng vũ lực. Một người hoài nghi tin rằng các thỏa thuận quốc tế về công nghệ nguy hiểm không thể duy trì đang nhìn thẳng vào một ví dụ phản biện đang hoạt động.

Những gì được chuyển giao, và những gì không

AI biên giới không phải là Nam Cực. Giải thưởng là tức thì, khổng lồ, và được phát triển bởi các tác nhân tư nhân dưới áp lực cạnh tranh, chứ không chỉ là các quốc gia cắm cờ. Chi phí của sự kiềm chế cao hơn nhiều, và cám dỗ phản bội cũng lớn hơn nhiều. Cũng không có tương đồng rõ ràng với các trạm khoa học Nam Cực nơi thanh tra viên có thể kiểm tra công việc mà không làm gián đoạn. Sao chép mô hình Nam Cực lên AI sẽ không hoạt động.

Cái gì mang qua là hình thức ngoại giao. Một hiệp ước AI giữa các đối thủ có thể có hình dạng đóng băng, không phải một sự dàn xếp. Nó có thể được đối chiếu với các hoạt động đặc biệt nguy hiểm cả hai bên có lý do để sợ hãi, để lại lớn hơn các câu hỏi (toàn bộ lệnh cấm so với lệnh cấm; chi tiết của các ngưỡng khả năng; điều trị thả trọng lượng mở cho các giao thức sau này. Nó có thể viết kiểm tra như một sự đáp lại quyền thay vì sự cho phép, để chế độ xác thực bền vững dưới sự thay đổi chính trị. Và nó có thể được thiết kế để cứng lại theo thời gian, như nó đã có với giao thức Madrid, hơn là đến như một thỏa thuận tĩnh. Hiệp ước Nam Cực cho thấy rằng công nghệ có thể được giữ trong sự tương tác giữa các đối thủ. Các hiệp ước có thể được sao chép; sự sợ hãi chính trị làm cho Nam Cực vượt giới hạn phải được giành cho siêu trí tuệ.