Đầu những năm 1970, các nhà sinh học học cách ghép gen từ sinh vật này sang sinh vật khác. DNA tái tổ hợp mở ra y học và sinh học cùng lúc, và nó làm sợ hãi chính những người phát minh ra nó. Họ không thể loại trừ khả năng một sinh vật đã chỉnh sửa có thể thoát khỏi phòng thí nghiệm và gây hại mà không ai biết cách ngăn chặn. Vậy nên họ đã làm điều gần như chưa từng có. Họ dừng lại.

Năm 1974, các nhà nghiên cứu hàng đầu, trong đó có những người sau này đoạt giải Nobel, đã công khai kêu gọi tạm dừng tự nguyện các thí nghiệm DNA tái tổ hợp nguy hiểm nhất. Tháng 2 năm 1975, khoảng 140 nhà khoa học cùng luật sư và nhà báo họp tại trung tâm hội nghị Asilomar ở California để quyết định điều kiện cho phép công việc tiếp tục an toàn. Họ đưa ra khung biện pháp containment phù hợp với mức rủi ro, và nghiên cứu được tái khởi động dưới các biện pháp bảo vệ đã thống nhất. Với những người ủng hộ việc tạm dừng AI biên giới, đây là điểm tham chiếu: một lĩnh vực nhận ra nguy cơ của chính mình và chọn thận trọng thay vì tốc độ.

Những gì Asilomar thực sự làm đúng

Thành tựu này là có thật và đáng được nêu rõ ràng.

Các nhà khoa học đã hành động trước một thảm họa hơn là sau một thảm họa, đó là điều hiếm có nhất và có giá trị nhất trong lịch sử của sự an toàn kỹ thuật. Họ chấp nhận tự kiềm chế công việc của mình, bao gồm những nghiên cứu hứa hẹn danh tiếng và sự tiến bộ, bởi vì rủi ro là chắc chắn. Và họ lập ra những luật lệ thiết thực phù hợp với mức độ nguy hiểm, thay vì lờ đi mối nguy hiểm hoặc cấm đoán ngay lập tức. Nó là bằng chứng cho thấy một cộng đồng nghiên cứu có thể nhìn vào biên giới của chính nó, đánh giá nó quá nguy hiểm để vội vã, và giữ lại. Tiền lệ đó là sự từ chối trực tiếp từ chối tuyên bố rằng Ngăn chặn một công nghệ mạnh mẽ là ngây thơ hoặc không thể.

Tại sao nó là một mô hình khó hơn so với vẻ ngoài

Nói thẳng về tiền lệ nghĩa là phải chỉ rõ lý do AI là trường hợp khó khăn hơn, vì chính những khác biệt đó đã khiến Asilomar thành công.

  • Đó là một cộng đồng nhỏ, thống nhất. Chỉ vài chục phòng thí nghiệm, một nền văn hóa khoa học, những người quen biết nhau. AI biên giới là cuộc tranh đua toàn cầu giữa các tập đoàn và quốc gia trị giá hàng nghìn tỷ, không có bàn chung nào.
  • Các lợi ích thương mại khiêm tốn vào năm 1975. Ngành công nghệ sinh học lúc đó hầu như chưa tồn tại. AI xuất hiện cùng với những công ty lớn nhất thế giới và các bộ máy an ninh quốc gia đã cam kết, đó là động lực cuộc đua Asilomar chưa từng đối mặt.
  • Mục tiêu là khởi động lại. Asilomar được thiết kế để tìm ra các điều khoản an toàn để tiếp tục, chứ không phải để dừng vô thời hạn. Mô hình containment của nó giả định bạn có thể nhốt mối nguy trong một phòng lab vật lý. Một AI có năng lực không rõ ràng là có thể containment theo cách đó.

Cũng có một phần kết thúc đáng suy ngẫm. Đồng thuận Asilomar tồn tại một phần vì đó là một khoảnh khắc hẹp với các động lực liên kết, và ngay cả lúc đó nó cũng phụ thuộc vào thiện chí tự nguyện mà một lĩnh vực thương mại hóa, cạnh tranh hơn sẽ làm suy yếu. Điều từng hiệu quả với 140 nhà khoa học đồng nghiệp không dễ dàng mở rộng sang một ngành công nghiệp toàn cầu phân mảnh đang chịu áp lực khốc liệt để thắng.

Asilomar chứng minh rằng một lệnh tạm dừng là có thể. Nó cũng cho thấy các điều kiện cần thiết cho lệnh tạm dừng, và AI hiện tại có bao nhiêu trong số đó.

Tinh thần tự nguyện không đủ cho Al

Cả hai nửa của vấn đề Asilomar. Nó bác bỏ thuyết định mệnh không thể thực hiện được, rằng một công nghệ mạnh mẽ không thể chậm lại. Các nhà khoa học đã làm thế, cố tình và bầu trời không sụp đổ. Nhưng nó cũng cho thấy rằng cơ chế không chính thức, tự nguyện và liên kết hoạt động vào năm 1975 là không đủ cho AI, bởi vì AI thiếu cộng đồng nhỏ, mức cược thấp, và những rủi ro có thể chứa đựng đủ thiện chí. Kết luận đúng là Asilomar cần những gì mà Asilomar có thể đạt được, sự kiềm chế thật sự trước nguy hiểm, được đưa ra thông qua hệ thống kết nối, có thể kiểm chứng được, quốc tế mà một cuộc đua toàn cầu trị giá hàng nghìn tỷ đô la đòi hỏi, chứ không phải AlI cần Asilomar riêng.