Người thắng cuộc trong cuộc đua siêu trí tuệ nắm giữ điều gì? Trong những căn phòng đầy người xây dựng AI, câu chuyện trôi qua nó. Ai đó sẽ xây dựng nó dù sao, vậy thì tốt hơn là chúng ta. Rủi ro, mốc thời gian, cách kiểm soát một hệ thống thông minh hơn người tạo ra nó: tất cả đều bị gạt sang một bên như chuyện thời tiết. Chúng ta không thể dừng lại. Có một cuộc đua.
Hầu như không ai tranh cãi về cuộc đua. Được xem như một sự kiện của tự nhiên, mỗi sự lựa chọn liều lĩnh xuôi dòng bắt đầu có vẻ chịu trách nhiệm. Thời tiết là một mô hình sai lầm cho một số ít các công ty đang thực hiện mục đích.
Cuộc đua nhằm mục đích gì
Cuộc đua là một cuộc tranh tài có giải thưởng ở cuối đường, và chính giải thưởng là lý do để chạy. Cuộc đua không gian những năm 1960 mang về một lá cờ trên Mặt Trăng và uy tín đi kèm. Cuộc đua vũ trang hạt nhân mang về một vũ khí: quốc gia chế tạo bom sẽ giữ bom, nhắm bom và quyết định có bao giờ sử dụng hay không. Trong mọi trường hợp, người thắng cuộc kết thúc bằng việc nắm giữ một thứ gì đó, một năng lực họ sở hữu và điều khiển.
Bây giờ hãy hỏi người chiến thắng nắm giữ gì ở cuối cuộc đua đến siêu trí tuệ. Toàn bộ tiền đề của mối nguy là một hệ thống thông minh hơn chúng ta một cách có ý nghĩa sẽ không phải là công cụ trong tay bất kỳ ai. Một siêu trí tuệ nhân tạo là một tác nhân theo đuổi mục tiêu. Nếu những mục tiêu đó lệch khỏi mục tiêu của chúng ta dù chỉ một chút (vấn đề mà chúng ta chưa giải quyết được), nó theo đuổi chúng dù người tạo ra có đồng ý hay không. Phòng thí nghiệm "thắng" không sở hữu một siêu trí tuệ. Nó chỉ chia sẻ hành tinh với một thứ mà nó không thể điều khiển.
Một cuộc đua chỉ đáng thắng nếu vạch đích là phần thưởng. Ở đây vạch đích là một hệ thống chưa ai chứng minh được họ có thể kiểm soát. Đến trước không có nghĩa là nắm giữ quyền lực. Nó có nghĩa là người đầu tiên phải trả lời cho nó.
Một vạch đích mà không ai có thể lái là không phải phần thưởng. Đến đó trước là thua một bước trước mọi người khác.
Khoảng cách mà bạn vẫn hay nghe nhắc đến
Bỏ qua lý thuyết, câu chuyện chạy đua chỉ dựa vào một tuyên bố cụ thể: Trung Quốc sắp đạt được, Trung Quốc sẽ không dừng lại, nên chúng ta cũng không thể dừng. Tuyên bố này kết thúc mọi cuộc họp, và được khẳng định nhiều hơn là được xem xét.
Bắt đầu với phần thực tế. Có sự cạnh tranh thực sự giữa Mỹ và Trung Quốc, và có một cuộc thi công nghiệp trên chip và tính toán. Kiểm soát xuất khẩu Mỹ trên các chip AI tiên tiến nhất tồn tại chính xác vì cuộc thi đó là thật. Hạt chính trị của những kiểm soát đó và nơi mà sự hợp tác thực sự đã xảy ra quan trọng hơn câu chuyện về cuộc đua.
Những gì các nhà gia tốc đã lén đưa vào: "Trung Quốc sẽ xây dựng một siêu trí tuệ không kiểm soát được bất cứ điều gì chúng ta làm" không mô tả bất cứ điều gì Trung Quốc đã nói hay làm. Đó là một dự đoán, và một dự đoán thuận tiện, bởi vì nó cho phép diễn giả làm điều mà ông muốn làm. Trung Quốc đã ký bản Tuyên Ngôn về AI rủi ro vào năm 2023. Nó đã công bố đề xuất quản trị của chính nó. Chính phủ của nước này đã đàm phán trực tiếp với Hoa Kỳ. Một quốc gia đang chạy tới một hệ thống có thể giết chết sự lãnh đạo của chính mình là một điều lạ lùng để đơn giản giả định, mà không có bằng chứng rằng các nhà lãnh đạo của nó muốn kết quả đó hơn chúng ta. "They'll do it anyway" là câu chuyện về sự cho phép của chúng ta, không phải mục đích của họ.
Nếu một siêu trí tuệ lệch lạc là thảm họa cho bất kỳ ai xây dựng nó, thì Trung Quốc có đúng lý do như chúng ta để không xây dựng một hệ thống như vậy. Không có giải thưởng nào cho đối thủ cả.
Cuộc đua chọn lọc những kẻ ít cẩn thận nhất
Giả sử cuộc cạnh tranh gay gắt như những người chạy đua vẫn nói. Hãy theo logic đến cùng. Trong cuộc đua, ai di chuyển nhanh nhất thắng, và cách di chuyển nhanh nhất trên biên giới AI là dành ít thời gian hơn cho những thứ làm chậm: đánh giá, red-teaming, giám sát, công việc kiên nhẫn kiểm tra xem hệ thống có đang làm những gì bạn nghĩ hay không.
Cấu trúc của một cuộc đua chiến thắng cho bất cứ ai cắt phần lớn các góc an toàn. Người chiến thắng là phòng thí nghiệm ít thận trọng nhất, không phải là người có khả năng nhất. "Chúng ta phải thắng cuộc đua" và "chúng ta phải xây dựng nó một cách an toàn" kéo theo hướng ngược lại, và cuộc đua càng khó khăn hơn, họ kéo mạnh hơn. Thi đấu không rèn luyện mối nguy hiểm. Nó sản xuất ra nó. Một thế giới các phòng thí nghiệm chạy đua để trở thành đầu tiên là một thế giới tối ưu hóa, với năng lượng lớn và vốn khổng lồ, cho những thứ chính xác khiến mọi người bị giết.
Ngay trong logic của cuộc chạy đua, "chúng ta phải thắng" tự quay lại chống lại chính nó. Nếu thắng đòi hỏi cắt xén những góc cạnh giúp siêu trí tuệ có thể kiểm soát, thì thắng chính là cách bạn thua.
Ai hưởng lợi từ câu chuyện
Nếu khung đua tranh yếu đến vậy, tại sao nó lại xuất hiện khắp nơi? Vì nó hữu ích, chỉ là không hữu ích cho phần còn lại của chúng ta.
Đối với một phòng thí nghiệm biên giới, "có một cuộc đua và chúng ta phải thắng nó" gần hoàn hảo. Nó nói với các nhà đầu tư rằng chi tiêu là một chiếm đất cho một cái gì đó khổng lồ. Nó nói với các nhà điều hành rằng luật lệ chỉ đưa tương lai cho những diễn viên tệ hơn. Và phần yên tĩnh nhất: nó cho phép các kỹ sư an toàn của phòng thí nghiệm tin rằng đua là sự lựa chọn có trách nhiệm, bởi vì phương pháp thay thế là để cho sự liều lĩnh thắng. Nó biến đổi một quyết định (để tiếp tục xây dựng một cái gì đó bạn chưa thể kiểm soát) thành một điều cần thiết không cho phép ai thoát khỏi móc câu, ít nhất là tất cả những người tạo ra nó.
Gọi đúng tên trò đánh tráo khái niệm. Một cuộc chạy đua nghe như điều kiện áp đặt từ bên ngoài lên các phòng lab. Thực ra đó là lựa chọn của một số ít công ty và các chính phủ có thể kiềm chế họ, để tiếp tục tiến lên. Elon Musk đã gọi AI là quỷ dữ và sau đó xây một phòng lab để triệu hồi nó nhanh hơn, điều này cho bạn thấy "cuộc đua" là một chiến lược mà ai đó đã chọn, chứ không phải quy luật vật lý mà ai cũng phải tuân theo. Chiến lược có thể bị bỏ khi chúng không còn hợp lý. Chiến lược này đã ngừng hợp lý từ khi phần thưởng hóa ra là một hệ thống mà không ai có thể kiểm soát.
Lựa chọn không bao giờ được đưa ra bàn
Khung đua lặng lẽ xóa bỏ một cánh cửa trong tầm nhìn. Nó trình bày hai: chủng tộc, hoặc đơn phương lùi lại và để cho những kẻ liều lĩnh thừa hưởng tương lai. Nói cách khác, chỉ có kẻ ngốc mới chọn cánh cửa thứ hai, và cuộc tranh luận thắng cuộc bằng cách bỏ đi thứ ba.
Cánh cửa thứ ba là cánh cửa mà những đối thủ thực sự đã dùng trước đây. Hoa Kỳ và Liên Xô là đối thủ theo mọi nghĩa, nhắm vũ khí hủy diệt thế giới vào thành phố của nhau. Họ vẫn ký và xác minh các thỏa thuận kiểm soát vũ khí, vì cả hai bên đều thấy một cuộc chạy đua không giới hạn để lại họ ở tình trạng tồi tệ hơn một quy tắc ràng buộc họ như nhau. Sự bất tín là lý do cho thỏa thuận, không phải trở ngại.
Siêu thông minh có tính chất hợp lý như thế: không có lợi ích lớn nào từ một hệ thống mà không ai có thể kiểm soát được, vì vậy không có quyền lực nào thực sự quan tâm đến việc là người xây dựng nó trước. Mối quan tâm chung đó là mặt đất, một hiệp ước, một sự ràng buộc, có thể kiểm soát được sự phát triển siêu thông minh. Siêu thông minh không thể kiểm soát. Sự từ chối vĩnh viễn siêu trí tuệ như một danh mục sản phẩm. Chúng ta đã phác thảo những gì công cụ đó có thể trông như thế nào, từ mộthiệp ước mẫu đến kế hoạch rộng hơn Nó thuộc về nơi này. Xác định là rất khó. Nó cũng rất khó cho vũ khí hạt nhân, và dù sao nó cũng được xây dựng, bởi vì sự thay thế là không chấp nhận được đối với tất cả mọi người trên bàn.
"Chạy đua hay đầu hàng" là một sự lựa chọn sai lầm. Cách lập luận này dựa trên việc bạn không nhận ra cánh cửa mà nó đã bỏ qua.
Từ chối cuộc đua
Một vài phòng thí nghiệm đang chọn xây dựng một công nghệ mà họ công khai thừa nhận rằng họ không biết cách kiểm soát, và họ biện minh cho nó bằng cách chỉ vào một đối thủ, được cho là, đã đưa ra một lựa chọn liều lĩnh tương tự vì cùng một lý do xấu. Sự liều lĩnh của mỗi bên được đưa ra để bào chữa cho người kia.
Tất cả điều này không đòi hỏi phải tin rằng cạnh tranh là ảo tưởng hay địa chính trị dịu dàng. Nó chỉ cần nhận ra rằng một cuộc đua không có giải thưởng ở cuối đường thì không đáng để đánh đổi cả loài người, và những người bảo bạn rằng nó là tất yếu hầu như lúc nào cũng là những người được hưởng lợi từ nó. Cuộc đua ấy chỉ là một câu chuyện. Một câu chuyện hay, và thuận tiện cho cả một ngành công nghiệp. Một câu chuyện chính xác là thứ bạn được phép ngừng tin.