Một nhà nghiên cứu Trung Quốc nói với đồng nghiệp mẹo để có ngân sách nghiên cứu lớn ở quê nhà: nói rằng Hoa Kỳ đã đi trước rất xa, và Trung Quốc sẽ không bao giờ bắt kịp nếu không có thêm tiền. Phiên bản Mỹ là hình ảnh phản chiếu. Nói rằng Trung Quốc đã đi trước, và chúng ta đang tụt lại sau. Tiền chảy về cả hai bên. Khoa học có tốt hơn nhờ đó hay không là câu hỏi riêng.

Họ tăng ngân sách an ninh quốc gia bằng cách cảnh báo rằng phía bên kia đã đi trước. Tiền sẽ trả để xây dựng một cỗ máy mà không ai, kể cả người chiến thắng, có thể kiểm soát.

Cuộc trao đổi đó, được báo cáo vào giữa năm 2626, thuộc về chương cũ nhất của cuốn sách an ninh quốc gia, được quét sạch cho một công nghệ mới. Trong Chiến Tranh Lạnh, đường ranh giới là " khoảng cách nhỏ". Bây giờ nó là một cái gì đó gần hơn với một "shoggoth lỗ hổng", tuyên bố rằng phía bên kia sắp xây dựng một bộ não máy không kiểm soát được, vì vậy chúng ta phải xây dựng một đầu tiên, và nhanh hơn, và ít phanh hơn. Ngân sách hợp lý cũng tương tự như những năm có tên lửa, ngoại trừ số tiền đó sẽ mua một trí óc mà không ai có thể kiểm soát được thay vì đếm tên lửa.

Làm sao một khoảng trống lại trở thành một tờ séc trắng

Khoảng cách tên lửa ban đầu là một công cụ chính trị. Vào cuối những năm 1950, các quan chức và ứng cử viên Mỹ cảnh báo rằng Liên Xô đang vượt qua Hoa Kỳ trong cuộc chạy đua tên lửa đạn đạo liên lục địa. Lời tuyên bố đã chuyển dòng tiền, ảnh hưởng bầu cử và cấu trúc lực lượng. Khi có tình báo chính xác hơn, khoảng cách ấy hầu như tan biến. Người Xô Viết có ít tên lửa hơn những gì các bài diễn văn đòi hỏi. Chi tiêu không đảo ngược gọn gàng như ước tính.

Đó là mô hình hữu ích bởi vì nó là nhàm chán: hai hệ thống cạnh tranh, mỗi với các phòng thí nghiệm và các công ty nhỏ mà phát triển khi các mối đe dọa phát triển, và mỗi với các nhà lãnh đạo những người muốn thừa một câu chuyện đáng sợ hơn là bị bắt thấp hơn một trong thực tế. Không ai phải âm mưu cả. Phương thức quan liêu an toàn lúc nào cũng như nhau: giả định điều tồi tệ nhất ở phía bên kia, yêu cầu nhiều hơn, và coi sự kiềm chế là ngây thơ.

Thay tên lửa bằng mô hình tiên phong và các động lực lại thẳng hàng. Một phòng thí nghiệm muốn chip, nhân tài và sự kiên nhẫn của cơ quan quản lý có mọi lý do để nói đối thủ chỉ cách sáu tháng trước một lợi thế quyết định. Một bộ muốn ngân sách AI lớn hơn có mọi lý do để tin điều đó. Một chính trị gia không muốn bị đổ lỗi vì "thua" có mọi lý do để tài trợ cả hai. Không ai trong vòng lặp ấy được trả tiền để hỏi liệu vạch đích có phải là giải thưởng ai cũng có thể giữ.

Khoảng cách là một câu chuyện ngân sách trước khi trở thành sự thật. Vấn đề lúc nào cũng là ai hưởng lợi khi bạn coi nó như thời tiết.

Những gì shoggoth gap ngấm ngầm mang theo

Phiên bản hiện đại sắc nét hơn Chiến Tranh Lạnh, vì đối tượng của cuộc đua thì khác. Tên lửa là vũ khí mà một bang sở hữu. Một siêu thông minh nhân tạo, nếu những người xây dựng nó trung thực về rủi ro, là một hệ thống không ai cho thấy họ có thể kiểm soát. Đến đó trước có nghĩa là đầu tiên phải trả lời cho một cái gì đó bạn không thể lái.

Cú ném cần anh đừng để ý. Nó cần vạch đích để có cảm giác như là chìa khóa, thứ mà một Tổng thống nắm giữ. Sau đó "hạ thấp" nghe giống như tình trạng khẩn cấp quốc gia, và "hạ thấp xuống cho đến khi chúng ta biết cách kiểm soát nó" nghe như đơn phương giải trừ quân bị, trước khi có bằng chứng.

Những gì thực sự là đúng cho phiên bản khẩn cấp. Đối thủ phải có khả năng tạo ra một siêu trí tuệ không kiểm soát được, và đủ háo hức để làm điều đó mà không có sự quan tâm chung nào có thể làm họ chậm lại. Nó hiếm khi được tranh cãi với sự chăm sóc xứng đáng. Thường thì người ta khẳng định điều này hơn, rồi dùng làm giấy phép cho lần huấn luyện tới.

Trung Quốc đã ký vào bản tuyên bố rủi ro quốc tế, công bố bản đề xuất quản trị của mình, và ngồi nói chuyện trực tiếp với Hoa Kỳ về chủ đề này. Không ai cho thấy họ sẽ xây dựng một cỗ máy không kiểm soát được cho dù chúng ta có làm gì đi nữa, nhưng tiền đến như thể họ sẽ làm.

Cả hai bên đều có thể đúng về thủ thuật và sai về cách chữa trị

Thủ thuật tài trợ hoạt động vì có sự cạnh tranh thực sự bên dưới nó. Các phòng thí nghiệm Mỹ và Trung Quốc theo dõi lẫn nhau. Các biện pháp kiểm soát xuất khẩu chip tiên tiến tồn tại vì cuộc cạnh tranh công nghiệp là có thật. Thechính trị của những kiểm soát đó và huyền thoại Trung Quốc rộng lớn hơn Điều đó biến sự cạnh tranh thành định mệnh là những câu hỏi sống động.

Trong một cuộc đua công nghệ bình thường, nhiều tiền hơn mua cho bạn một sản phẩm tốt hơn mà bạn vẫn còn sở hữu. Trong một cuộc đua đến siêu thông minh, nhiều tiền hơn mua cho bạn một phương pháp tiếp cận nhanh hơn với một hệ thống mà, trên sự rủi ro của chính những người xây dựng, có thể không ở lại sản phẩm. Cùng một sân đã lấp đầy các bệ phóng tên lửa hiện đang lấp đầy các trung tâm dữ liệu, và những người viết các ngân phiếu ít khi được yêu cầu ngồi với sự khác biệt.

Khi cả hai thủ đô cùng chơi một vở kịch ("họ đang dẫn trước, tài trợ chúng ta"), cả hai bên tăng tốc. Sự liều lĩnh của mỗi bên trở thành bằng chứng của bên kia. Đó là cách bạn có được cuộc đua chọn ra phòng thí nghiệm ít cẩn thận nhất, và cách một heuristic ngân sách trở thành con đường tuyệt chủng mà không ai cần phải muốn tuyệt chủng.

Nước đi không có trong bản tóm tắt

Cuối cùng, những kẻ thù của Chiến Tranh Lạnh nhận thấy rằng một số chủng tộc không thể kết thúc. Vẫn là kẻ thù, họ đã xây dựng sự xác minh xung quanh những vũ khí có thể kết liễu cả hai, bởi vì sự cạnh tranh không giới hạn đã làm cho mọi người tồi tệ hơn so với một quy tắc trói buộc họ như nhau. Họ muốn có giấy tờ vì họ nghi ngờ nhau.

Siêu thông minh có cấu trúc giống nhau, chỉ sạch sẽ hơn. Không có lợi ích lớn nào từ một hệ thống mà không ai có thể kiểm soát. Mối quan tâm chung đó là tại sao một hiệp ước có thể tồn tại: một sự ràng buộc, có thể kiểm soát được sự siêu thông minh, với thanh tra, hậu quả, và những giấy tờ làm cho vũ khí kiểm soát được. Một bài phát biểu sẽ không dừng một phòng thí nghiệm, và cũng không hứa sẽ làm chậm lại khi một đối thủ nhìn về phía trước.

Cú ném không có chỗ cho lựa chọn đó, bởi vì nó là một thiết bị gây quỹ. Công việc của nó là làm cho việc phân bổ ngân sách tiếp theo cảm thấy không thể tránh khỏi. "Chúng tôi đang rơi lại phía sau" là một lập luận mà nó chưa đạt được. Từ chối cho phép một trò lừa ngân sách Chiến tranh lạnh quyết định liệu loài này có giữ chìa khóa hay không.