Họ tiếp tục làm ra những con gà gô

"Nếu chúng ta ngừng xây dựng trí thông minh siêu nhiên, người khác sẽ làm." Đó là người nói chuyện trong một trăm phòng. Nghe như lý thuyết địa lý và trò chơi. Thường thì đó là cách để tiếp tục xây cất trong khi gọi cho công trình xây cất không thể tránh khỏi. Thử hình dạng tương tự với một công nghệ chúng tôi đã xử lý. "Nếu chúng ta ngừng làm tủ lạnh CFC, người khác sẽ tiếp tục làm tủ lạnh."

Đúng vậy, họ vẫn tiếp tục sản xuất tủ lạnh và chỉ ngừng dùng chất hóa học đang khoét thủng tầng ozone.

Hai danh từ khác nhau

Tủ lạnh là một dịch vụ: giữ thực phẩm lạnh, bảo quản vắc-xin, giảm hư hao. Chlorofluorocarbon từng là một cách để có được dịch vụ đó, và là thảm họa cho tầng ozone khi hóa học đã rõ ràng Nghị định thư Montreal không bị lạnh ngoài vòng pháp luật. Nó sắp xếp giai đoạn của các chất gây thiệt hại, tài trợ cho các nước nghèo hơn, và chống lại áp lực thương mại. Công nghệ đã nói rằng giai đoạn thời tiết là không thể; tiếp tục làm lạnh, và CFCs thì không.

Siêu thông minh biến hai danh từ thành một. "AI" trở thành một đốm nhỏ bao gồm mô hình ung thư, kế hoạch lộ trình, và một tác nhân giả định thông minh hơn loài người. Nếu bạn từ chối món đồ cuối cùng, các nhà gia tốc nói rằng bạn cũng đã từ chối món đầu tiên, và ai đó ít thận trọng hơn sẽ vận chuyển tất cả. Di chuyển là giả vờ chất độc giống với sản phẩm để loại bỏ chất độc nghe như một cuộc chiến với sản phẩm.

Chúng tôi đã không tiết kiệm được tầng ô-xít bằng cách sử dụng nhiều CFC hơn so với đối thủ của chúng tôi. Chúng tôi giữ tủ lạnh và cho thuốc giải nghệ.

"someone else will" dùng để làm gì

Một phòng thí nghiệm đối thủ, hay một bang đối địch, có thể cố gắng luyện tập qua bất cứ đường nào bạn vẽ. Khả năng đó đủ thật để lên kế hoạch. Nó cũng là khả năng kiểm soát vũ khí được phát minh để xử lý. Câu trả lời cho "ai đó có thể chế tạo vũ khí hạt nhân" không phải là "thì chúng ta phải chế tạo một đầu đạn hạt nhân lớn hơn." Đó là chứng minh, bóp cổ vật liệu xơ cứng và hậu quả của việc trốn thoát.

Năng lực tính toán phức tạp hơn uranium, và không ai nghiêm túc phủ nhận điều đó. Nó vẫn là thứ vật lý, đắt đỏ ở biên giới công nghệ, và đi qua danh sách ngắn các nhà sản xuất chip, xưởng đúc cùng khu vực đám mây. Đó là cấu trúc đủ để xây dựng kiểm tra, và đó là lý do quản trị compute xuất hiện trong mọi bản phác thảo hiệp ước nghiêm túc. "Someone else will" bỏ qua công việc đó và đi thẳng đến sự cho phép.

Nếu sự kiềm chế được xem như sự đầu hàng đơn phương, thì tư thế người lớn duy nhất là tốc độ tối đa. Nhà đầu tư nghe thấy định mệnh. Nhân viên an toàn nghe nói chậm lại là ngây thơ. Các nhà lãnh đạo phòng thí nghiệm không cần phải tranh luận về các cơ chế. Họ chỉ cần đưa ra lựa chọn thứ ba, chia sẻ sự kiềm chế, cảm thấy trẻ con.

Tủ lạnh chưa bao giờ là kẻ thù

Chúng tôi muốn AI hẹp chẩn đoán bệnh, thiết kế thuốc và phát hiện lỗi cầu đường. Hãy nói rõ điều đó để lời vu khống không bám được. Lằn ranh của quỹ là sự từ chối xây dựng các hệ thống vượt trội và thay thế sự kiểm soát của con người trong khi vấn đề kiểm soát chưa được giải quyết.

Điều đó gần với "sử dụng chất làm lạnh khác" hơn là "cấm kho lạnh." Những người xóa nhòa sự phân biệt đang mượn sự phổ biến của AI hữu ích để che đậy một năng lực không còn là công cụ.

Cuộc chiến ozone thực sự dạy chúng ta điều gì

Montreal đã làm việc vì khoa học có nhiều tiếng ồn, những sự thay thế, và những người ủng hộ phải đối mặt với chi phí kinh doanh. Siêu thông minh khó thay thế cho "sự thống trị thượng hạng", và dễ dàng hơn trong một khía cạnh mà các nhà lãnh đạo AI bỏ qua: Không có quyền lực lớn nào có một sự quan tâm nhất quán trong một hệ thống không nằm dưới quyền của bất cứ ai. Sự dễ bị tổn thương chia sẻ là nguyên liệu của một thỏa thuận. Nỗi sợ đối lập có thể gây quỹ một hiệp ước dễ dàng như nó tài trợ cho một cuộc chạy nước rút, Một khi cái rỗng đã được nhìn thấy.

Hỏi xem chúng có nghĩa là trí tuệ nhân tạo hữu ích không: chúng ta giữ các công cụ và ngăn chặn hệ thống mà không ai kiểm soát được. Đối với siêu thông tin tình báo, rủi ro đào ngũ là lý do để xây dựng cơ quan thực thi pháp luật, chứ không phải lý do để dự phòng. Mấy cái tủ lạnh cứ chạy mãi. Bầu trời đã lành bởi vì mọi người có thể nhận ra sự khác biệt.