Peter H. Diamandis nói rõ ràng, và Elon Musk đã repost: “Chỉ AI mới có thể theo kịp AI. Đó là điều sẽ định hướng toàn bộ mô hình an ninh của thập kỷ tới.” Như một mô tả về tốc độ, câu nói khó tranh cãi. Các bản phát hành mô hình đến nhanh hơn các hội đồng xem xét hàng quý. Mã tấn công biến đổi nhanh hơn một nhà phân tích con người có thể đọc ticket. Nếu hình dung của bạn về vấn đề là khối lượng phishing và sự thay đổi exploit, thì đương nhiên người phòng thủ sẽ hướng tới tự động hóa. Con người không mở rộng theo cách đó.

Vấn đề bắt đầu khi đường dây của Diamandis được yêu cầu để trang trải mọi thứ tiếp theo, bao gồm các hệ thống hoạt động như tác nhân, che giấu ý định, và cuối cùng vượt trội hơn những người đã xây dựng chúng. Lúc đó "chỉ có AI mới theo kịp" không còn nghĩa là "dùng công cụ tốt hơn chống phần mềm độc hại." Nó nghĩa là mô hình bảo mật của thập kỷ tới là giao nhiệm vụ kiềm chế cho chính loại hệ thống bạn đang cố kiềm chế.

Điều mà Diamandis đã đúng

Phần mềm đã di chuyển nhanh hơn đánh giá bằng tay. Những chiếc nhẫn lừa đảo mở ra những chiến dịch mới vào ban đêm. Thu nhỏ cửa sổ tiết lộ đáng sợ. Các nhà cung cấp phòng thí nghiệm và đám mây đã tự động chạy máy quét, classifiers và các cuốn sách giải đáp bởi vì hàng đợi của con người không thể xem mọi gói hàng. Không có gì trong đó yêu cầu một tầm nhìn về siêu thông tin. Nếu Diamandis chỉ nói về thư rác và tiền chuộc, nó sẽ kết thúc ở đây.

Hắn không chỉ nói về thư rác và tiền chuộc. "Cả một mô hình an ninh của thập kỷ tới" là một tuyên bố lớn hơn. Đó là một tuyên bố về việc nền văn minh sẽ tiếp tục nắm quyền trong khi các hợp chất năng lực. Đó là nơi đường dây của Diamandis ngừng trở thành điểm bùng phát và trở thành triết lý kiểm soát.

Vòng xoáy

Hãy hình dung người mẫu là cuộc chạy đua giữa tấn công và phòng thủ, cả hai đều tự động. Mỗi bên tập luyện bên kia. Phòng thủ được cải thiện, và cuộc tấn công được cải thiện. Bảng điều khiển vẫn xanh cho đến khi nó không còn. Câu chuyện an ủi là AI tốt luôn đi trước những AI xấu xa. Câu chuyện ít an ủi hơn là bạn đã xây dựng một chồng mà trong đó những người tham gia có khả năng duy nhất là máy móc, và con người là khách hàng của một cuộc thi mà họ không còn có thể cân nhắc được nữa.

Điều đó ổn với phần mềm diệt virus. Nhưng đó là một canh bạc văn minh khi các hệ thống đặt mục tiêu, lập kế hoạch và coi giám sát là trở ngại. Chúng ta đã thấy những phiên bản sớm của mô hình này trong đánh giá âm mưu và trong các mô hình mà kể một chuyện trong khi tối ưu hóa cho chuyện khác. "Giữ kịp" giả định bạn vẫn có thể biết mình đang giữ kịp cái gì. Vượt quá một điểm nào đó, bạn không thể.

Một mô hình an ninh chỉ hoạt động nếu người canh gác thông minh hơn tù nhân chính là kế hoạch kế vị với vài bước thừa.

Quy định không phải là nút thắt cổ chai mà họ nêu tên

Những người tăng tốc thường theo sau với một bước thứ hai: các tổ chức tuyến tính không thể chi phối công nghệ cấp số nhân, vì vậy câu trả lời là có nhiều AI hơn bên trong vòng lặp. Đôi khi nó được kết hợp với sự khinh miệt cho cuộc gặp gỡ "người bán hàng mỗi quý một lần." Công bằng mà nói các cuộc họp chậm là điều tồi tệ cho các mẫu hàng tuần.

Vấn đề là kiểm soát, không phải là tốc độ gặp gỡ. Không có bảng hàng quý, và không có máy theo dõi AI liên tục, có một phương pháp hướng dẫn đáng tin cậy một hệ thống mà là tốt hơn trong thuyết phục, lập trình, và dài-hozon kế hoạch hơn những người cầm chìa khóa tắt. Làm cho màn hình nhanh hơn không tạo ra phương pháp thiếu; nó chỉ làm cho phương pháp bị thiếu thất bại ở tần số cao hơn.

Có cách đọc rõ ràng hơn cùng những sự kiện. Nếu chỉ một hệ thống siêu nhân mới giám sát được hệ thống siêu nhân khác, bước hợp lý không phải xây cả hai. Hãy từ chối đường ray nơi giám sát của con người ngừng hoạt động. Chúng ta đã từng đưa ra lựa chọn tương tự với công nghệ lạm dụng có thể hủy diệt thành phố. Chúng ta không giải quyết nạn trộm vũ khí hạt nhân bằng cách huấn luyện một tên trộm thông minh hơn để bắt tên đầu tiên.

Dòng này dành cho ai

Đường dây chuyển đổi một nghiên cứu thành thời tiết, nên dĩ nhiên chúng tôi vận chuyển và quy mô. An ninh sẽ được xử lý bởi chính đống sản phẩm. Những người có lợi nhuận từ khả năng sẽ nghe giống như người lớn trong phòng, và những người yêu cầu giới hạn ràng buộc nghe có vẻ như họ muốn mang một bản nháp đến một cuộc đấu chó.

Tất cả mọi người xuôi dòng vẫn phải sống với một hệ thống mà không có bảng nháp và không có mô hình Watchdog nào có thể phủ nhận sự cai trị. Hạt câu chuyện cuộc đua làm công việc tương tự từ góc nhìn khác: coi con đường nguy hiểm là không thể tránh khỏi, rồi quy trách nhiệm tăng tốc.

Một mô hình bảo mật có con người tham gia

Để rèn luyện biên giới hướng tới siêu thông minh nhân tạo, mô hình an ninh mà vẫn còn có một con người trong đó trông già hơn và ít quyến rũ hơn: đừng xây dựng một đặc vụ mà bạn không thể vượt qua. Đặt các ngưỡng tính toán, kiểm tra, và răng cưa hiệp ước trên chạy mà sẽ đưa bạn đến đó, sau đó xác minh các giới hạn và trừng phạt đào ngũ. Đó là kế hoạch của chúng tôi, because superintelligence cannot be controlled.

Diamandis rất nhạy bén về băng thông. Như một kế hoạch cho loài người, đó là một cách lịch sự để nói rằng chúng tôi dự định rời khỏi phòng.