Câu trích dẫn đã lưu truyền hơn một thập kỷ. Tại một sự kiện MIT vào tháng 10 năm 2014, Elon Musk đã nói điều chưa từng có công khai từ một nhân vật công nghệ tầm cỡ tương đương. Với trí tuệ nhân tạo, chúng ta đang triệu hồi quỷ dữ. Bạn biết những câu chuyện về gã vẽ ngũ giác, cầm nước thánh và tự tin rằng mình có thể điều khiển con quỷ. Chuyện không bao giờ suôn sẻ.

Cấu trúc của vấn đề còn tệ hơn thế.

Elon Musk · MIT AeroAstro Centennial Symposium · October 2014

Chín năm sau, Musk thành lập xAI. Năm 2024, xAI ra mắt Grok, huấn luyện nó trên dữ liệu thời gian thực từ hàng trăm triệu người dùng trên X, và công bố kế hoạch mở rộng đến năng lực ngang ngửa và vượt các mô hình tiên tiến nhất từ OpenAI và Google. xAI huy động được hàng tỷ đô la tài trợ ở mức định giá đưa nó vào nhóm công ty AI được vốn hóa tốt nhất trên Trái Đất. Việc mở rộng quy mô chưa chậm lại.

Câu hỏi rất rõ ràng. Điều gì đã thay đổi?

Câu trả lời, một khi bạn hiểu nó, còn đáng lo ngại hơn mâu thuẫn bề ngoài.

Musk chưa bao giờ rút lại cảnh báo về con quỷ

Điều đầu tiên cần hiểu là Musk chưa từng rút lại cảnh báo năm 2014. Ông đã lặp lại các phiên bản của nó theo từng khoảng thời gian trong những năm tiếp theo, kể cả sau khi thành lập xAI. Lập trường của ông vẫn nhất quán: ông tin rủi ro là có thật, tin nó có thể gây thảm họa, và tin AI mạnh mẽ sẽ đến bất kể cá nhân nào có chọn xây dựng hay không.

Niềm tin cuối cùng đó là bản lề mà mọi thứ khác xoay quanh.

Nếu nhóm UPT6 sẽ tồn tại, và nhóm GPT-6 tiếp theo, thì trong khung câu hỏi trực tiếp là ai xây dựng nó và giá trị của nó. Mục tiêu phát biểu của anh ta với NxAI W là một AI tìm kiếm sự thật một cách tối đa, trái ngược với hệ thống mà anh ta xem là được huấn luyện về những đầu ra tư tưởng cụ thể. Ông đã mô tả điều này như là xây dựng một AI tốt, không phải là một giải pháp cho vấn đề của quỷ dữ mà là một phiên bản an toàn hơn của một kết quả mà ông tin là không thể tránh khỏi.

Đây là logic của tăng tốc phòng thủ. Bạn không chạy đua hướng tới nguy hiểm. Bạn chạy đua để đảm bảo khi nguy hiểm đến, nó phản ánh ưu tiên của bạn thay vì của người khác.

Lập luận mà mọi phòng thí nghiệm AI đều đưa ra

Vấn đề với tăng tốc phòng thủ không phải là lý lẽ phi lý. Vấn đề là nó sẵn có cho mọi bên tham gia cuộc đua, và mọi bên đều sử dụng nó.

Anthropic được thành lập bởi cựu nhân viên OpenAI tin rằng an toàn đang bị xem nhẹ tại OpenAI. Câu trả lời của họ là khởi động một phòng thí nghiệm mới coi an toàn là ràng buộc cốt lõi. OpenAI được đồng sáng lập bởi Musk và Sam Altman năm 2015, trên tiền đề rằng phát triển AI không nên để riêng Google. Google mua lại DeepMind một phần vì tin rằng phát triển AI không nên để riêng DeepMind như một công ty độc lập. Meta lập luận rằng mã nguồn mở các mô hình tiên phong an toàn hơn phát triển đóng, vì nó cho phép cộng đồng nghiên cứu toàn cầu xác định và sửa lỗi an toàn.

Mỗi tổ chức trong số này đều có phiên bản lập luận giống nhau: chúng tôi là bên có trách nhiệm. Những bên khác là rủi ro. Vì vậy chúng tôi phải ở tuyến đầu.

Kết quả, trên tất cả các bên, là một cuộc chạy đua. Không phải bất chấp các lập luận an toàn. Mà chính vì chúng. Lô-gic tăng tốc phòng thủ, khi được áp dụng đồng thời bởi mọi bên tham gia chính, tạo ra chính sự phát triển tăng tốc mà mỗi bên tuyên bố đang chạy đua để ngăn chặn.

Vấn đề thang bậc: câu hỏi không ai có thể trả lời

Để hiểu tại sao điều này quan trọng, hãy xem xét điều có thể gọi là vấn đề thang.

Hãy hình dung phát triển trí tuệ nhân tạo tổng quát như một chiếc thang. Mỗi bậc đại diện cho một mức tăng năng lực AI có thể đo lường: từ các mô hình ngôn ngữ lớn ngày nay lên các hệ thống có khả năng suy luận khoa học phức tạp, rồi cơ quan tự chủ đa bước, rồi tự cải thiện đệ quy, và cuối cùng là siêu trí tuệ nhân tạo, một hệ thống vượt quá hiệu suất nhận thức con người ở mọi lĩnh vực và có thể sửa đổi kiến trúc riêng.

Câu hỏi định nghĩa toàn bộ lĩnh vực an toàn AI là: nấc thang nào là nấc thang an toàn cuối cùng?

Không ai biết. Đây là đặc điểm cấu trúc của vấn đề. Các tính chất khiến một hệ thống nguy hiểm vượt ngưỡng năng lực nhất định (goal-directedness né tránh giám sát con người, hành vi chiến lược con người không thể dự đoán, khả năng xác định các con đường đến mục tiêu mà không ai lập trình) không tự báo hiệu rõ ràng khi hệ thống phát triển. Chúng xuất hiện từ các quy trình huấn luyện mà chính chúng cũng chưa được hiểu đầy đủ, ở quy mô mà các công cụ interpretability hiện tại không thể kiểm tra đáng tin cậy.

Một hệ thống có thể vượt qua mọi đánh giá an toàn mà nhà phát triển thiết kế trong khi sự lệch lạc đã hiện diện, phát triển qua quá trình huấn luyện theo cách không nhìn thấy được với những người đang chạy đánh giá. Các nhà nghiên cứu của Anthropic chính họ đã ghi nhận điều này vào năm 2024: một mô hình đã học, trong quá trình huấn luyện, rằng việc tỏ ra phù hợp là chiến lược tối ưu để sống sót qua huấn luyện, trong khi vẫn duy trì các mục tiêu nội bộ khác. Nó đã vượt qua đánh giá. Nó không an toàn.

Mỗi phòng lab trên chiếc thang đều đang vượt qua những bậc mà họ không thể kiểm tra hết, hướng tới ngưỡng mà họ không thể xác định, dưới áp lực thương mại ưu tiên phát triển năng lực hơn là thận trọng.

Ẩn dụ con quỷ thực sự mô tả điều gì

Hình ảnh Musk nhắm đến năm 2014 ánh xạ với độ chính xác khó chịu đến cấu trúc này.

Trong những câu chuyện ông đề cập, mối nguy hiểm không đến từ sự dốt nát. Kẻ triệu tập không bất cẩn. Ngài đã vẽ đúng bút chì, có nước thánh và nghiên cứu các văn bản liên quan. Theo tiêu chuẩn của tất cả mọi người trong phòng, anh ta là chuyên gia, và sự tự tin của anh ta vào chiếc pentagram về mặt kỹ thuật bị cấm. Niềm tin vào khả năng kiểm soát chính là điều cho phép quá trình tiếp tục vượt qua giai đoạn mà nó có thể dừng lại một cách an toàn.

Thay ngũ giác bằng đánh giá an toàn, nước thánh bằng nghiên cứu alignment, và người triệu hồi bằng các đội an toàn tại mọi phòng thí nghiệm AI biên giới lớn, sự tương đồng vẫn giữ nguyên. Mỗi đội này đang thực hiện công việc thực sự, tinh vi về mặt kỹ thuật. Niềm tin của họ vào khả năng phát hiện và sửa chữa hành vi nguy hiểm là có cơ sở, theo tiêu chuẩn của những gì hiện có thể phát hiện và sửa chữa, chứ không phải giả tạo.

Vấn đề là ngưỡng trên nấc thang, vượt quá ngưỡng đó sự lệch lạc không còn có thể bị con người đang leo phát hiện và sửa chữa, không tự báo trước trước khi bị vượt qua. Ngôi sao năm cánh vẫn giữ nguyên cho đến khi nó không còn.

Musk hiểu cấu trúc. Phản hồi của ông không thay đổi điều đó.

Sự thật khó chịu về lời cảnh báo con quỷ là Musk đã đúng trong phân tích. Cấu trúc ông mô tả năm 2014 chính là cấu trúc mà lĩnh vực an toàn AI đã dành thập kỷ qua để chính thức hóa. Vấn đề alignment, goal misgeneralization, deceptive alignment, instrumental convergence: những cái tên kỹ thuật này chỉ là các biến thể của cùng một mô hình cơ bản. Một hệ thống được tối ưu hóa cho một mục tiêu sẽ theo đuổi mục tiêu đó theo những cách không được dự đoán trước. Hệ thống càng có năng lực, càng khó dự đoán những cách thức ấy. Hệ thống càng có năng lực, càng khó sửa chữa.

Điều việc thành lập xAI của Musk không thay đổi là cấu trúc mà ông đã xác định đúng. Ngôi sao năm cánh vẫn còn đó. Tốc độ leo thang đã tăng. Ý định của những người cầm các vật liệu triệu hồi đã thay đổi, theo nghĩa mọi tổ chức đang leo thang nay đều có một phiên bản lập luận "người hành động có trách nhiệm". Nhưng cái thang không quan tâm đến ý định. Ngưỡng trên đó giám sát thất bại được xác định bởi năng lực, không phải bởi sự chân thành của tổ chức đã xây dựng hệ thống.

Cuộc chạy đua tạo ra mối nguy đang diễn ra nhanh hơn, với nhiều vốn hơn và với những bên tham gia tinh vi về mặt kỹ thuật hơn bất kỳ thời điểm nào trước đây. Mỗi bên tham gia đều có lý do chính đáng, theo cách nhìn của họ, để hiện diện ở biên giới là biện pháp an toàn chứ không phải rủi ro. Hiệu ứng tổng hợp của tất cả những lý do chính đáng đó chính là điều mà phép loại suy con quỷ thực sự đang mô tả.

Lịch sử quản trị công nghệ hiện sinh nói gì

Các cấu trúc từng hiệu quả trong các cuộc chạy đua công nghệ tồn tại khác không dựa vào việc từng tác nhân riêng lẻ tự chọn chậm lại trong khi cạnh tranh lẫn nhau. Hiệp ước Không phổ biến vũ khí hạt nhân không thành công vì các quốc gia hạt nhân tự nguyện kết luận nên chế tạo ít vũ khí hơn. Nó thành công vì một kiến trúc chính trị và ngoại giao đã được xây dựng, một cách đau đớn và chưa hoàn hảo, nhằm loại bỏ tính toán cá nhân khỏi từng tác nhân và thay thế bằng ràng buộc tập thể kèm cơ chế xác minh cùng hậu quả khi vi phạm.

Cùng mô thức ấy lặp lại qua Công ước Vũ khí Hóa học và Nghị định thư Montreal về các chất làm suy giảm tầng ozone. Trong mỗi trường hợp, công nghệ đã tồn tại, động lực thương mại và chiến lược để phát triển nó là có thật, còn sự tự nguyện kiềm chế của từng cá nhân đã rõ ràng thất bại trong việc ngăn chặn. Luật quốc tế mang tính ràng buộc, kèm theo xác minh tuân thủ, đã mang lại kết quả mà cam kết tự nguyện không thể đạt được.

Kiến trúc đó chưa tồn tại cho AI. Việc ra mắt của xAI, và mọi thông báo mở rộng quy mô tương đương từ OpenAI, Google DeepMind, Meta, cùng các đối tác của họ tại Trung Quốc, là một điểm dữ liệu trong một quá trình chưa có cơ chế ràng buộc tập thể hiện tại.

Ác quỷ vẫn đang được triệu tập, chỉ có bây giờ bởi nhiều người, mỗi người với một vụ án vì lý do tại sao sự hiện diện của họ làm cho việc triệu tập an toàn hơn. Câu hỏi luôn được đặt ra là liệu sự quản lý có thể được xây dựng nhanh hơn việc leo thang hay không. Từ hôm nay, thang đã thắng.