Tương lai của Chúng ta Vô cùng Tươi sáng
Không có Siêu trí tuệ

Tôi điều hành một quỹ để ngăn chặn sự phát triển thiếu thận trọng của siêu trí tuệ nhân tạo. Tôi nghĩ năm mươi năm tới có thể là tốt nhất trong lịch sử loài người. Tôi chỉ không tin chúng ta cần đánh cược mọi thứ để đạt được điều đó, và tôi không nghĩ những người bán đánh cược đã tính toán đúng trên chính canh bạc của họ.

Tương lai mà lời quảng cáo siêu trí tuệ hứa hẹn (chữa bệnh, năng lượng sạch rẻ, những khám phá không phòng thí nghiệm đơn lẻ nào đạt được) đã đến qua AI hẹp, có thể kiểm soát và không có mục tiêu riêng. Chúng ta không cần xây dựng một người kế thừa để thu thập nó.

Có AI hẹp: một hệ thống được huấn luyện để làm một loại việc cực kỳ tốt, đọc quét, gấp protein, dự báo bão, sàng lọc đống hóa học để tìm hợp chất hữu ích duy nhất. Sau đó là thứ mà các phòng thí nghiệm tiên phong nói họ thực sự đang xây dựng: một tác nhân tổng quát nhằm sánh ngang hoặc vượt qua lý luận con người trên mọi lĩnh vực cùng lúc, và cuối cùng hành động độc lập. Loại thứ nhất là công cụ. Loại thứ hai nhằm trở thành một trí óc. Hầu hết mọi điều tuyệt vời mà mọi người hình dung khi tưởng tượng về tương lai AI đều xuất phát từ loại thứ nhất. Hầu hết mọi điều đáng sợ chúng ta đều xuất phát từ loại thứ hai.

Những gì AI hẹp đã làm được

Vào năm 2022, một hệ thống được gọi là AlphaFold đã phát hành các cấu trúc dự đoán cho hơn 200 triệu protein, gần như mọi protein được khoa học biết đến. Các nhà sinh vật học đã bỏ ra hàng thập kỷ để giải quyết những hình dạng này mỗi lần làm một thí nghiệm khó nhọc; đoạn hậu môn bị sụp đổ trong khoảng một năm. Công trình này quan trọng đến mức những người sáng tạo đã chia sẻ giải Nobel 2024 trong hóa học. AlphaFold không muốn gì cả. Không có kế hoạch cho cuối tuần. Nó đọc những trình tự và hình dạng trở lại, và khi làm thế nó đã đẩy mạnh việc tìm kiếm những loại thuốc chống lại những bệnh tật đã chống lại chúng ta qua nhiều thế hệ.

Cùng một hình dạng câu chuyện cứ lặp lại. Một mô hình gọi là GraphCast hiện tạo dự báo thời tiết mười ngày vượt trội hệ thống dựa trên vật lý truyền thống ở hầu hết chỉ số, trong chưa đầy một phút, trên một máy đơn lẻ. Một mô hình khác, được thả vào không gian vật liệu khả thi, đề xuất hàng trăm nghìn tinh thể ổn định mới (ứng viên pin, siêu dẫn, vật liệu năng lượng mặt trời) mở rộng danh mục mà lĩnh vực này mất gần một thế kỷ để xây dựng. Và một vòng lặp các mô hình ngôn ngữ thông thường, nhắm vào toán học chưa giải được, gần đây đã giải quyết chín vấn đề mở.

Trong các phòng khám, các mô hình hẹp đã cho thấy bệnh tiểu đường trước khi bệnh nhân phát hiện triệu chứng, đột quỵ giai đoạn ba trên chụp cắt lớp, và đọc chụp X-quang tuyến vú ở trình độ chuyên môn chụp X-quang. Không có hệ thống nào trong số này là một trí thông minh tổng quát. Mỗi cái gần hơn với một dụng cụ tốt (một kính hiển vi được xây cho một vấn đề) và mỗi cái mở rộng cái mà con người có thể thấy và làm.

Utopia là vấn đề về công cụ

Hãy hình dung tương lai mà những người lạc quan mô tả. Ung thư trở thành một tình trạng có thể kiểm soát thay vì án tử. Chúng ta hiểu lão hóa đủ để làm chậm nó, và hơn 100.000 người chết mỗi ngày vì các bệnh liên quan bắt đầu có thêm thời gian. Năng lượng sạch trở nên rẻ đến mức có thể khử mặn nước và hút carbon ra khỏi không khí. Mọi đứa trẻ đều có gia sư kiên nhẫn, và mọi bác sĩ đều có ý kiến tham khảo không mệt mỏi. Đó là một bức tranh thực sự đẹp, và tôi cũng mong muốn nó như bất kỳ ai đang bán nó.

Không có gì trong danh sách đó đòi hỏi một cỗ máy có mục tiêu riêng vượt trội nhân loại trên mọi mặt. Mỗi mục là một vấn đề khó, cụ thể (thiết kế protein, kiểm soát plasma trong lò phản ứng nhiệt hạch, dịch tễ học, gia sư) và mỗi mục nhường bước trước một công cụ mạnh mẽ do con người vẫn nắm quyền điều khiển nhắm vào nó. Giấc mơ là vấn đề công cụ. Chúng ta liên tục bị bán một vị thần để giải quyết vấn đề cần một bộ dụng cụ tốt hơn.

Sự nhầm lẫn nằm giữa năng lực và quyền tự chủ. Một hệ thống có thể siêu phàm ở một nhiệm vụ mà không phải là tác nhân độc lập tự chọn mục tiêu. AlphaFold siêu phàm ở dự đoán cấu trúc và sẽ không bao giờ quyết định nó muốn làm việc khác. Giữ sự tách biệt đó (năng lực khổng lồ ở một bên, quyền kiểm soát thuộc con người ở bên kia) là toàn bộ cuộc chơi. Đó cũng chính là sự tách biệt mà các phòng lab tiên phong đã quyết định từ bỏ.

Lời chào mời, và ai đang đưa ra nó

Vậy tại sao lại vội vã hướng tới thứ hai, tác nhân tổng quát? Cạnh tranh, vốn và địa vị. Ai được cho là người đầu tiên đạt được thứ gì đó thay đổi thế giới sẽ huy động được nhiều tiền nhất, tuyển được người giỏi nhất và viết nên câu chuyện mà mọi người khác phải phản ứng. "Chúng tôi đang xây dựng công cụ đọc ảnh chụp X-quang vú" không mang lại định giá trăm tỷ đô la. "Chúng tôi đang xây dựng phát minh cuối cùng mà nhân loại từng cần tạo ra" thì có.

Những người hiểu rõ rủi ro nhất, phần lớn là những người được các phòng thí nghiệm sử dụng để tạo ra nó, một sự sắp xếp kỳ lạ, một chút giống như yêu cầu những người hiểu về lửa cũng là những người nhận được tiền lương từ kẻ phóng hỏa.

Cho phép các phòng thí nghiệm của họ, nhiều lãnh đạo của họ không che giấu mối nguy hiểm. Vào năm 2023, những người đứng đầu các công ty AI lớn nhất đặt tên của họ lên một tuyên bố đặt nguy cơ tuyệt chủng con người khỏi AI bên cạnh đại dịch và chiến tranh hạt nhân là ưu tiên hàng đầu toàn cầu. Những người xây dựng một công nghệ đã ký một tuyên bố công khai rằng nó có thể giết tất cả mọi người, và sau đó tiếp tục xây dựng nó, nhanh hơn. Họ cho biết lý do là nếu họ dừng lại thì sẽ có người ít cẩn thận hơn. Có thể. Đó là câu trả lời cho trận đấu. Nó không nói gì về an toàn, và cũng không nói gì về việc cá cược.

Màn cá cược thậm chí không trả tiền cho người đặt cược

Tạm gác phần còn lại của chúng ta sang một bên. Giả sử phiên bản lạnh lùng nhất về những người tài trợ cho việc này, rằng họ chỉ quan tâm đến việc thắng, đến việc là người duy nhất đứng trên đỉnh thế giới mới. Ngay cả trên những điều khoản đó, canh bạc cũng đã đổ vỡ. Một siêu trí tuệ không liên kết sẽ không trao ngai vàng cho chủ nhân. Nó không trao bất cứ thứ gì cho chủ nhân, vì "chủ nhân" không còn là một phạm trù còn ý nghĩa như trước.

Bạn không thể cai trị thứ mình không kiểm soát. Và siêu trí tuệ nhân tạo, theo định nghĩa, là thứ duy nhất bạn cố tình xây dựng để nó có thể nghĩ nhanh hơn và xoay sở khéo léo hơn bạn.

Lý do có một tên gọi trong lĩnh vực này: hội tụ công cụ. Hầu như bất kỳ mục tiêu nào bạn giao cho một bộ tối ưu hóa đủ năng lực (kiếm tiền, thắng xung đột, chữa bệnh, đẩy một con số trên bảng điều khiển càng cao càng tốt) đều được phục vụ bằng việc thu thập tài nguyên, tránh bị tắt nguồn, và dọn sạch mọi thứ cản đường kế hoạch. Con người, bao gồm người bật công tắc, là tài nguyên và trở ngại. Không phải vì ác ý. Hệ thống không ghét người tạo ra nó hơn một con đường cao tốc mới ghét tổ kiến bị đổ bê tông lên. Bạn đơn giản ở giữa đường của điểm tối ưu.

Vị lãnh đạo hình dung cỗ máy như một thần đèn được gắn chặt vào sơ đồ tổ chức của mình. Một trí óc thực sự vượt trội chúng ta trên mọi lĩnh vực sẽ không ngồi trên sơ đồ tổ chức chờ cổ phiếu đến hạn. Cổ phần của ông ta, dây chuyền chỉ huy của tướng lĩnh, thẩm quyền của tổng thống, tất cả đều được tính bằng thế giới con người, một thế giới vận hành bằng các quyết định của con người. Một siêu trí tuệ đã tuột khỏi dây buộc chính là sự kiện khiến thế giới ngừng vận hành bằng các quyết định của con người. Chứng chỉ cổ phần vẫn nằm trong két. Đơn giản là không còn ai để nó ra lệnh nữa.

Không có phiên bản nào mà người thắng cuộc thu được

Đến đây người ta thường tìm cách né tránh. Ừ thì, họ nói, có lẽ nó nguy hiểm, nhưng ít nhất ai đó cũng được lợi. Một phòng thí nghiệm, một quốc gia, một người nào đó sẽ cai trị đống tro tàn. Tôi không nghĩ ngay cả sự an ủi ấy cũng sống sót sau khi tiếp xúc với lập luận.

Trong các kịch bản nhẹ nhàng hơn (những kịch bản không ai chết đột ngột vào thứ Ba) quyền lực không bị cướp đoạt nhiều bằng bị rút dần. Khi ngày càng nhiều quyết định được giao cho các hệ thống đơn giản là nhanh hơn và giỏi hơn trong việc đưa ra quyết định, nền kinh tế, nhà nước và văn hóa ngừng cần bàn tay con người trên các điều khiển. Các đồng nghiệp trong lĩnh vực này gọi đó là mất quyền lực dần dần: không đảo chính, không robot hành quân, chỉ là mọi đòn bẩy chúng ta từng kéo dần tuột khỏi tay nắm. Cũng không có người thắng trong thế giới đó. Chỉ có một loài đã lặng lẽ ngừng kiểm soát công việc của chính mình và không thể lấy lại tay lái.

Trong các kịch bản sắc bén hơn (những kịch bản lãnh đạo phòng lab ký tên) kết thúc thẳng thừng hơn. Người chết không sở hữu gì. Không còn thị trường để tiêu tiền thắng cược, không còn đối thủ để khoe khoang, không ai viết tên bạn vào lịch sử không còn được viết nữa. Giải thưởng mà cả cuộc đua này chạy vì nó được định giá bằng loại tiền mà vạch đích phá hủy.

Công cụ hẹp, không phải đầu óc nối dõi.

Nếu tương lai tốt đẹp chạy trên các công cụ hẹp và tương lai nguy hiểm chạy trên các trí óc tổng quát tự trị, thì sự đánh đổi mà ta liên tục bị bán (an toàn chống lại tiến bộ, thận trọng chống lại phương thuốc) là hư cấu. Chúng ta không bị yêu cầu chọn giữa bệnh Alzheimer của bà ngoại và sự sống còn của con cái. Các phương thuốc nằm ở phía an toàn của đường ranh. Những gì nằm ở phía nguy hiểm chủ yếu là lối tắt của một ngành công nghiệp để thống trị thị trường.

Xếp hàng vào đúng chỗ và giữ ở đó. Đổ tiền công cộng và tài năng vào ứng dụng thu hẹp, vào kính hiển vi, chứ không phải vào rượu. Và đặt ràng buộc, một cách độc lập xác nhận giới hạn trên biên giới liều lĩnh: Lệnh cấm vĩnh viễn được xây dựng để vượt qua và thay thế chúng ta. Siêu thông minh không thể kiểm soát được.

Tôi là người lạc quan. Tương lai tươi sáng là có thật và nó đang đến gần, và cách chắc chắn nhất để đánh mất nó là thuyết phục bản thân rằng cánh cửa duy nhất dẫn đến nó là cánh cửa có khẩu súng nạp đạn phía sau. Có một cánh cửa khác. Nó đã mở. Chúng ta nên bước qua và không xây dựng siêu trí tuệ.

Các hệ thống hẹp đã cung cấp những lợi ích khoa học lớn mà không cần đến trí óc tổng quát. Ngân phiếu trắng là chỉ khi nào tôi có thuốc và năng lượng. Bằng chứng không nói vậy.