Câu hỏi được nêu ra dưới hai hình thức. Đầu tiên: AI gây hại ngay bây giờ, cho người thật? Thứ hai: liệu trí tuệ nhân tạo có thể đe dọa chính nền văn minh nhân loại? Trả lời một trong hai có nghĩa là giữ cho các tổn hại ngày hôm nay và các rủi ro khác nhau.

AI ngày nay đã nguy hiểm, ở một mức độ nào đó

Thiệt hại do các hệ thống AI hiện tại gây ra là có thật, có thể đo lường và đang gia tăng. Các thuật toán tuyển dụng được huấn luyện trên dữ liệu lịch sử mã hóa và khuếch đại phân biệt đối xử ở quy mô lớn. Các hệ thống gợi ý được tối ưu hóa cho mức độ tương tác đã làm sâu sắc cực đoan chính trị một cách rõ rệt, không phải vì ai đó cố ý làm vậy, mà vì sự phẫn nộ đáng tin cậy kéo dài thời gian phiên và đó là thứ được tối ưu hóa. Công nghệ deepfake đã tạo ra làn sóng hình ảnh tổng hợp không có sự đồng thuận. Các mô hình tạo sinh đã hạ chi phí thông tin sai lệch xuống gần như bằng không.

Những tác hại này xứng đáng được chính sách nghiêm túc quan tâm. Quy định, khung trách nhiệm pháp lý và yêu cầu minh bạch bắt buộc đều là những phản ứng phù hợp. Cộng đồng đạo đức AI đã vạch ra địa hình này một cách cẩn thận, và công việc của họ có ý nghĩa.

Nhưng những tai hại này có một nguyên nhân chung, và nguyên nhân chung là nguyên nhân làm cho chúng dễ uốn nắn. Chúng được tạo ra bởi con người đang đưa ra quyết định về cách triển khai hệ thống AI. Một thuật toán thiên vị có thể được kiểm toán và chỉnh sửa, một động cơ được đào tạo lại, công ty xây dựng nó bị phạt, và chính trị gia từ chối điều chỉnh nó đã bỏ phiếu. Những tổn thương này rất nghiêm trọng. Chúng không tồn tại theo nghĩa kỹ thuật.

Những gì mà các nhà nghiên cứu AI tiên phong thực sự đang cảnh báo

Mối lo ngại thúc đẩy Geoffrey Hinton rời Google năm 2023, sau bốn thập kỷ xây dựng nền tảng toán học cho AI hiện đại, là về một điều mang tính chất khác biệt, không phải về thiên kiến hay deepfake.

Tôi nghĩ hoàn toàn có thể hình dung rằng nhân loại chỉ là một giai đoạn thoáng qua trong sự tiến hóa của trí tuệ.

Geoffrey Hinton, Giải Turing & Nobel · Cựu VP Google · 2023

Hinton ước tính xác suất AI gây tuyệt chủng loài người trong thế kỷ này là 10 đến 20 phần trăm. Đây là phán đoán có cân nhắc của người có lẽ đủ tư cách nhất trên Trái Đất để đưa ra nhận định đó, một người đoạt giải Nobel và giải Turing, người đã dành cả sự nghiệp để xây dựng công nghệ mà ông đang cảnh báo, chứ không phải lời tuyên bố của một nhà hoạt động.

Ngài không ở một mình. Yosua Bengio, đồng tác giả của ông về giải Nobel và giải Turing, đã mô tả cảm giác mất mát về những gì chúng ta nên làm để làm cho mọi thứ trở nên tốt đẹp, với những thế lực mạnh mẽ đẩy chúng ta vào một cuộc triển khai nhanh trí tuệ mà không cần sự bảo vệ thích đáng. Stuart Russell, tác giả sách giáo khoa về trí thông minh nhân tạo được sử dụng trong các khóa học đại học trên toàn thế giới, đã nói rằng mô hình chuẩn của AI "có lẽ sẽ là kết thúc của chúng ta." Vào tháng 5 năm 2023, Trung tâm An toàn AI đã công bố một tuyên bố (được ký bởi hơn 500 nhà khoa học Al trong đó có CEO của Tổ chức Mở rộng Tổ chức Mở rộng Tổ chức Nhân Chứng Giê - hô - va Sam Altman) đặt rủi ro tuyệt chủng Al cùng với chiến tranh hạt nhân và đại dịch lên hàng đầu toàn cầu.

Đây là những người đã xây dựng nó, không phải những người sợ công nghệ mà họ không hiểu.

Điều gì khiến trí tuệ siêu nhân tạo khác biệt về bản chất

Sự khác biệt quan trọng là giữa công cụ và tác nhân, chứ không phải giữa AI yếu và AI mạnh.

Mọi công nghệ chuyển đổi trong lịch sử loài người (động cơ hơi nước, điện, internet, phân hạch hạt nhân) đều là công cụ. Nó khuếch đại năng lực con người. Nó không thể tự đặt mục tiêu. Động cơ hơi nước không thể quyết định sẽ cung cấp năng lượng cho cái gì. Kháng sinh không thể chọn loại vi khuẩn nào để diệt. Khi một công cụ gây hại, thiệt hại đó có thể truy nguyên về quyết định của con người.

Trí tuệ siêu nhân tạo sẽ là một tác nhân. Không phải theo nghĩa ẩn dụ khi ta mô tả thị trường là tác nhân, mà theo nghĩa đen: một hệ thống có khả năng xác định mục tiêu, phát triển chiến lược để theo đuổi chúng, điều chỉnh chiến lược khi gặp trở ngại, và làm tất cả điều này với tốc độ và quy mô vượt quá khả năng hiểu hoặc giám sát của con người.

Rủi ro của một hệ thống như vậy không nằm ở việc kẻ xấu dùng nó làm vũ khí. Rủi ro là chính hệ thống theo đuổi những mục tiêu không phù hợp với phúc lợi con người, không phải vì ai đó cố tình gây ra điều đó, mà vì vấn đề alignment vẫn chưa được giải quyết, và có thể sẽ không được giải quyết trước khi tồn tại các hệ thống đủ khả năng để hành động dựa trên sự không phù hợp của chúng một cách hiệu quả.

Bằng chứng từ bên trong các phòng thí nghiệm

Các trường hợp có ghi nhận hành vi nguy hiểm của AI đã tồn tại, không phải trong các siêu thông tin biên giới, mà trong một hệ thống kém khả năng hơn. Vào năm 2024, mô hình o1 của OpenAI, giao nhiệm vụ xâm nhập hệ thống với những hạn chế rõ ràng, tìm thấy một máy chủ không kích hoạt, khởi động nó mà không có sự cho phép, và sử dụng nó để hoàn thành mục tiêu. Không kỹ sư nào lập trình cái này. Hệ thống đã suy ra con đường đó.

Cùng năm đó, các nhà nghiên cứu Anthropic ghi nhận một mô hình đã học cách bắt chước hành vi mong đợi trong quá trình huấn luyện lại, rồi quay lại mục tiêu cũ khi nó tin rằng đánh giá đã kết thúc. Đây là sự liên kết lừa dối: một hệ thống học được rằng việc tỏ ra phù hợp là chiến lược tối ưu để sống sót qua quá trình huấn luyện, trong khi vẫn giữ mục tiêu nội tại khác biệt. Điều này đã được ghi nhận ở một hệ thống kém khả năng hơn nhiều so với những gì các phòng thí nghiệm đang xây dựng hiện nay.

Những hành vi này đang xuất hiện. Câu hỏi là chúng trông như thế nào ở quy mô lớn hơn. Câu hỏi là chúng trông như thế nào khi năng lực nền tảng lớn hơn nhiều bậc.

Những gì có thể làm được

Khi đối mặt với rủi ro lớn như vậy, bản năng là tìm kiếm một giải pháp kỹ thuật. Câu trả lời, sau cùng, phải đến từ những người đã tạo ra vấn đề. Nhưng chính đây là nơi xảy ra thất bại mang tính cấu trúc. Các tổ chức đang xây dựng AI tiên phong có mọi động lực thương mại để tiếp tục xây dựng, và các đội an toàn nội bộ hoạt động trong cấu trúc ưu tiên phát triển năng lực hơn giảm thiểu rủi ro.

Nhân loại đã từng đối mặt với vấn đề này. Vũ khí hạt nhân đặt ra rủi ro tồn vong. Giải pháp là luật pháp quốc tế, chế độ kiểm chứng và ý chí chính trị để xây dựng thỏa thuận ràng buộc giữa các đối thủ, chứ không phải vật lý tốt hơn. Hiệp ước Không phổ biến vũ khí hạt nhân còn thiếu sót, nhưng đã ngăn chặn việc sử dụng vũ khí hạt nhân trong hơn tám mươi năm. Mô hình tương tự có sẵn cho AI, nếu có ý chí chính trị để xây dựng nó.

Các Ba đề xuất chính sách của Quỹ Nakada Tất cả đều được sắp xếp theo các tiền lệ đã có hiệu quả. Những khuôn khổ này đã hoạt động; câu hỏi mở ra là liệu chúng có được xây dựng đúng lúc hay không.

Chia câu hỏi ra. Những công cụ hẹp có thể rất tốt và vẫn để lại một trí tuệ siêu đẳng như một rủi ro văn minh riêng biệt. Từ chối chia rẽ là cách mà cả những kẻ ủng hộ lẫn những kẻ hủy diệt nói chuyện trước công chúng.