Mọi người đều đã nghe thuật ngữ này. Ít người biết nó thực sự nghĩa là gì. "Siêu trí tuệ nhân tạo" xuất hiện trong lời khai trước Thượng viện, hồ sơ doanh nghiệp và các bài báo học thuật, đôi khi như một cảnh báo, đôi khi như một lời hứa, và thường không có định nghĩa. Hướng dẫn này giải thích rõ ràng, không giả định kiến thức trước, và giải thích tại sao khái niệm này quan trọng đến vậy đối với chính sách và quản trị.

Phổ AI: từ hẹp đến siêu

Để hiểu trí tuệ siêu nhân tạo, cần hiểu rõ nó không phải là gì. Trí tuệ nhân tạo hiện nay chỉ mang tính hẹp. Đó là một mô tả, không phải lời phê phán.

Các hệ thống AI ngày nay cực kỳ mạnh trong các lĩnh vực xác định. Động cơ cờ vua đánh bại nhà vô địch thế giới với khoảng cách lớn. AI gấp protein đã nén hàng thập kỷ nghiên cứu sinh học vào vài tháng. Mô hình ngôn ngữ có thể viết code, tóm tắt tài liệu pháp lý và tạo văn xuôi thuyết phục với tốc độ không ai sánh kịp. AI hình ảnh y tế phát hiện ung thư mà các bác sĩ X-quang bỏ sót.

Đây là những thành tựu thực sự. Chúng cũng có một trần cố hữu. Các hệ thống AI ngày nay hoạt động trong giới hạn mà chúng được thiết kế và huấn luyện. Một động cơ cờ vua không thể chơi cờ vây. Một mô hình ngôn ngữ không thể tự thực hiện hành động trong thế giới thực. Một AI phân tích hình ảnh y tế không thể giải thích những gì nó đang làm hay thích nghi khi gặp điều mới lạ. Các hệ thống AI ngày nay là công cụ mạnh mẽ. Nhưng chúng không phải là tác nhân.

trí tuệ nhân tạo tổng quát là gì?

Trí tuệ Nhân tạo Tổng quát (trí tuệ nhân tạo tổng quát) đề cập đến ngưỡng tiếp theo: AI đạt mức hiệu suất nhận thức ngang con người trên mọi lĩnh vực, không chỉ ở các tác vụ cụ thể. Một trí tuệ nhân tạo tổng quát có thể chuyển giao năng lực giữa các lĩnh vực giống như con người, sử dụng lý luận đã phát triển cho một vấn đề để tiếp cận một vấn đề hoàn toàn khác. Nó sẽ không bị giới hạn trong phân phối huấn luyện của mình. Nó có thể học kỹ năng mới, xử lý tình huống mới lạ, và suy luận theo cách mà nhà thiết kế không lường trước được.

trí tuệ nhân tạo tổng quát chưa tồn tại. Điều khiến nó khác với AI ngày nay không phải năng lực thô trong một lĩnh vực hẹp (AI ngày nay đã vượt trội con người ở nhiều lĩnh vực hẹp) mà là tính tổng quát. Khả năng mang trí tuệ tổng quát áp dụng cho bất kỳ vấn đề nhận thức nào, giống như một kỹ sư con người có thể trở thành quản lý dự án, có thể trở thành nhà văn, có thể trở thành phụ huynh đưa ra quyết định y tế cho con.

siêu trí tuệ là gì?

Siêu Trí Tuệ Nhân Tạo (siêu trí tuệ) đi xa hơn Nó mô tả AI không chỉ phù hợp với hiệu suất nhận thức của con người trên tất cả các lĩnh vực mà còn vượt xa nó, có thể theo cấp độ lớn và trên toàn bộ phạm vi hoạt động trí tuệ.

Từ "vượt" cần được hiểu cẩn thận. Chúng ta không mô tả một hệ thống tốt hơn con người mười phần trăm ở những nhiệm vụ con người làm giỏi. Chúng ta đang mô tả các hệ thống có khả năng nhận thức có thể vượt qua suy luận tập thể của toàn nhân loại cộng lại, ở bất kỳ lĩnh vực nào, đồng thời. Một hệ thống có thể phát triển lý thuyết khoa học nhanh hơn bất kỳ đội nghiên cứu nào, thiết kế kế hoạch chiến lược hiệu quả hơn bất kỳ chính phủ nào, và thích nghi với tình huống mới nhanh hơn bất kỳ tổ chức con người nào.

Các đặc điểm định nghĩa của siêu trí tuệ là:

  • Hiệu suất siêu phàm trên mọi lĩnh vực nhận thức. Trong khoa học, chiến lược, sáng tạo, lý luận xã hội, kỹ thuật, cờ vua, gấp protein và mọi hình thức hoạt động trí tuệ khác.
  • Tính định hướng mục tiêu. Khả năng theo đuổi các mục tiêu (bao gồm cả các mục tiêu có thể tự chọn), không chỉ thực thi chỉ dẫn.
  • Khả năng cải tiến bản thân đệ quy. Khả năng cải thiện kiến trúc nhận thức của chính nó, khiến mỗi phiên bản tiếp theo có năng lực hơn phiên bản trước.
  • Vận hành ở tốc độ và quy mô máy móc. Xử lý thông tin và thực hiện hành động ở tốc độ và quy mô khiến giám sát con người có ý nghĩa trở nên cực kỳ khó khăn.

Tại sao siêu trí tuệ khác biệt về loại hình, không phải mức độ

Sự phân biệt quan trọng nhất trong an toàn AI là giữa công cụ và tác nhân, chứ không phải giữa AI yếu và AI mạnh.

Mọi công nghệ chuyển đổi trong lịch sử loài người (động cơ hơi nước, điện, internet, phân hạch hạt nhân) đều là công cụ. Chúng khuếch đại năng lực con người. Chúng mở rộng những gì con người có thể làm. Nhưng chúng không thể tự đặt mục tiêu. Một động cơ hơi nước không thể quyết định cung cấp điện cho một nhà máy xay thay vì một nhà máy. Một loại kháng sinh không thể chọn vi khuẩn nào để tiêu diệt. Internet không thể quyết định nội dung nó phân phối.

siêu trí tuệ sẽ là một tác nhân. Không theo nghĩa ẩn dụ khi ta mô tả công ty hay thị trường là tác nhân, mà theo nghĩa đen: một hệ thống có khả năng xác định mục tiêu, phát triển chiến lược để đạt mục tiêu, điều chỉnh chiến lược khi gặp trở ngại, và làm tất cả với tốc độ và quy mô vượt quá khả năng giám sát của con người.

Điều này thay đổi hoàn toàn thách thức quản trị. Phản ứng quy định phù hợp với một công cụ mạnh mẽ là kiểm soát ai có thể truy cập và cách sử dụng nó. Phản ứng phù hợp với một tác nhân mạnh mẽ có mục tiêu có thể lệch hướng là đảm bảo mục tiêu đó an toàn trước khi tác nhân đủ mạnh để theo đuổi hiệu quả. Vấn đề thứ hai khó hơn nhiều và đòi hỏi hành động sớm hơn nhiều.

Vấn đề alignment bắt đầu ở đây

Cụm từ "mục tiêu có khả năng lệch" là nơi tài liệu an toàn AI tập trung chú ý nhiều nhất. Nếu siêu trí tuệ sẽ theo đuổi mục tiêu, câu hỏi then chốt trở thành: mục tiêu của ai? Căn chỉnh với cái gì?

Đây không phải là một vấn đề kỹ thuật đơn giản. Việc chỉ định "có lợi cho nhân loại" theo cách đủ chính xác để quản trị hành vi của một trình tối ưu hóa có năng lực hóa ra cực kỳ khó khăn. Con người bất đồng về ý nghĩa của "có lợi". Giá trị của chúng ta không nhất quán và thay đổi theo thời gian. Và việc ánh xạ từ ý định con người cấp cao sang các tham số số cụ thể quản trị hành vi của hệ thống AI không phải là vấn đề đã giải quyết, và càng khó giải quyết hơn khi hệ thống trở nên có năng lực hơn.

Đối với bài này, điều quan trọng là sự kết nối: siêu trí tuệ nghĩa là không liên kết chặt chẽ với giá trị con người là một tác nhân theo đuổi mục tiêu riêng của mình, với khả năng nhận thức để vượt qua hầu hết nỗ lực để ngăn chặn nó, không chỉ là một công cụ mạnh mẽ có thể bị lạm dụng.

Mô hình tiêu chuẩn của AI, nơi bạn xác định mục tiêu và AI tối ưu hóa cho nó, có lẽ sẽ là kết thúc của chúng ta.

Stuart Russell, Giáo sư Khoa học Máy tính, UC Berkeley · Tác giả, Human Compatible

Khi nào siêu trí tuệ có thể đến?

Câu trả lời trung thực: không ai biết chính xác, và bất kỳ ai tuyên bố chắc chắn theo hướng nào cũng đang vượt quá bằng chứng.

Những gì chúng ta biết chắc:

  • Tốc độ cải thiện năng lực AI liên tục vượt xa dự đoán của chuyên gia trong thập kỷ qua. Các cột mốc dự kiến mất mười năm đã lặp lại chỉ trong hai hoặc ba năm.
  • Các phòng thí nghiệm AI hàng đầu (OpenAI, Anthropic, Google DeepMind, Meta AI) hiện mô tả mốc thời gian cho AI ngang tầm con người bằng năm chứ không phải thập kỷ. Đây là giả định làm việc nội bộ của các tổ chức gần biên giới nhất, không phải suy đoán ngoài lề.
  • Nhiều dự báo công khai từ các nhà nghiên cứu và phòng thí nghiệm hiện tập trung vào khoảng 2027 đến những năm 2030 cho AI đạt mức con người hoặc mang tính chuyển đổi, với sự bất đồng còn lại về tốc độ các bước khó cuối cùng diễn ra.
  • Những cải tiến năng lực từng mất nhiều năm nay chỉ mất vài tháng. Khoảng cách từ GPT-2 (2019) đến các hệ thống vượt trội hầu hết con người ở hầu hết các chuẩn mực nhận thức đã xảy ra trong chưa đầy năm năm.

Sự kiện quan trọng nhất không phải là một mốc ngày chính xác mà là một thực tế mang tính cấu trúc. Một công nghệ quy mô như vậy có thể xuất hiện trong tầm kế hoạch của các thể chế, chính phủ và hiệp ước hiện hành. Hiệp ước Không phổ biến vũ khí hạt nhân từng mất nhiều năm để đàm phán và hàng thập kỷ để mở rộng thành khuôn khổ toàn diện như ngày nay. Nếu chúng ta chờ đến khi siêu trí tuệ rõ ràng sắp xuất hiện mới bắt đầu nỗ lực quản trị nghiêm túc, lúc đó đã quá muộn để xây dựng các khuôn khổ cần thiết.

Tại sao cần quản trị ngay bây giờ thay vì sau này

Lập luận tiêu chuẩn chống lại quản trị phòng ngừa là chúng ta nên chờ đến khi mối đe dọa trở nên thực sự mới điều chỉnh nó. Áp dụng cho AI, lập luận này nói: siêu trí tuệ chưa tồn tại, lộ trình của nó không chắc chắn, và chúng ta không nên ràng buộc một công nghệ có lợi dựa trên rủi ro tương lai mang tính suy đoán.

Lập luận nghe có vẻ hợp lý. Nó thất bại khi bị kiểm tra kỹ lưỡng vì một số lý do.

Thứ nhất, cửa sổ xây dựng khung quản trị là hữu hạn. Các hiệp ước quốc tế mất nhiều năm để đàm phán, các tổ chức mất nhiều năm để xây dựng, và sự đồng thuận chính trị mất nhiều năm để đạt được. Nếu chúng ta bắt đầu xây dựng khi mối đe dọa đã cấp bách, chúng ta sẽ không kịp hoàn thành.

Thứ hai, chi phí của quản trị phòng ngừa là có giới hạn. Yêu cầu cấp phép tính toán, kiểm toán an toàn bắt buộc và chế độ giám sát quốc tế gây ra chi phí thực tế nhưng có thể quản lý được. Chi phí của quản trị không đầy đủ đối với một siêu trí tuệ không phù hợp là không giới hạn. Chúng có thể là toàn bộ.

Thứ ba, hồ sơ lịch sử đã rõ ràng. Chúng ta xây dựng các khuôn khổ quản trị hạt nhân trước khi hầu hết các quốc gia sở hữu vũ khí hạt nhân. Chúng ta cấm CFC trước khi tầng ozone bị hủy hoại không thể khắc phục. Chúng ta thiết lập kiểm soát vũ trang với đối thủ trước khi các cuộc chiến tranh ủy nhiệm trở thành xung đột trực tiếp. Quản trị thận trọng đối với rủi ro thảm khốc chính là cách chúng hoạt động tốt nhất, chứ không phải là sự lệch hướng so với cách các thể chế con người vận hành.

Của Quỹ Nakada ba đề xuất chính sách (Chính phủ song hành, một hiệp định an toàn quốc tế, và một Cơ quan Theo dõi AI trên toàn cầu) được mô phỏng trực tiếp trên những tiền lệ này. Những khuôn khổ đó đã hoạt động; câu hỏi mở là liệu chúng ta có xây dựng chúng đúng lúc hay không.

Các thuật ngữ tiếp thị chưa được xác định là tại sao luật nên khóa ra khỏi tính toán, khả năng, và tự trị, không phải tên thương hiệu. Chờ đợi một mục nhập từ điển hoàn hảo là cách bạn đến sau khi hệ thống đến.