Khái niệm này xuất phát từ nhà khoa học chính trị Peter Haas, người đã nghiên cứu cách một mạng lưới các nhà khoa học khí quyển xuyên quốc gia định hình phản ứng với sự suy giảm tầng ozone. Cộng đồng nhận thức luận là mạng lưới các chuyên gia có chuyên môn được công nhận và cùng chia sẻ một hệ thống quan điểm về một vấn đề, nguyên nhân, mức độ nghiêm trọng cũng như các chính sách giải quyết. Khi cộng đồng này đạt được đồng thuận và được các nhà hoạch định chính sách lắng nghe, họ có thể cung cấp cơ sở sự kiện chung giúp các quốc gia vốn không tin tưởng lẫn nhau vẫn có thể đạt được thỏa thuận quốc tế.

Các nhà khoa học chính trị gọi đây là 'cộng đồng nhận thức luận', và dấu ấn của họ nằm trên hiệp ước ozone, kiểm soát vũ khí hạt nhân và nhiều hơn nữa. Việc quản trị siêu trí tuệ có xây dựng được cộng đồng như vậy hay không có thể quyết định thành bại.

Các cộng đồng chuyên gia thúc đẩy hiệp ước ra sao

Cơ chế không phải là các chuyên gia có quyền lực chính thức. Ảnh hưởng của họ đến từ việc cung cấp một điều mà chính phủ cần khi không chắc chắn: một lời tường thuật đáng tin cậy, chia sẻ về một vấn đề phức tạp. Khi phải đối mặt với một mối đe dọa kỹ thuật mới lạ, những nhà hoạch định chính sách thiếu kiến thức nội bộ để định nghĩa vấn đề hoặc đánh giá giải pháp, và một cộng đồng biểu sinh lấp đầy khoảng trống đó. Vì cộng đồng liên quốc gia và bị ràng buộc bởi các tiêu chuẩn chuyên môn hơn là lợi ích quốc gia, sự hiểu biết về nó có thể được chấp nhận qua các biên giới, cho các chính phủ đối lập một điểm bắt đầu phổ biến mà các chuyên gia quốc gia, bị nghi ngờ là phục vụ chính phủ của họ, không thể nào.

  • Họ định khung vấn đề. Bằng cách xác định mối đe dọa là gì và nghiêm trọng đến mức nào, các chuyên gia định hình chương trình nghị sự mà chính phủ phản hồi.
  • Họ xây dựng sự đồng thuận xuyên biên giới. Một sự hiểu biết chuyên môn chung vượt qua ranh giới quốc gia mang lại cơ sở sự kiện chung cho các quốc gia nghi kỵ lẫn nhau để đàm phán.
  • Họ thiết kế các lựa chọn. Các chuyên gia chuyển hóa chẩn đoán thành các đề xuất chính sách cụ thể, khả thi mà các nhà ngoại giao sau đó có thể thương lượng.
  • Họ hợp pháp hóa hành động. Khi một đồng thuận chuyên gia đáng tin cậy cho rằng mối đe dọa là có thật và có thể kiểm soát, chính phủ càng khó biện minh cho việc không hành động.

Các tiền lệ

Chế độ ozone là trường hợp kinh điển: các nhà khoa học khí quyển đạt được đồng thuận về cơ chế và nguy cơ suy giảm ozone, và đồng thuận đó, được đưa vào quy trình chính sách, đã khiến Nghị định thư Montreal trở nên khả thi. Kiểm soát vũ trang hạt nhân có phong trào Pugwash, các nhà khoa học từ cả hai khối Chiến tranh Lạnh duy trì đối thoại và xây dựng sự hiểu biết kỹ thuật chung trực tiếp đưa vào các thỏa thuận kiểm soát vũ trang, công việc được công nhận bằng Giải Nobel Hòa bình. Chế độ khí hậu có IPCC, một cộng đồng nhận thức được thể chế hóa mà các đánh giá của họ là cơ sở sự kiện được đồng ý cho đàm phán. Trong mỗi trường hợp, mạng lưới chuyên gia đã thực hiện công việc thiết yếu mà chính phủ không thể tự làm.

Cộng đồng tri thức AI đang đứng ở đâu

Tình hình của AI khá hỗn hợp. Một mặt, đã tồn tại một cộng đồng nghiên cứu an toàn nghiêm túc, và cộng đồng này đã tạo ra những tuyên bố đồng thuận mang tính cột mốc: tuyên bố năm 2023 về rủi ro tuyệt chủng do AI ký bởi các nhà nghiên cứu hàng đầu, lời kêu gọi năm 2025 cấm siêu trí tuệ không an toàn, và Báo cáo An toàn AI Quốc tế đầu tiên, một tổng hợp kiểu IPCC do một nhân vật cao cấp trong lĩnh vực chủ trì. Đây chính là những sản phẩm mà một cộng đồng nhận thức luận tạo ra. Mặt khác, lĩnh vực này còn trẻ hơn, nội bộ phân hóa nhiều hơn và kết nối với các nhà hoạch định chính sách yếu hơn nhiều so với cộng đồng khoa học khí quyển hay vật lý hạt nhân ở giai đoạn tương đương.

Những khoảng trống là do hậu quả. Cộng đồng an toàn AI vẫn còn bị chia cắt bởi những câu hỏi then chốt về dòng thời gian và mức độ nghiêm trọng, làm suy yếu tín hiệu thống nhất di chuyển chính phủ. Nó được tập trung mạnh mẽ ở một vài quốc gia và các tổ chức, hạn chế phạm vi liên quốc gia mà cho phép sự tín nhiệm xuyên quốc gia và các chuyên gia hạt nhân của họ, và các liên kết của nó với các đối tác Trung Quốc là rất mong manh, chính xác nơi cần sự hiểu biết chung nhất. Và nó chỉ mới bắt đầu xây dựng những cây cầu bền vững cho các nhà hoạch định chính sách mà biến các chuyên gia thành những hành động chính trị.

Mọi hiệp ước quản lý một mối nguy kỹ thuật đều dựa trên nền tảng hiểu biết chuyên gia chung được xây dựng trước. Với AI, việc xây dựng cộng đồng ấy (đồng thuận đủ để nói rõ ràng, và kết nối đủ để được lắng nghe, vượt biên giới) là một phần của việc xây dựng hiệp ước, không phải dự án phụ.

Xây dựng cộng đồng như công việc quản trị

Bài học là việc củng cố cộng đồng nhận thức luận của AI chính là một chiến lược quản trị, không phải là điều kiện tiên quyết cần được giả định. Các tuyên bố đồng thuận và Báo cáo An toàn AI Quốc tế là loại công việc đúng đắn, và chúng cần được làm sâu sắc hơn: mở rộng cộng đồng qua biên giới, đặc biệt là đến Trung Quốc; xây dựng các kênh thể chế mang các phát hiện của nó vào quy trình chính sách; và tạo ra đủ sự hiểu biết chung về các rủi ro cốt lõi để trình bày cho các chính phủ tín hiệu rõ ràng, đáng tin cậy đã giúp các thỏa thuận trong quá khứ trở nên khả thi. Lịch sử cho thấy hiệp ước và cộng đồng chuyên gia làm cho nó trở nên khả thi được xây dựng cùng nhau. Đối với AI, đầu tư vào cộng đồng (sự đồng thuận, sự rộng lớn và kết nối với quyền lực của nó) là một trong những đóng góp bền vững nhất cho thỏa thuận cuối cùng. Các chuyên gia không ký hiệp ước. Nhưng không có họ, có thể sẽ không có hiệp ước để ký.