Vào ngày 22 tháng 10 năm 2025, Viện Tương lai Cuộc sống đã phát hành một lá thư công khai có tiêu đề Tuyên bố về Siêu trí tuệ. Không giống như những bản tuyên ngôn mở rộng thường đi kèm với những khoảnh khắc như thế này, toàn bộ lá thư là:

Chúng tôi kêu gọi cấm phát triển siêu trí tuệ, không dỡ bỏ cho đến khi có sự đồng thuận khoa học rộng rãi rằng việc này sẽ được thực hiện an toàn và có kiểm soát, cùng với sự ủng hộ mạnh mẽ từ công chúng.

Tuyên bố về Siêu trí tuệ, Future of Life Institute · Tháng 10 năm 2025

Nó không nói siêu trí tuệ không bao giờ nên được xây dựng. Nó không lên án AI nói chung. Nó đặt ra một điều kiện (thực ra là hai điều kiện) và yêu cầu dừng phát triển cho đến khi các điều kiện đó được đáp ứng. Để hiểu tại sao yêu cầu nghe có vẻ khiêm tốn này lại đại diện cho một thay đổi thực sự trong tranh luận, bạn cần hiểu cả những gì nó đòi hỏi lẫn những ai sẵn sàng ký tên vào.

Tuyên bố thực sự yêu cầu điều gì

Cách diễn đạt rất chính xác. Ba đặc điểm phân biệt nó với các bức thư ngỏ trước đây, bao gồm cả bức thư nổi tiếng năm 2023 kêu gọi tạm dừng sáu tháng đối với các lần huấn luyện lớn nhất.

  • Nó nhắm mục tiêu cụ thể vào siêu trí tuệ. Không phải các AI thu hẹp, không phải các robot chat, không phải các công cụ AI đã đan xen vào cuộc sống hàng ngày. Lệnh cấm này áp dụng cho Những hệ thống vượt quá khả năng của con người qua tất cả các lĩnh vực nhận thức. Sự chính xác này làm giảm sự phản đối thông thường rằng những người ủng hộ an toàn muốn ngăn chặn công nghệ có lợi. Họ muốn ngăn chặn một biên giới cụ thể, và đặc biệt nguy hiểm.
  • Đây là lệnh cấm có điều kiện, không phải lệnh cấm vĩnh viễn. Lệnh cấm được bãi bỏ ngay khi hai ngưỡng cửa được vượt qua. Mặc định ngày hôm nay là: xây dựng trí tuệ siêu nhiên, và thiết lập an toàn sau đó nếu có thể. Lời tuyên bố đảo ngược nó: thiết lập an toàn trước, sau đó xây dựng. Gánh nặng bằng chứng chuyển sang các nhà phát triển, nơi mà (công nghệ của hậu quả này) nó đã thuộc về họ.
  • Nó đòi hỏi sự đồng thuận của công chúng, không chỉ chữ ký của chuyên gia. Điều kiện thứ hai là dân chủ, không mang tính kỹ thuật. Ngay cả khi các nhà khoa học một ngày nào đó đồng ý rằng siêu trí tuệ có thể được kiểm soát thì tuyên bố vẫn khẳng định công chúng phải đồng ý xây dựng nó. Đó là thách thức trực tiếp đối với sự sắp xếp hiện tại, trong đó một số phòng thí nghiệm tư nhân thay mặt mọi người đưa ra quyết định thay đổi nền văn minh, mối quan ngại mà chúng tôi xem xét trong ai kiểm soát siêu trí tuệ.

Tại sao những ký hiệu quan trọng hơn là những từ ngữ

Những bức thư mở thì rẻ tiền. Điều tạo nên vùng đất này chính là liên minh. Hơn 550 người đã ký vào lúc bắt đầu, và danh sách này không phải là đặc biệt cho độ dài của nó mà cho nó phạm vi. Số lượng công chúng đã vượt quá 700.000.

Ở đỉnh cao là những nhà khoa học đã xây dựng lĩnh vực này. Yoshua Bengio và Geoffrey Hinton (cả hai đều là người đoạt giải Turing, cả hai đều thường được gọi là cha đẻ của AI hiện đại) đã ký, cũng như Berkeley's Stuart Russell, tác giả cuốn sách giáo khoa AI tiêu chuẩn. Khi những người chịu trách nhiệm chính về sự tồn tại của một công nghệ kêu gọi thế giới dừng lại trước khi xây dựng dạng mạnh nhất của nó, đó là lời chứng thực, không phải hoạt động vận động.

Sau đó là các nhà xây dựng và các nhân vật công chúng. Đồng sáng lập Apple Steve Wozniak và nhà sáng lập Virgin Richard Branson. Nhà sử học Yuval Noah Harari, diễn viên Stephen Fry, và nhạc sĩ will.i.am. Các lãnh đạo an ninh quốc gia đã nghỉ hưu bao gồm cựu chủ tịch Hội đồng Tham mưu trưởng Liên quân Admiral Mike Mullen và cựu Cố vấn An ninh Quốc gia Susan Rice. Và, điều đáng chú ý nhất, những nhân vật hầu như không đồng ý với nhau về bất cứ điều gì khác: Hoàng tử Harry và Meghan bên cạnh Steve Bannon và Glenn Beck.

Chi tiết cuối cùng đó là toàn bộ lập luận trong thu nhỏ. Khi một cặp vợ chồng hoàng gia người Anh và một nhà chiến lược gia truyền thông đại chúng ghi tên họ trên cùng một tuyên bố, vấn đề đã thoát khỏi sự phân loại tư tưởng thông thường. Lo lắng về siêu thông minh là một trong những vị trí biến mất vào năm 2025-26 với tầm với thực sự đối lập với đảng, đó chính là loại liên kết mà làm cho chính sách ràng buộc có thể, không phải trái hay phải, không phải lập hoặc phá vỡ.

Tuyên bố là gì, và không phải là gì

Điều quan trọng là phải nhìn rõ giới hạn. Một tuyên bố công khai không cấm đoán điều gì. Nó không chỉ huy cơ quan quản lý nào, không ràng buộc công ty nào và không kiềm chế chính phủ nào. Ai đọc nó như một đạo luật đều nhầm lẫn.

Điều nó làm là di chuyển Cửa sổ Overton, phạm vi các quan điểm được coi là chính thống và có thể nói ra công khai. Hai năm trước, kêu gọi cấm một loại AI nào đó chắc chắn bị coi là cực đoan. Sau tháng 10 năm 2025, đây đã trở thành lập trường được công khai ủng hộ bởi các nhà khoa học đoạt giải Nobel, các doanh nhân biểu tượng và các chính trị gia thuộc nhiều phe phái. Sự thay đổi về điều được coi là đáng nói này chính là điều kiện tiên quyết cho mọi bước tiếp theo. Các chính trị gia thường chọn những lập trường đã phổ biến chứ hiếm khi dẫn dắt dư luận. Chức năng của tuyên bố này là làm cho việc cấm đoán trở nên đủ phổ biến để lãnh đạo có thể hành động.

Đây chính xác là cách các phong trào quản trị công nghệ trước đây đã bắt đầu. The Hội nghị Pugwash đã dành hai thập kỷ xây dựng sự đồng thuận trí tuệ và đạo đức cuối cùng đã làm nền tảng cho kiểm soát vũ khí hạt nhân. Các tuyên bố và tuyên ngôn là cách xây dựng đường băng, không phải vạch đích.

Từ một tuyên bố đến một hiệp ước

Khoảng cách giữa tuyên bố và thực tế là khoảng cách Quỹ Nakada tồn tại để thu hẹp. Một tuyên bố xác lập rằng cấm đoán là đáng mong muốn và hợp pháp. Nó không thiết lập bộ máy để thực thi. Điều đó đòi hỏi ba thứ tuyên bố cố tình để ngỏ:

. Tuyên bố về Siêu trí tuệ đã chứng minh một điều có giá trị: ý chí tồn tại, và nó vượt qua mọi ranh giới thường chia rẽ con người kế hoạch là chuyển đổi nó thành điều khiển tính toán, giám sát các cơ quan và hiệp ước quốc tế mà nó cần. Nếu bạn đồng ý, điều hữu ích nhất bạn có thể làm tiếp theo là giúp xây dựng liên minh mà biến nó thành chính sách.