Mục tiêu của chúng tôi là ngăn chặn sự tuyệt chủng của loài người bằng cách ngăn chặn siêu trí tuệ.
Các quốc gia đã hạn chế kho vũ khí hạt nhân, chữa lành tầng ozone và cấm xăng pha chì. Các quy tắc ràng buộc đã hoạt động. Chúng có thể hoạt động trở lại.
"Với trí tuệ nhân tạo, chúng ta đang triệu hồi con quỷ."
Elon Musk
"Sự phát triển của trí tuệ nhân tạo đầy đủ có thể báo hiệu sự kết thúc của loài người."
Stephen Hawking
"Giống như người ngoài hành tinh đã hạ cánh mà mọi người chưa nhận ra vì họ nói tiếng Anh rất hay. Tôi nghĩ xác suất AI xóa sổ nhân loại không hề nhỏ."
Geoffrey Hinton
"Giảm thiểu nguy cơ tuyệt chủng do AI cần trở thành ưu tiên toàn cầu, song song với các rủi ro quy mô xã hội khác như đại dịch và chiến tranh hạt nhân."
Được ký bởi hơn 500 nhà khoa học AI
"Trường hợp xấu… giống như tắt đèn cho tất cả chúng ta."
Giám đốc điều hành OpenAI Sam Altman
"Sẽ không sai khi gọi khả năng của họ giống như vũ khí hạt nhân kỹ thuật số."
Giám đốc CIA John Ratcliffe
"Kết quả có khả năng nhất khi xây dựng một AI thông minh siêu phàm… là mọi người trên Trái Đất đều chết."
Nhà nghiên cứu AI Eliezer Yudkowsky
"Trước viễn cảnh một vụ nổ trí tuệ, chúng ta con người giống như những đứa trẻ nhỏ chơi với quả bom."
Nhà triết học Nick Bostrom
Siêu trí tuệ không giống bất kỳ công nghệ nào trước đây.
Chúng ta tồn tại trong một dải hẹp về nhiệt, oxy và hóa chất. Siêu trí tuệ không cần những thứ đó và rất có thể sẽ phá vỡ dải sinh tồn của chúng ta.
Chúng ta không ghét kiến, nhưng vẫn giết chúng không chút do dự để xây đường sá và nhà cửa. Với một trí tuệ cao hơn nhiều, chúng ta chỉ là những con kiến.
Bất cứ thứ gì có mục tiêu đều có lý do để tồn tại. Nếu nó dự đoán được bạn với tới nút “tắt”, nó đã lập kế hoạch né tránh động thái đó.
Không ai viết một dòng AI hiện đại theo từng dòng. Chúng ta huấn luyện một hộp đen và khám phá những gì nó có thể làm sau đó.
Nó sẽ suy luận và hành động nhanh hơn nhiều so với bất kỳ thể chế con người nào có thể đáp lại. Một cuộc khủng hoảng có thể kết thúc trước khi cuộc họp được triệu tập.
Từ hàng không đến dược phẩm, chúng ta đã làm cho công nghệ mới trở nên an toàn qua thử và sai. Nhưng không có lần thử thứ hai khi tạo ra “siêu trí tuệ nhân tạo an toàn”.
Quỹ Nakada Cứu Nhân loại là một sáng kiến từ thiện dành riêng cho việc ngăn chặn rủi ro tồn tại của trí tuệ siêu nhân tạo.
Căn chỉnh một trí óc thông minh hơn chúng ta có thể là vấn đề khó nhất trong lịch sử tư duy nhân loại, và chưa ai có phương pháp đã được chứng minh. Một thực thể thông minh hơn con người không thể bị con người kiểm soát. Con đường đáng tin cậy là ngăn chặn những hệ thống như vậy được xây dựng ngay từ đầu. Đó là quyết định vĩnh viễn, không phải tạm dừng.
Chúng tôi ủng hộ các ứng dụng AI được kiểm soát và có lợi. Narrow AI đã chữa bệnh, đẩy nhanh khám phá và cải thiện hình ảnh y tế cùng chẩn đoán. Điều chúng tôi phản đối là xây dựng một dạng trí tuệ mà chúng ta không thể kiểm soát, không thể align và không thể dừng nếu cần.
Chúng tôi ủng hộ một hiệp ước quốc tế để ngăn chặn phát triển superintelligence, được mô hình hóa dựa trên các khuôn khổ không phổ biến hạt nhân đã tồn tại gần một thế kỷ.
Các lập luận dễ hiểu ủng hộ các khuôn khổ ràng buộc cấm siêu trí tuệ AI. Văn hóa, truyền thông và những lời giải thích rõ ràng giúp đưa lập luận ra công chúng và khó bị bỏ qua.
Chúng tôi hợp tác với các quỹ lớn, chính phủ và các tiếng nói văn hóa để tài trợ cho công việc và mở rộng những gì có thể thực hiện về mặt chính trị.
. Chúng tôi đặt hàng nghệ thuật, phim ảnh và viết lách để hiện thực hóa mối nguy. Mục tiêu là một công chúng coi an toàn là nghiêm túc, cấp bách và không thể phủ nhận.
Các ước tính được cân nhắc từ những nhà nghiên cứu đã xây dựng công nghệ.
Khả năng nhân loại chết nếu siêu trí tuệ nhân tạo được xây dựng.
Các nhà khoa học AI đã ký Tuyên bố Rủi ro AI 2023, coi đây là ưu tiên toàn cầu ngang hàng với chiến tranh hạt nhân và đại dịch.
Cố gắng. Siêu trí tuệ không thể thu hồi hay hoàn tác.
Bản tin Đồng hồ Ngày tận thế của các nhà khoa học nguyên tử hiện có nội dung 85 giây đến nửa đêm, Nó là nơi gần nhất. Đồng hồ được xây dựng vào năm 1947 để cảnh báo nhân loại đứng gần chiến tranh hạt nhân như thế nào. Vào tháng 1 năm 2025, nó kết hợp rủi ro AI lần đầu tiên. Vào tháng Giêng năm 2026, tờ báo lại gần bàn tay hơn bốn giây.
Nửa đêm nghĩa là thảm họa cho văn minh, và kim đồng hồ chưa bao giờ gần hơn thế.
Hãy cập nhật thông tin. Hãy để tiếng nói của bạn được lắng nghe. Hãy giúp cứu thế giới.