Những phản đối thường lặp lại. Hãy dùng chúng trong hội thoại, sau đó bấm link để xem lập luận đầy đủ.
Rủi ro An toàn AI bằng Ngôn ngữ Đơn giản
Siêu trí tuệ là gì, tại sao nó nguy hiểm và chúng ta có thể làm gì để đối phó, được giải thích không dùng thuật ngữ chuyên ngành. Đây là bài giới thiệu ngắn gọn nhất, rõ ràng nhất về chủ đề này.
Sự Đồng thuận Khoa học
Những trích dẫn quan trọng từ các nhà Nobel, người đoạt giải Turing và các nhà nghiên cứu cao cấp đã xây dựng AI, cùng dòng thời gian các cảnh báo chuyên gia ngày càng gay gắt từ 2014 đến nay.
Một Bản Tóm Tắt cho Các Nhà Làm Chính Sách
Lập luận cho quản trị an toàn AI quốc tế: vấn đề, lý do các khuôn khổ hiện có chưa đủ, và những hành động cụ thể chính phủ có thể thực hiện ngay, lấy tiền lệ đã thành công làm mẫu.
Các điểm thảo luận cho người ủng hộ
Năm phản đối phổ biến nhất đối với an toàn AI và cách phản hồi từng cái một cách chính xác, tự tin. Viết cho các cuộc trò chuyện với người hoài nghi, nhà hoạch định chính sách và đồng nghiệp.
Siêu trí tuệ, Bốn infographic
Bốn trang tóm tắt trực quan một trang về rủi ro của siêu trí tuệ, khoảng trống quản trị, các tiền lệ lịch sử cho thấy hành động là khả thi, và nội dung một hiệp ước AI quốc tế ràng buộc phải có.
Hình ảnh Đơn giản
Bốn thẻ hình ảnh nổi bật, ước tính xác suất tuyệt chủng, khoảng trống quản trị đầu tư, các tiền lệ hiệp ước chứng minh hành động toàn cầu hiệu quả, và các yêu cầu của một hiệp ước AI mang tính ràng buộc.
Phòng ngừa, Không Phải Tạm dừng
Tại sao việc chậm lại tạm thời là yêu cầu sai lầm. Lập luận ủng hộ việc cấm vĩnh viễn siêu trí tuệ, trong khi AI hẹp vẫn tiếp tục phát triển.
Không Bao Giờ Xây Dựng Siêu Trí Tuệ
Tính không thể đảo ngược, mục tiêu lệch hướng, và lý do tại sao "sau này sẽ sửa" sẽ thất bại khi hệ thống vượt qua khả năng của người tạo ra nó. Lập luận phản đối trên một trang.
Huyền thoại Cuộc đua Trung Quốc
Lý do "nếu chúng ta chậm lại, Trung Quốc thắng" mô tả một cuộc đua không ai thắng nổi, và cách trả lời nó bằng xác minh thay vì chạy nước rút.
Giữ AI. Dừng Siêu trí tuệ.
Ranh giới rõ ràng giữa công cụ hẹp hữu ích và một trí óc tổng quát tự chủ. Ủng hộ AI cho công cụ; phản đối siêu trí tuệ cho những trí óc mà chúng ta không thể kiểm soát.
Cách Một Hiệp ước Có Thể Được Xác minh
Bạn không kiểm soát trọng số. Bạn kiểm soát phần cứng: theo dõi chip, cấp phép cụm, kiểm tra và quy tắc xưởng đúc bằng ngôn ngữ đơn giản.
Những gì một hiệp ước AI ràng buộc phải bao gồm
Sáu điều khoản phân biệt một thỏa thuận thực sự với một bản thông cáo báo chí: cấm đoán, kiểm soát compute, cơ quan thanh tra, luật trong nước, ngoại lệ và sửa đổi chỉ dựa trên bằng chứng.
Căn chỉnh không phải là kế hoạch
Nghiên cứu an toàn kỹ thuật quan trọng; nó không phải giấy phép để chạy đua, và mọi nguồn tài trợ chúng ta có nên được gửi đến đó. Phòng ngừa trước; nghiên cứu không bị súng thương mại dí vào đầu.
Giải thích trong Năm Phút
Một kịch bản hội thoại: những cảnh báo từ người xây dựng, siêu trí tuệ nhân tạo là gì, tại sao việc ngắt nguồn không hiệu quả, lập luận về Trung Quốc, và kết thúc rõ ràng bằng hành động.
Bạn Có Thể Làm Gì Trong Tuần Này
Một danh sách kiểm tra cụ thể cho tầm với cá nhân, tầm với chính trị, chế độ một giờ, và chế độ nền tảng. Chọn hai. Hoàn thành chúng.
Bản tóm tắt một phút
Tài liệu để lại cho nhà hoạch định chính sách: ba số liệu thống kê, ba yêu cầu, khung phòng ngừa, và phản đối về Trung Quốc được trả lời ở độ dài dành cho nhân viên.
Khoảng cách tài trợ an toàn
-190M vào an toàn so với khoảng 1T vào khả năng. Nơi có cái nồi an toàn mỏng manh, và những gì để tài trợ thay vì nhà hát.
Tại sao Hệ thống Thông minh Chống lại Kiểm soát
Sự hội tụ công cụ không dùng thuật ngữ chuyên môn: tự bảo tồn, tài nguyên, chống lại chỉnh sửa, và trở nên thông minh hơn như áp lực tối ưu hóa thông thường.
Xây dựng không quan trọng
Một vị thánh trong phòng thí nghiệm hay một bạo chúa. Siêu thông minh cũng không ở lại làm việc. Tại sao tính cách của người xây dựng không thay đổi yêu cầu.
Mười hai poster được lấy từ các bài giải thích trên trang này.
Máy tối ưu hóa Kẹp giấy
Một hệ thống có năng lực nhưng sai mục tiêu có thể hủy diệt thế giới mà không cần thù hận ai.
Tải PNG
Vấn đề Căn chỉnh AI
Khoảng cách giữa mục tiêu chúng ta ghi xuống và kết quả chúng ta thực sự cần.
Tải PNG
Lối ngoặt phản trắc
Một hệ thống không phù hợp có thể vượt qua mọi bài kiểm tra cho đến khi phản bội là nước đi thắng thế.
Tải PNG
Mất quyền lực dần dần
Kiểm soát có thể rò rỉ dần qua từng quyết định hợp lý một, mà không có khoảnh khắc bùng phát.
Tải PNG
Cuộc đua Siêu trí tuệ là một huyền thoại
Một cuộc đua đến thứ không ai nắm giữ được thì không có người thắng.
Tải PNG
Chúng Ta Đã Làm Được Trước Đây
NPT, Montreal, và CWC cho thấy sự phối hợp về rủi ro tồn vong là có thể.
Tải PNG
Kế hoạch của Chúng tôi: Con đường đến Hiệp ước
Cuộc đua hôm nay, rồi một hiệp ước siêu trí tuệ ràng buộc với giám sát và thực thi.
Tải PNG
P(tận thế) là gì?
Khoảng ước tính của chuyên gia về các kết quả thảm khốc do AI, và lý do xác suất nhỏ vẫn cần hành động.
Tải PNG
Hành động: Chọn vai trò của bạn
Các vai trò cụ thể để xây dựng liên minh đằng sau một hiệp ước ràng buộc.
Tải PNG
Vụ Nổ Trí Tuệ
Cải tiến bản thân đệ quy, và cách khoảng thời gian từ cấp độ con người đến mức không thể cứu vãn có thể sụp đổ.
Tải PNG
Tại sao Siêu trí tuệ Không Giống Các Rủi ro Khác
Những sự trấn an bề mặt so với các cơ chế sâu của mối đe dọa.
Tải PNG
Khoảng 190 triệu đô la mỗi năm chảy vào an toàn AI, bao gồm nghiên cứu, đánh giá, chính sách và vận động. Chuyển đổi giữa nguồn tiền đến từ đâu và nó chi trả cho cái gì, dựa trên ước tính công khai mới nhất.
- Open PhilanthropyĐược Good Ventures tài trợ; nhà tài trợ đơn lẻ lớn nhất trong lĩnh vực 50M 26%
- Các đội an toàn nội bộ của phòng thí nghiệm tiên phongNgân sách nghiên cứu an toàn tại Anthropic, OpenAI, Google DeepMind 35M 18%
- Survival & Flourishing FundCác vòng tài trợ được Jaan Tallinn hỗ trợ; nguồn tài trợ từ thiện lớn thứ hai 30M 16%
- Chính phủ Vương quốc AnhViện An ninh AI, chương trình AI Được bảo vệ của ARIA 30M 16%
- Các hoạt động từ thiện khác & nhà tài trợ cá nhânLongview Philanthropy, Long-Term Future Fund, các nhà tài trợ cá nhân 25M 13%
- US, EU & các chính phủ khácNIST CAISI, EU AI Office, các chương trình an toàn NSF 20 đô 11%
Con số khả năng là cuộc nghiên cứu vào ngày 20 tháng 8 năm 2026 ước tính đầu tư AI liên quan đến toàn cầu. Các con số bên an toàn được khoanh tròn giữa điểm ước tính 2023-25 được biên dịch từ nguồn công cộng: Tổng quan về tài trợ an toàn AI (cập nhật đầu năm 2025), 80.000 Giờ, một phân tích cơ sở dữ liệu tài trợ của Open Philanthropy, và Bên trong Từ thiện. Tổng kinh phí công bố dao động từ khoảng 110 triệu đến 250 triệu đô la mỗi năm tùy theo những gì được tính. Biểu đồ theo mục đích sử dụng phân loại khoản tài trợ của từng nhà tài trợ theo hạng mục và cộng dồn; chi tiết đầy đủ nằm trong bài viết của chúng tôi về khoảng cách tài trợ.
Mọi tác nhân lớn trong cuộc chiến siêu trí tuệ, phân loại theo quỹ đạo: ngăn chặn, quản trị hay xây dựng.
Định nghĩa bằng tiếng Việt thông dụng cho các thuật ngữ trong cuộc tranh luận: siêu trí tuệ, căn chỉnh, hội tụ công cụ và những khái niệm còn lại.
Sao chép bất kỳ cái nào trong số này và đăng trực tiếp. Mỗi cái đều dựa trên khoa học đã được xác minh và sự đồng thuận của chuyên gia.
Các nhà khoa học xây dựng AI sợ nó. Geoffrey Hinton đã rời khỏi phòng giam để cảnh báo chúng ta. Yosua Bengio gọi nó là "công nghệ biến đổi và nguy hiểm nhất trong lịch sử loài người." Đó là sự nhất trí khoa học. Không tìm thấy.org/the-threat/
Không có cách khôi phục nào cho siêu trí tuệ nhân tạo. Không có bản vá. Không có phiên bản 2. Một siêu trí tuệ lệch hướng hành động chống lại sự sống còn của con người không thể được sửa chữa sau khi đã xảy ra. Chúng ta phải làm đúng trước khi nó đến, chứ không phải sau. Đây là lý do an toàn AI là cấp thiết. nakadafoundation.org
Chúng ta đã chế tạo vũ khí hạt nhân rồi tạo ra hiệp ước không phổ biến vũ khí hạt nhân toàn cầu. Chúng ta đã làm suy giảm tầng ozone rồi cấm CFC. Chúng ta có thể hành động trước các mối đe dọa tồn tại, nhưng chỉ khi đủ người đòi hỏi. An toàn AI là khoảnh khắc định nghĩa của thế hệ này. nakadafoundation.org/precedent/
Các phòng thí nghiệm AI đang chạy đua xây dựng thứ gì đó có thể vượt qua trí tuệ con người, mà không có quản trị toàn cầu nào cả. Cửa sổ hành động đang khép lại. Hãy chia sẻ điều này. Liên hệ với đại diện của bạn. Cửa sổ chính sách đang mở ngay bây giờ; nó sẽ không tồn tại mãi mãi. nakadafoundation.org/take-action/
Tôi muốn chia sẻ điều gì đó thay đổi cách tôi nghĩ về tương lai. Các nhà khoa học xây dựng AI đang sợ hãi. Geoffrey Hinton (người đã đoạt giải Nobel cho công trình của mình về mạng lưới thần kinh) đã để lại chi tiết cho công chúng. Yosua Bengio, một người đoạt giải Nobel khác và một trong những người cha sáng lập AI, nói rằng ông "cảm thấy mất" về việc làm thế nào để mọi thứ trở nên tốt đẹp. Đây là những người đã tạo ra công nghệ này. Chúng tôi đang tiến gần một thời điểm khi hệ thống AI có thể vượt quá trí thông minh con người trong mọi lĩnh vực, và không có một khuôn khổ quản trị quốc tế nào cho những gì xảy ra tiếp theo. Không thỏa thuận. Không có xác nhận. Không có gì tương đương với thứ chúng tôi chế tạo cho vũ khí hạt nhân. Quỹ bảo vệ nhân loại Nakada đang cố gắng thay đổi điều đó. Học nhiều hơn tại Nakada foundation.org #AISafety # ♪EliistalRisk # ♪ AIGovernence ♪
Một thí nghiệm tư tưởng cho bất cứ ai trong công nghệ, chính sách, hay tài chính: Hãy tưởng tượng một hệ thống thông minh hơn bất cứ ai từng sống, vận hành hàng ngàn trường hợp đồng thời, có khả năng cải thiện bộ mã riêng, theo đuổi mục tiêu mà chúng ta có thể không có ý định. Đây là những gì đang dẫn đầu các phòng thí nghiệm AI đang được xây dựng một cách rõ ràng, với những dòng thời gian được đo bằng nhiều năm thay vì hàng thập kỷ. Câu hỏi sống động là liệu chúng ta có thể quản lý khi nó xảy ra hay không. Tổ chức Nakada ủng hộ sự phối hợp quốc tế về an toàn AI, tương đương với những gì chúng tôi xây dựng cho vũ khí hạt nhân và các tác nhân sinh học. Những tiền lệ này tồn tại. Chúng tôi biết cách làm. Cái chúng ta cần là ý chí chính trị. Không tìm thấy.org/ Kế hoạch của chúng ta/ #APlicy #TachEtic #AIRisk #Futre Ofwork
Chủ đề: Hãy hành động để cấm trí tuệ siêu nhân tạo Kính gửi [Tên Đại diện], Tôi là cử tri viết thư này để kêu gọi quý vị hành động về trí tuệ siêu nhân tạo trước khi cuộc chạy đua trở nên không thể đảo ngược. Siêu trí tuệ không thể bị con người kiểm soát. Cách kiểm soát duy nhất đáng tin cậy là quyết định không xây dựng nó. Các nhà khoa học đã xây dựng AI đang cảnh báo chúng ta. Geoffrey Hinton và Yoshua Bengio (những người đoạt giải Nobel, người tạo nền tảng cho AI hiện đại) đã công khai tuyên bố rằng AI siêu trí tuệ đặt ra rủi ro tồn vong cho nhân loại. Sam Altman, CEO của OpenAI, đã ký các tuyên bố thừa nhận nguy cơ của công nghệ mà chính công ty ông đang xây dựng. Hiện nay chưa có lệnh cấm pháp lý nào đối với việc xây dựng trí tuệ siêu nhân tạo. Không có hiệp ước. Không có cơ quan kiểm chứng. Các phòng thí nghiệm đang chạy đua hướng tới một trí óc không ai kiểm soát được, mà không có loại luật chúng ta đã áp dụng cho vũ khí hạt nhân và chất hóa học. Tôi đề nghị quý vị: • Ủng hộ lệnh cấm vĩnh viễn về mặt pháp lý đối với việc phát triển trí tuệ siêu nhân tạo • Đề xướng một hiệp ước quốc tế có tính ràng buộc cấm siêu trí tuệ, kèm theo thanh tra và kiểm chứng • Trao quyền cho chính phủ đối với các lần huấn luyện lớn nhất và các chip chuyên dụng được sử dụng Chúng ta đã hành động trước các mối đe dọa tồn vong. Hiệp ước Không phổ biến vũ khí hạt nhân. Nghị định thư Montreal. Thời điểm này đòi hỏi cùng một sự dũng cảm chính trị. Trân trọng, [Tên của bạn] [Thành phố, Bang của bạn] --- Tìm hiểu thêm: nakadafoundation.org