反复出现的反对意见。在对话中使用它们，然后点击链接查看完整论证。
用大白话解释AI安全风险
什么是超级智能、它为何危险，以及我们能做些什么——不使用术语。最清晰的一页式介绍。
科学共识
诺贝尔奖得主、图灵奖获得者以及参与构建AI的资深研究人员的精选语录，以及2014年至今专家警告逐步升级的时间线。
致政策制定者的简报
国际AI安全治理的理由：问题、现有框架为何不足，以及政府现在可采取的具体行动，参照已奏效的先例。
倡导者的论点
AI 安全关切的五种最常见反对意见，以及如何准确自信地回应每一种。写给与怀疑者、决策者和同行的对话。
超级智能，四张信息图
四份可视化单页材料，涵盖超级智能的风险、治理差距、表明行动可行的历史先例，以及具有约束力的国际AI条约必须包含的内容。
简单可视化
四张醒目的视觉卡片：灭绝概率估计、投资治理差距、证明全球行动有效的条约先例，以及具有约束力的AI条约的要求。
预防，而非暂停
为什么临时放缓是错误的诉求。永久禁止超级智能，同时让窄AI继续运行的理由。
永不构建超级智能
不可逆性、错位目标，以及为何一旦系统超越其创造者，“我们稍后修复”就会失败。拒绝理由一页概览。
中国竞赛神话
为何“若我们放缓，中国获胜”描述了一场无人能赢的竞赛，以及如何以核查而非冲刺回应。
保留AI。阻止超级智能。
有用窄域工具与自主通用心智之间的清晰界限。支持AI做工具；反对超级智能做我们无法控制的心智。
条约如何被核查
你不监管权重。你监管硬件：芯片追踪、集群许可、检查以及代工厂规则，用简明英语表述。
具有约束力的AI条约必须包含的内容
将真正协议与新闻稿区分开来的六项条款：禁止、算力控制、监察机构、国内法、例外条款以及仅基于证据的修订。
对齐不是计划
技术安全研究很重要；它绝不是继续狂奔的通行证，我们手头的任何资金都应投向那里。预防第一；研究不应在商业枪口下进行。
五分钟解释
口头对话脚本：建造者的警告、什么是超级智能、为何拔掉电源无效、中国路线，以及干净地导向行动。
本周你可以做什么
个人影响力、政治影响力、一小时模式和平台模式的具体清单。选择两个。完成它们。
一分钟简报
政策制定者留存材料：三项数据、三项诉求、预防框架，以及用工作人员篇幅回答的中国反对意见。
安全资金缺口
~$190M进入安全,而大约$1T进入能力. 薄薄的保险罐放哪 买什么来代替剧院
为什么智能系统会抵制控制
无需术语的工具性收敛：自我保存、资源获取、抗拒修改，以及将变得更聪明视为普通优化压力。
谁造它不重要
实验室里的圣人或暴君 超级情报部门也不留一个员工 为甚么造者个个性不改出问.
从本站解释文章中提取的十二张海报。
每年约有1.9亿美元流入AI安全领域，包括研究、评估、政策和倡导。基于最新公开估计，在资金来源和用途之间切换。
- Open Philanthropy由Good Ventures支持；该领域最大的单一资助者 5 000万美元 26%
- 前沿实验室内部安全团队Anthropic、OpenAI、谷歌 的安全研究预算 深度思维 3 500万美元 18%
- 生存与繁荣基金扬·塔林 支持的资助轮次；第二大慈善来源 3 000万美元 16%
- UK 政府AI安全研究所，ARIA的受保护AI项目 3 000万美元 16%
- 其他慈善事业与个人捐助者Longview Philanthropy、Long-Term Future Fund、个人捐赠者 25 000美元 13%
- US、EU 及其他政府NIST CAISI、EU 人工智能办公室、NSF 安全计划 2万美元 11%
能力数字为高盛研究公司2026年8月全球AI相关投资估算. 从公共来源汇编的2023-2025年安全方面数字是四舍五入的中点估计数: AI 安全资金概览 (updated early 2025), 80,000 Hours, ，一个 Open Philanthropy 资助数据库分析, 和 慈善内幕. 已公布总额每年约1.1亿美元至2.5亿美元，具体取决于统计范围。按用途图表将各资助者的拨款按类别分类并汇总；完整计算见 我们关于资金缺口的文章.
超级智能之争中的每个主要参与者，按轨迹分类：阻止、治理或建造。
用浅显易懂的英语解释这场辩论所用词汇：超级智能、对齐、工具性收敛及其他。
复制其中任何一条并直接发布。每一条都基于经过验证的科学和专家共识。
造出AI的科学家对此感到害怕. 杰弗里·辛顿离开谷歌 警告我们 约书亚·本希奥称其为"人类历史上最具变革性和潜在危险性的技术". 这就是科学共识。 Nakadafoundation.org/the-威胁/
超级智能没有回滚。没有补丁。没有版本2。 一个与人类生存相悖的失调超级智能事后无法纠正。我们必须在它到来之前做好，而非之后。 这就是AI安全如此紧迫的原因。nakadafoundation.org
我们造出核武器后缔结了全球不扩散条约。我们耗竭臭氧层后禁用了氟氯烃。 面对存在威胁，我们能够采取行动，但前提是足够多的人要求这样做。 AI安全是这一代人的决定性时刻。nakadafoundation.org/precedent/
AI实验室正在竞相构建可能超越人类智能的东西，而全球治理尚付阙如。 行动窗口正在关闭。分享本文。联系你的代表。政策窗口此刻开启；它不会永远如此。 nakadafoundation.org/take-action/
我想分享一些改变我对未来的看法的东西。 建筑AI的科学家们很害怕. 杰弗里·欣顿(因在神经网络上的工作而获得诺贝尔奖)特别离开谷歌去警告公众. 另一位诺贝尔奖得主和AI的创始人之一约斯华·本吉奥(约书亚·本希奥)说,他"感到"迷失了如何让事情顺利进行. 这些是制造这种技术的人。 我们即将到来的时刻是,人工智能系统可能超越人类在每个领域的智力,而且对于接下来会发生什么,没有国际治理框架。 没有条约。 没有核查机构。 没有什么比不上我们为核武器建造的东西。 中田拯救人类基金会正在努力改变这种状况。 在Nakadafoundation.org学习更多 #AISafety # 存在风险 #AIGovernance #超级智能
技术、政策或金融领域的任何人的思想实验: 想象一下一个系统比所有曾经活着的人类都更聪明,同时运行了上千个案例,能够改进自己的代码,追求我们可能没有打算的目标. 人工智能实验室正朝着这个方向明确发展,其时限是按年份而不是按几十年来衡量的。 现实的问题是,当治理到位时,我们是否将实施治理。 中田基金会倡导在AI安全方面进行国际协调,这相当于我们为核武器和生物制剂所建造的东西。 这些先例是存在的。 我们知道该怎么做。 我们需要的是政治意愿。 nakadafoundation.org/我们的计划/ #AI政策#科技 #Airisk未来工作
主题：请行动起来，禁止人工智能 亲爱的[代表姓名]， 我写这封信是为了敦促你们在竞争变得不可逆转之前对人工智能采取行动。超级智能是人类无法控制的。唯一可靠的控制是决定不建造它。 构建人工智能的科学家正在警告我们。杰弗里·辛顿 (杰弗里·辛顿) 和约书亚·本吉奥 (约书亚·本希奥)（为现代人工智能奠定基础的诺贝尔奖获得者）公开表示，超级智能人工智能对人类构成了生存风险。 OpenAI 首席执行官萨姆·奥尔特曼 (萨姆·奥尔特曼) 签署了声明，承认他自己公司正在开发的技术存在危险。 如今，法律并没有禁止构建超级人工智能。没有条约。无验证机构。实验室正竞相走向无人能控制的思维，没有我们已经用于核武器和化学制剂的那种法律。 我要求你： • 支持永久禁止发展人工智能的法律 • 倡导一项具有约束力的国际条约，禁止 超级智能，并进行检查和验证 • 赋予政府权力来管理最大规模的训练及其使用的专用芯片 我们以前曾针对生存威胁采取过行动。 《核不扩散条约》。蒙特利尔议定书。这一刻需要同样的政治勇气。 真诚的， [你的名字] [您所在的城市、州] --- 了解更多：nakadafoundation.org