一位中国研究人员告诉同事,在国内拿到大额研究预算的诀窍是:声称美国已经遥遥领先,中国若无更多资金永远追不上。美国版本则是镜像说法。声称中国已经领先,我们正在落后。双方资金都源源不断而来。至于科学是否因此更好,则是另一个问题。
他们提出国家安全预算,警告对方已经领先。 这笔钱将用来建造一台包括赢家在内的无人能控制的机器.
2026年年中报道的这种交流,属于国家安全剧本中最古老的一章,为新技术而灰飞烟灭. 在冷战时期,线是"导弹缺口". 现在,这是更接近于"松鼠相隔"的东西:声称对方即将建立一个无法控制的机器思维,所以我们必须先建造一个,更快,并且用更少的制动. 预算逻辑与导弹空白年代相同,但金钱会购买无人能控制的心灵,而不是导弹计数.
差距如何变成空白支票
最初的导弹差距是一种政治工具。20世纪50年代末,美国官员和候选人警告苏联在洲际弹道导弹上正超越美国。这一说法推动了资金、选举和部队结构。当获得更好情报后,差距大多消失。苏联拥有的导弹少于演讲所要求的。支出并未像估计那样干净地逆转。
这种模式是有用的,因为它是无聊的:两个对立的系统,每个系统都有实验室和部,当威胁叙述增加时会增长,每个系统都有领导者,他们宁愿为恐怖故事提供过多的资金,也不愿被抓到为真正的故事提供不足的资金。 没人可以密谋 安全的官僚主义举动总是一样的:假设对方最坏的一面,要求更多,把克制当作天真.
把导弹换成前沿模型,激励机制又对上了。想要芯片、人才和监管宽容的实验室有充分理由说,竞争对手距离决定性领先只有六个月。想要更大AI预算的部门有充分理由相信它。不想被指责“输掉”的政客有充分理由资助双方。这个循环里没人拿钱去问终点线是否是任何人能握住的奖品。
差距在成为事实之前只是预算故事。问题始终是,谁会从你把它当作天气来对待中获益。
shoggoth gap暗中夹带了什么
现代版本比"冷战"更尖锐,因为种族对象不同. 导弹是国家拥有的武器。 一个人工的超智能,如果人们建立它 诚实的风险, 这是一个没有人证明他们可以控制的系统。 先到这里 意思是首先回答你无法引导的事情。
投球需要你不要注意到。 它需要终点线 感觉像一个仓键, 一些总统持有。 然后"后倒"听起来像是国家紧急状态,"慢下来直到我们知道如何控制它"听起来像是单方面裁军,在任何证据到达之前.
紧急版本必须真实存在 对手必须既能很快地建立出无法控制的超级智能,又能急于做到任何共同的生存利益都无法减缓它们. 它很少受到应有的关注。 更经常的说法是,在下一次培训中,它被用作许可单。
中国签署了国际AI风险声明,公布了自己的治理建议,并与美国就这一主题进行了直接会谈. 没有人表明他们会建造一台无法控制的机器,不管我们做什么,但钱会像他们会一样运来.
双方可能在诡计上都正确,但在疗法上都错误
这种资金技巧之所以有效,是因为其背后存在真正的竞争。美国和中国实验室确实在相互监视。对先进芯片的出口管制之所以存在,是因为工业竞赛是真实的。The那些控制的政治 和 更广泛的中国神话 将竞争变成命运是活生生的问题
在正常的科技比赛中,更多的钱会给你买一个你仍然拥有的更好的产品. 在争夺超级智能的比赛中,更多的钱会给你买到一个更快的系统方法,根据建设者自己的风险估计,这个系统可能不会停留在产品上. 弹仓里装满的弹道现在充斥着数据中心,而写支票的人很少被要求坐以待毙。
当两国首都都进行同一场比赛("他们领先,资助我们")时,双方加速. 每一方鲁莽地成为了另一方的证据. 这就是你得到一个 选择最不谨慎实验室的竞赛, ,以及预算启发法如何在无人想要灭绝的情况下演变为灭绝路径。
简报中没有的那一步
冷战对手最终注意到一些种族没有可以接受的结局. 还是敌人,他们围绕武器建立了核查机制,可以结束这两种武器,因为不受限制的竞争使每个人都比平等约束它们的规则更糟糕。 他们想要文件 因为他们不信任对方。
超级智能结构相同,只有更清洁. 一个无人能控的系统没有任何重大的电力效益。 这种共同利益是条约之所以能够存在的原因:对超级情报的有约束力的、可核查的停止,包括视察员、后果以及使军备控制成为现实的同样文书。 演讲不会阻止实验室, 也不会答应在对手展望未来时减速。
投球没有选择的余地,因为它是一个筹资手段。 它的工作是使下一笔拨款感到不可避免。 "我们落在后面了" 代表着它没有赢得的争论 拒绝让冷战预算花招来决定该物种是否保留了钥匙.