炸弹是建造的,瞄准的,而且到目前为止,1945年后再也没有对一座城市使用过. 制造"至今"的人,那些在冷战时期建立禁试措施的人, 热线, 以及那些使恐怖的僵持状态无法成为最后的核查制度, 做了上个世纪最重要的一些工作。 他们中的大部分人永远不会因此而出名. 预防本质上是安静的。 当它工作的时候,什么也没有发生,没有什么是一件很难放在纪念碑上的事情.
同样的形状，一种新武器
当我说我们正在经历一场新的冷战时,我指的是同样的形状:美国和中国竞相追求一种技术,但两者都无法先让对方到达,如果它出错,那就可能结束人类的故事,没有人能诚实地声称自己能控制。 把氢弹换成人工超智能 你还有1958年和2026年
听到这种回响的并非只有我一人。六月，中央情报局局长在华盛顿对听众表示，将当今前沿人工智能的能力称为 "数字核武器。"
差异的方向错了
当时和现在存在真实差异，而这正是让我夜不能寐的部分。几乎所有差异都让我们的处境更难，而非更易。核武器仍掌握在人类手中；超级智能 不会. 。核材料是物理的，因此可以开采和清点。AI 的输入是芯片和代码，更难看见也更容易隐藏，尽管 并非不可能治理. 而冷战赋予了参与者我们或许无法获得的一样东西：时间。世界有多年时间来消化广岛的冲击，体会内心的恐惧，并建立应对的机构。AI能力的增长速度快于我们任何现有机构所能跟上的步伐。
冷战真正证明了什么
但同一时代也摧毁了加速主义者最倚重的论点：互不信任的对手永远无法同意自我克制。华盛顿与莫斯科彼此极度不信任，却仍签署了具有约束力、可核查的军控协议，因为双方都清楚，无限制竞赛只会让彼此境况更糟。不信任正是缔约的原因，而非障碍。如果两个政府能在数万枚核弹头对准对方城市的情况下找到这一逻辑，那么声称美中永远无法在 AI 上达成同样协议的说法，不过是继续赛跑的借口，披着现实主义的外衣。
基金会为何存在
我拒绝参与制造能够瞄准自己的武器的一代人,并一直告诉自己,它别无选择。
那些阻止冷战最坏结果的人，正是坚持认为有些技术危险到不能任由竞赛决定的人，尽管所有人都说他们天真。他们当时是对的。现在唯一重要的任务，就是再次正确，而且要及时正确。