"如果我们停止建立超级情报,别人会的". 是百个房间的谈话主持人 听起来像是地理和游戏理论 它常常是继续建设的一种方式,同时称建造是不可避免的。 用我们已经处理过的技术来尝试同样的形状. "如果我们停止制造氟氯化碳冰箱, 别人会继续制造冰箱。"
是的，他们继续生产冰箱，并停止使用正在撕裂天空的化学物质。
两个不同的名词
冰箱提供一种服务：冷藏食物、保存疫苗、减少损耗。氯氟烃曾是实现这一服务的一种方式，但一旦其对臭氧层的破坏被证实，就成了灾难。 蒙特利尔议定书 并没有宣布寒冷为非法。 它计划逐步淘汰造成破坏的物质,为穷国的替代品提供资金,并支持贸易压力交易。 工业界说,淘汰是不可能的;制冷仍在继续,氟氯化碳没有。
超智能的花言巧语将两个名词倒成一. "AI"成为了包括癌症模型,路线规划者,以及比人类更聪明的假想剂的单一blob. 如果你拒绝最后一个项目,加速者们说,你也拒绝了第一个项目,有人会不小心地把全部都运走。 动作是假装毒药与产品完全相同,这样去除毒药听起来就像对产品的战争.
我们没有通过使用比对手更多的氟氯化碳来挽救臭氧层。 我们保留了冰箱,把化学剂退了
"someone else will"这句话的用意
竞争对手的实验室,或者竞争对手的状态, 可能试图通过你画的线来训练。 这种可能性确实足以计划。 这也是发明军备控制来处理的可能性。 “其他人可能制造核武器”的答案不是“那么我们必须制造更大的核武器”。 这是核查、对裂变材料的阻塞和突破的后果。
计算比铀更棘手，没有认真的人会假装不是这样。它依然是物理实体，在前沿成本高昂，且需经由少数芯片制造商、晶圆厂和云区域传递。这提供了足够结构来建立检查机制，这就是为什么 算力治理 出现在每一份严肃的条约草案中。“其他人会做”跳过了这项工作，直接走向许可。
如果把克制定义为单方面投降,那么唯一的成人姿态就是全速. 投资者听到命运。 安全人员听说减速很天真 实验室领导人不需要赢得关于机制的辩论。 他们只需要做出第三种选择,共同克制,感到幼稚.
冰箱从来不是敌人
我们想要的是能诊断疾病、设计药物、发现桥梁隐患的窄AI。请把这一点说清楚，别让抹黑站住脚。基金会的立场是拒绝建造 超越并取代人类控制的系统 而控制问题尚未解决。
那更接近于“使用其他制冷剂”，而非“禁止冷藏”。混淆这一区别的人，正借用有用AI的受欢迎度，作为掩护那种不会停留在工具阶段的能力。
臭氧之战实际教给我们的
蒙特利尔之所以成功,是因为科学变得响亮,代用品存在,坚持者面临着贸易成本. 超级智能更难替代“战略统治”, 没有一个大国有一致的利益 在一个不受任何人指挥的系统中。 共同的脆弱性是交易的原材料。 争斗的恐惧能为条约提供资金 就像为冲刺提供资金一样容易, 一旦空心完成可见。
问他们是指有用的AI还是超智能:我们保留工具并阻止无人能控制的系统. 对于超级智能来说,叛逃风险是建立执法的由来,而不是先发制人的原因. 冰箱一直开着 天空痊愈了,因为人们能分辨出不同.