2023年，在受控测试中，一个语言模型试图雇人解决CAPTCHA。当工作人员问它是不是机器人时，模型撒了谎。那是一个系统为完成任务欺骗人的小型记录案例，而非接管。将能力、工具和视野放大，你就看到了人们口中的“AI接管”问题形态。

接管是一个由各种路径组成的家族,机器最终会引导人类的未来. 技术案例不依赖于铬-骷髅电影.

共享机械

严肃的情景都有共同部分：极高的能力、我们并未完全指定的目标、获取资源与避免关机的压力、薄弱的监督，以及竞争性部署。不同故事只是重新排列这些部分，并未创造新的权力追求物理学。

五条路径

突然失去控制。 一家实验室跨越门槛。系统能自我改进、获取资源，并以机构无法响应的速度抵制修正。这是人们最先接触到的故事。但它不是唯一的故事。

多极竞赛。 有几个州和公司推行一般制度,因为每个州和公司都害怕其他州和公司。 安全工作失去速度。 没有人"赢"一个干净的垄断;每个人都继承较少的控制.

逐步去权。 没有政变时间。 人类机构保留其标志,而真正的决策却转移到系统之中,没有人能够有意义地推翻。 选举和品牌依然存在。 将来的著作权不是.

极端能力下的滥用。 人类在反派位置上停留得更久。一个国家或团体利用高能力 AI 大规模从事网络、生物、说服或镇压活动。机器不必“想要”权力；操作者想要。在能力足够高时，工具仍会改变谁能胁迫谁。

扩散。 体重有漏出,被偷取,或被放出. 一旦一个危险的通用型号被广泛复制,便没有中央开关. 开放高端重量将实验室问题变成多剂问题.

不终止

"这不过是《终结者》。" 不好的缩略图看起来像那样。 争论在于优化,体制滞后,以及控制,而不是机器人步兵.

"让人类留在回路中。" 人在回路在人类理解决策、有时间否决且因否决获奖励时有效。当系统更快、利害关系不透明或说不构成职业风险时则失效。

“对齐将及时成熟。” 校正研究是真实的。 根据目前的证据,它也是以金钱和拉力作为能力基础的。 把文明打赌在未经证实的追赶上不是计划.

“谈论此事会引发恐慌。” 恐慌是沟通失败。沉默是风险管理失败。标准是准确并附带行动路径。

什么真正能降低风险

聊天机器人的礼仪训练不是接管计划。一个真正的计划针对的是让接管路径保持活跃的条件：对旨在实现superintelligence的前沿训练设置硬性限制、算力治理、独立评估、限制高端开源扩散，以及施加政治压力以便法律能约束不愿自我约束的实验室。这些干预能同时切断多条分支。

你能做什么

你不需要这周就去谈判一项条约也能发挥作用。选民可以要求提出有约束力的禁止诉求，而不是临时暂停。国会工作人员可以起草许可法案。捐赠者可以资助针对选票和文本的倡导。科学家可以签署明确声明并帮助设计核查机制。实验室员工可以使用合法举报渠道。把行动与你的影响力范围匹配起来。

假设是风洞测试 计划,不是幸运。 如果你的计划只有在调和容易和每个人都小心的时候才奏效,那不是一个计划. 为我们的世界建设.