反对治理超级智能的论点很聪明。它们先承认危险（“当然，可能有风险”），然后悄悄把不可能从技术转移到解决方案上。如果风险无法否认，或许回应可以被描绘成幼稚、本身危险，或根本无望。其效果与直接否认风险相同：什么都不会做。
规则会扼杀创新，并将领先地位拱手让给鲁莽者。现在还太早。无论如何，民主国家永远无法达成一致。这些论点将关切转化为麻痹。
以下是我最常听到的五种反对意见，我会尽可能有力地陈述它们，因为对弱化版本的反驳说服不了任何人。另一类相关反对意见（中国不会遵守、企业会自我监管、我们只需关闭不良系统）我已在 神话页面. 。这五条关乎治理本身。
“全球治理AI意味着世界政府与暴政。”
将足够权威集中在一个机构 来控制地球上最强大的技术 你可能已经建立了 完全的暴政机器 你害怕的技术。 不信任中央集权的人,理应不信任它.
但它的目标是提案的稻草人版本。真正摆在桌面上的是一个针对特定事物的狭窄制度：能够产生比任何人类在各方面都更强大的系统的极少数超大规模训练运行，而不是对日常生活、通用软件或你口袋里的手机的全球权威。模型是 核不扩散机制 或 化学武器公约, ，针对的是监测裂变材料和前体化学品的具体协议，而不是解散民族国家的世界政府。没人认为国际原子能机构在统治地球。它只监控一项特定危险活动，其余一切都不干涉。
通往永久暴政的最可靠路径，不是条约，而是条约的缺失。一个失控的超级智能，或被率先解决控制问题的单一公司或国家捕获的超级智能，是 conceivable 的最完整的支配工具——一种永不消亡、永不疲倦、能锁定单一价值体系的权力 永远, 超越任何反抗或改革的希望。历史上每一种暴政终结，都是因为暴君会死、其机器由人类操作。而这一种不必如此。如果你害怕不受问责的权力（你应该害怕），那么一个 可执行的协议 阻止任何单一行为者攫取该权力是反威权立场，而非威权立场。
"你无法验证它。它只是某处服务器上的软件。"
核条约起作用,条约怀疑者说,因为你可以数出弹头并探测出浓缩;铀是物理的和罕见的. 但模型只是数字。 你不能检查一个文件。 任何协议都将是无法执行的剧场,约束诚实者,对作弊者无动于衷.
听起来果断，直到你注意到你验证错了东西。你不监管权重；你监管 计算 ，而算力则像铀一样具有物理性和稀缺性。训练一个前沿系统需要数万块专用芯片在单一设施中连续运行数月，这条供应链是现代经济中最狭窄的瓶颈之一：基本上只有一家荷兰公司生产光刻机，一家台湾公司制造领先芯片，一家美国公司设计主流架构。使用这些芯片的集群耗电量巨大，在电力数据和卫星图像中都能显现。你可以清点芯片、追踪销售、计量电力并监视建筑。裂变材料正是按此逻辑管理——追踪稀缺的物理投入，武器就无法秘密制造。 核查手册已经存在; 这里的输入恰好更加集中。它是 一个工程问题, ，而工程问题都有解决方案。
“监管会扼杀创新，让鲁莽者胜出。”
强硬版本认为：技术进步是因为有人能自由建造，大多数监管由不理解自己正在拖慢什么的人撰写，对AI施以重手会把本世纪最重要的产业拱手让给监管最松的地方。与其让一个有缺陷的前沿留在这里，不如让一个 pristine 的前沿留在某个敌对之地。
没有人认真提议管制"AI". 有益的系统 折叠蛋白质, 阅读扫描, 辅导儿童, 和模拟气候 狭窄,可控制的工具, 光明而平凡的未来 是我们试图保护的对象。目标是单一危险类别：那些追求超越我们通用能力的训练运行，而目前尚无人知道如何让它们安全。约束这一类别并不比功能增益规则反生物学更“反创新”。
然后是更难的那一点，而竞赛逻辑从未正视：走得快并不能带来 安全 超级智能更快。 它提供了不安全的一面,而不安全的超级情报不为建造它的国家或公司服务,它威胁着他们和其他人。 当角落在竞争压力下被切割时,被切割的角落是能够使系统可以控制的角落. 所以这里所捍卫的"创新"是创新,它最相似的终点是它自己的制造者无法操纵的系统. 这是 危险本身, ，将进步披上外衣。
“为时过早。你无法监管不存在的东西。”
这感觉像是成熟的表现。不要针对幻影立法；等到技术真正出现，了解你在处理什么，然后制定符合事实而非猜测的规则。监管假设情景正是产生糟糕法律的原因。
这对几乎任何其他技术而言都是智慧。对这一技术却是陷阱，原因在于时机。治理缓慢：核不扩散条约耗时数年谈判，《蒙特利尔议定书》又耗时数年生效，而那些已是快的。若等到超人系统明显存在后再开始构建治理它的制度，制度会在其本应遏制的对象出现多年后才到来，而这是唯一一种其 首次严重失误可能无人能通过第二法则. 。“等待证据”在证据可存活时是合理的规则。这里证据就是灾难。 预防性逻辑 即认识到治疗的准备时间长于问题的引信。
对于灾难性技术的每一项可行保障措施，都是在其兴起之前或期间建立的，从未在之后，因为“之后”从未被提供。
"民主国家行动太慢且被俘获。它永远不会通过。"
5个中最安静地被腐蚀的,因为它穿着现实主义的外衣. 堵塞了,游说了,立法机关的注意力很短,产业的金钱范围很广. 即使一项条约是明智的,其产生机制也是被打破的. 最好保持清醒 而不是把十年浪费在幻想上
它一再被历史记录所驳斥,而且通常面临比现在更糟糕的厄运。 敌对势力会签下他们最致命的选择的想法, 被称为无望地天真, 直到他们这样做,在 《不扩散核武器条约》、《生物和化学武器公约》、《蒙特利尔议定书》、《南极条约》. 。曾在冷战高峰期相互发动代理战争、彼此视对方为邪恶的对手，依然建立了经验证的军备控制。这些在近端看来不可能的事，事后却显得必然。
而现实情况比犬儒主义者所承认的更有利。在美国、英国和EU，, 绝大多数 已经告诉民调机构，他们希望AI谨慎开发并受严格规则约束；公众不是障碍。障碍在于这种普遍而安静的担忧尚未组织成立法机构能感受到的压力。障碍是 工作: 将潜在的共识转化为政治意愿。这正是我们面前的工作。
这五者的共同点
每一个反对都承认危险,然后找到另一个放弃的地方:解决方案太大,或者无法核实,或者成本太高,或者太早,或者太难通过. 任何一个人,单独带走, 听起来像谨慎。 他们共同组成了一个机器,其唯一产出是无所作为,不作为是一种选择,让少数竞争对手的公司在没有约束性限制的情况下,在极有可能产生每个人声称害怕的结果,而不是在这里中立的情况下,建立历史上最有后果的技术。
坚持治理会很容易并不能回答这些问题。它不会。核查将受争议，谈判将缓慢，某些政府将拖延，历史上每一项来之不易的条约都经历过这一切，却依然建成。诚实的说法是它有可能，构建它的部件已经存在，而那些挥手否定它的理由一旦被审视而非重复就会崩溃，并非说超级智能协议简单。
"这是不能做到的"对于我们所做的每一个可比的努力都是错误的. 任务是建立政治意愿,达成一项具有约束力的、经核查的协议,使最危险的系统不致被建造,直至它们能够安全。 "因此放弃"从来不是答案,现在也不是答案.