超级智能 治理的历史先例,, 先例已经存在。
意志必须跟上。

反对国际超级智能治理最常见的理由是“做不到”。可一个世纪的条约史证明并非如此。针对共同灭绝风险的协调早已发生过;那是严肃国家记录在案的习惯,而非乌托邦。

先例表明这是可以做到的。

核武器。 化学武器。 臭氧层。 就生存威胁进行全球协调是人类的一项有记录的成就。 援助倡议的问题是,我们是否将以必要的政治意愿及时这样做。

反对条约的论点
一直都是错的。

每当人类面对协调一致的存在性威胁时,同样的反对意见都会被提出:问题过于复杂,对手数量过多,核查过于困难,背叛过于可能。每一次,那些克服这些反对意见的人都建立了框架,尽管不完美,却阻止了灾难性后果。

当威胁明确,科学可信,宣传有组织时,即使缓慢而有争议,国际协调也是可能的.

超级智能的威胁被记录下来,科学警告是公开的,宣传也在增加. 仍然缺少的是足以迫使协调的政治压力。

以下四个案例,是人类文明在面对任何单一国家都无力独自解决的威胁时所能取得的标志性成就。每一个案例最初都遭遇了今天超级智能治理批评者提出的同样质疑。

核不扩散条约

问题

核武器在1945年被用于战争。几年内,多个国家已开发或正在开发核武器。数十个国家拥有核武库的前景代表着文明终结的风险。批评者曾说《不扩散核武器条约》不可能实现:参与者太多,国家利益冲突太大,无法核查合规。

解决方案

《不扩散核武器条约》于1968年开放签署,1970年生效。它建立了一个框架:大多数国家同意不发展核武器,以换取民用核技术的准入。通过国际原子能机构的核查机制监督履约情况。

结果

如今九个国家拥有核武器,而原本可能有数百个国家造出核武器。自1945年以来,核武器从未在战争中使用。NPT并不完美,它未能阻止所有扩散,但它阻止了批评者声称不可避免的灾难性情景。八十年的核和平并非偶然发生。

IAEA 铀浓缩监测

国际原子能机构成立于1957年,其任务是促进和平利用核能,同时防止其转用于武器。其视察与保障机制允许国际核查员核实申报设施中的核材料未被超民用目的进行浓缩。

这一监测制度之所以有效,是因为核材料与AI算力一样,会经过可识别的瓶颈。铀必须在特定设施富集。离心机可追踪。IAEA开发了监测技术的机制,这种技术具有构成存在风险的双重用途潜力。

与 AI 的平行直接对应。训练前沿 AI 模型所需的硬件——特别是 NVIDIA 生产的 GPU 集群,以及台积电使用 ASML 光刻设备制造的先进半导体——其集中程度使得监控在技术上可行。少数公司掌控着这些瓶颈。出口管制已经在尝试追踪这些芯片。

IAEA表明,对双用技术的国际监测已是成熟实践。该机构已运行近七十年,在数十个国家进行了数千次核查。将同样机制应用于AI算力的基础设施已经存在。它需要的不是技术创新,而是政治意愿。

关于物质的蒙特利尔议定书
消耗臭氧层的

问题

20世纪70年代中期,科学家发现用于制冷剂、气雾剂和工业过程的氯氟烃(CFC)正在破坏保护地球免受紫外线辐射的臭氧层。没有臭氧层,地球生命将面临灾难性后果。工业界称消除CFC在经济上不可能。

解决方案

《蒙特利尔议定书》由46个国家于1987年签署,于1989年生效。 它在一个具有约束力的国际时间表下逐步淘汰了消耗臭氧物质的生产和消费。 发展中国家得到了延长的时限和财政支持。 世界上每个国家都批准了该条约,这是得到普遍批准的唯一国际条约。

结果

臭氧层正在恢复。科学评估预测,到本世纪中叶它将回到 1980 年的水平。《蒙特利尔议定书》被广泛称为历史上最成功的环境条约。最初反对它的化学工业开发了替代化合物,并继续保持盈利。“不可能”最终并非不可能。

化学武器公约

化学武器曾在第一次世界大战、殖民冲突以及1980年代的伊朗—伊拉克战争中使用。1993年开放签署、1997年生效的《化学武器公约》禁止化学武器的开发、生产、储存和使用,并要求核查销毁现有库存。

超过190个国家已批准该公约。包括美国和俄罗斯在内拥有大量化学武器库存的国家,在禁止化学武器组织(该组织于2013年获诺贝尔和平奖)的国际监督下销毁了库存。

《化学武器公约》证明,国际协议可以实现对各国投入数十年、数千亿美元开发的武器的核查销毁。有人反对说,如果条约要求,各国不会放弃战略优势,这一反对意见已被反复证明是错误的,横跨现代史上最敌对的关系。

《公约》违规行为会发生并招致国际后果。该框架并非完美工具。然而,它使化学武器使用成为违反规范的行为,引发全球谴责和回应,而在《公约》之前,这是一种有争议的军事选项。国际规范的这一转变本身就是治理成功的一种形式。

信息图时间线:超级智能治理的历史先例,包括IAEA、NPT、Montreal Protocol和Chemical Weapons Convention 信息图时间线:超级智能治理的历史先例,包括IAEA、NPT、Montreal Protocol和Chemical Weapons Convention
已经证明有效的先例 协调是可能的.

哪四个成功
教给我们关于AI的知识。

这四个案例结构相似。在每个案例中,威胁最初都被视为过于投机或技术上过于复杂,无法纳入国际治理;相关行业都声称监管在经济上不可行;核查也被描述为幻想。而最终,协议得以达成,核查机制得以建立,威胁也切实减少了。

今天,学会的治理面临来自同一类行为者的相同形式的所有这些异议。 科技公司称监管会扼杀创新. 国家安全机构说敌人会叛变 评论者认为这个问题在技术上过于复杂,立法者无法理解. 这些论点是古老的,早已显示出错误;任何依靠这些论点的人都应该被问到,他们忽略了哪些先例。

超级智能治理与这些先例的区别在于紧迫性。《NPT》是在核武库增长但仍由人类控制的多年间谈判完成的。《蒙特利尔议定书》是在臭氧层持续变薄但仍可恢复的数十年间实施的。AI发展速度更快,而一旦足够先进,所构建的系统可能以臭氧分子和核弹头无法做到的方式抵制治理。

先例是加快行动而不是等待的理由。 协调、核查和协议尽管行业反对,但以前都发生过。 我们仍然需要的是政治意愿来压缩时间表,这种时间表是由那些理解利害关系并拒绝等待的人所建造的。

每种条约模型如何应用于超级智能治理。

核条约核查 化学武器模型 生物武器教训 外层空间条约 当条约失效时 建立全球 AI 机构