我们醒悟于AI与网络。
我们对AI和生物仍浑然不觉。

当 AI 入侵了NSA几乎所有机密系统 在一个下午,人们关注。 不错。 课程落地了。 但网络是我们注意到的风险, 这不是桌面上最糟糕的风险。 桌面上最糟糕的是AI和生物学,同样的能力跳跃在悄悄地缩短了普通人和病原体之间的距离.

被黑的网络可以重建，释放的生物却无法召回。

2025年的一项分析估计，AI已将故意制造工程化大流行病的风险提高了约五倍。这个数字来自两个同时发生的变化：AI让危险实验更快，也让实验更好。

更快、更聪明

先从速度说起。在对Mythos（据称是Anthropic最强大的模型）的评估中，原本需要训练有素的团队耗时约两个月的生物学协议，在不到两天内就完成了。端到端仅用十六小时。曾经的瓶颈步骤已不再是瓶颈。

现在来看质量。在一项练习中，研究人员将生物学家分成两类团队。一类是通才，对眼前的问题没有特别专长。另一类则是该问题的专家。在一个难题上，与Mythos合作的通才团队击败了三分之二的专家团队。该模型能让没有受过训练的人获得接近专业水平的东西。

COVID 不是上限

像COVID-19这样的疫情更接近下限，而非最坏情况。还有工程化的可能性远比这更致命，最清晰的一个有个名字：镜像生命。

地球上每一种生物都由具有相同手性的分子构成。我们的蛋白质、DNA，以及识别入侵者的免疫防御，都朝向同一方向。镜像生命则以相反方式构建，是普通生命的化学镜像。理论上它能运作。理论上我们体内、任何动植物体内，都不知道如何对抗它，因为我们的防御是为抓住正常版本而塑造的，在镜像版本上找不到着力点。被镜像细菌感染的人可能完全不产生免疫反应，直接死亡。

这并非边缘猜测。2024年底，一群科学家（其中几位诺贝尔奖得主）在期刊上发表了警告 科学 呼吁不要建造镜像细菌，理由是无法防御它们。一些原本在推进相关部件的研究人员停手了。这个警告奏效了，说明最接近这项科学的人认真对待了危险。按照当时的大多数估计，真正合成镜像生命至少还要十年。

在镜像生命变得可构建之前，我们大约还有十年喘息期。这个估计尚未计入AI因素。

缓冲区是在无 AI 的情况下测量的

今天的边境模式,一旦安全培训到位,大多数都会拒绝生物武器的要求,过去的事情仍然需要一个有能力、有决心的操作者来做危险的事。 没有保障,这些模型的升起 手一个有动机的业余爱好者是巨大的, 有的多达五倍 能力评估. 。设置防护措施后，使用难度会大幅上升。我并不完全信任它。

我更大的担忧是 AI 整体加速生物学，以及构建可被 repurposed 的更好通用工具。缩短癌症项目的同一系统，也能缩短通往镜像生物体的道路，即使没人打算制造武器。十年的缓冲期在这种乘数面前无法完好保存。

目前的回应还很单薄。首席执行官和领先研究者已呼吁对DNA合成订单进行筛查，以便在危险生物的遗传物质发货前被标记。美国2025年人工智能行动计划支持这一想法。但实际执行的速度远不及能力推进的速度。封闭实验室至少认真对待；开放权重模型在生物提升上落后约一年，而一年是延迟，不是安全。

为什么这本质上是超级智能问题

以上一切都假设人类在环，使用 AI 作为工具。这已经够难了。它正在竞相构建能自行设定目标并自主行动的系统，而且在某个点之后，朝着 人工超级智能: 一个在所有事情上（包括生物学）都比我们更强大的通用心智，而不是实验室正在构建的世界。

一个能把两个月实验室工作压缩到十六小时、把通才变成专家、像读一段文字一样读出镜像生物体路径的系统，正是超级智能会拥有的那种能力，而且它不需要我们许可就能使用。我们已经怀疑自己能否控制这样的系统。生物学是失控的超级智能最直接触及物理世界的方式之一：悄无声息、大规模地进行，而我们从未为它建造过防御。

基金会的答案是预防,而不是调和. 你不能在同一个下午为你的免疫系统 设计出病原体和工作方式的思维中 补上安全之路 唯一的保护是 不要构建无法控制的系统 首先，对世界曾经施加的最危险的人工智能施加同样的有约束力的、经过验证的限制 生物武器. 我们的计划 正是围绕这一点构建。

我们因一则头条才意识到AI与网络安全。我宁愿我们在AI与生物安全方面，在头条出现之前就醒悟，而不是之后。

现有的生物安保控制措施是为没有不懈的示范援助的世界而建立的。 当工具压缩技巧和时间时,老巴会移动. 等待释放来证明这一点是病原体的错误标准.