一份具有约束力的国际AI安全条约不会自动送到我们面前。它需要我们去争取、去组织、去出资。我们的独立完全依赖于像你这样的人。
组织状态。 美国非公司慈善协会. , 财务赞助待定且即将完成,取决于第一笔筹资。 赠品只有在我们有合格的赞助人才能减税。
AI安全领域的大部分资金仍流向将超级智能视为不可避免的实验室和技术研究。几乎没有资金用于确保超级智能永不被建造的政治工作。我们做这项工作,且仅做这项工作:有约束力的国际条约、公众压力,以及使条约成为可能的关注运动。我们不接受来自AI实验室或其投资者的资金。
技术AI安全已经占据了该领域的资金和最优秀人才,尽管付出巨大努力,却无人证明如何可靠控制远比建造它的人更聪明的系统。假设控制远比我们聪明的实体是可解的,它也绝不可能及时解决。剩下的唯一保护,就是选择在这些系统能被安全制造之前不建造它们。这个选择是政治性的,且资金严重不足。
在这里捐款就能买到缺失的那一块。不是又一篇关于如何控制比建造者更聪明的头脑的论文,而是工作人员、组织者、真正回应竞速口号的X回复、立法者和创作者能看到的內容,以及把慈善转向预防的长期推动。每一美元都花在能最大程度降低灭绝风险的地方。
你的捐赠具体涵盖哪些内容,以下逐项列出。我们承诺公开达到透明门槛的重大捐赠。
现在无法捐赠?? 改为贡献你的时间。
更希望在免税捐赠功能上线后进行大规模捐赠吗?? 登记对重大及机构捐赠的兴趣。
如果你希望捐款发挥最大效用。
赠之所由是其效;一元之所由来相去相去也. 所以,诚实的问题是,这是 最佳 下一美元的最有效用途。认真对待这个问题,其他一切随之而来。
影响力最大的事业是惠及所有人以及所有后世之人的事业。对 整个人类未来 超过任何有限问题,因为它危及的不是一代人,而是可能随之而来的每一代人。
在可能终结人类的技术中,人工超级智能位居首位。根据现有最可靠的结构化估计,其带来的 核战争灭绝风险的一百倍, ,而且它是唯一能自我改进并对抗我们所有反制措施的。
技术安全研究已占据该领域资金和最优秀头脑,却仍无人能控制远超我们的系统。资金不足的工作是另一种:有约束力、可核查的国际协议,在超级智能能被安全构建之前阻止其出现。我们只专注这一件事,而非已然存在的研究。
你能资助的最具影响力的事,就是阻止超级智能,而其中最被忽视的部分,是让它成为法律的政治斗争。这正是你的捐款去向,也正是为什么在这里的一美元,按美元计,是你能做出的最高影响力捐款之一。
资助使命 →礼品支付以下方案的费用。
我们需要尽快为一个全职的人提供资金,只要超级智能赛事、Singularity赛事或超级智能赛事是首发时间就回答X。 种族的口号每时每刻都会落地,线上没有小心的计数器. X是立法者、记者和实验室领导们实际阅读的地方。 一个答复可以达到数百万的印象。 你的钱用来支付一个X组织账户 以及每天写作和答复的人的工资 可衡量的输出:: 回复和原创帖的曝光与触达(账户上线后可查看公开分析数据)。
短而长的形式写作,图像,相片,和视频:关于超智能的原创作品制作,使得非专家可以一面来跟踪. 一次制造,然后推到每个平台 这部作品是创造性的,它满足了那些已经存在的人们:解释者,散文,视觉,和电影相接的故事讲解,这些讲解使利害关系在没有技术背景的情况下可以辨别. 你的钱用来支付那些 做原始工作的人, 核实的社会账户, 以及分发的工具 如此小时 进入争论 而不是张贴队列。 可衡量的输出:: 查看和观察原始作品的时间。
投票公众不看报纸。 或者观看干燥的学术视频. 我们将制作娱乐性,可分享性,以及信息性。 你的钱用来支付制作这些电影的人 和让他们看到。 可衡量的输出:: 查看、观察时间和分享。
我们已经开始寻找能够完成这项工作的人。 一个教训很快到来:一个视频花了几个月才完成. 这太慢了。 比赛在片子排队时不停地进行. 录像不应该花几个月 这里的钱支付让更多的人 立刻开始工作。 可衡量的输出:: 从开始到原创文章发布的时间。
加上在意见实际存在的付费安置。赞助专业通讯 立法者及其工作人员已经打开的。 赞助播客 那些人在开车时收听的。 赞助内容创作者 与真正的观众。 人们从创作者那里形成自己的观点. 今天,谁将超级智能说成是生存风险:几乎无人能及。 这就像过着冷战,而几乎没有人用麦克风谈论防止核战争。 填补这种沉默是使威胁在条约投票之前可以辨认的廉价方式,而不是虚荣。 您的钱支付 创作和通讯赞助, 播客赞助。 可衡量的输出:: 安置到我们赞助分发的地方。
大量慈善资金仍流向对齐:旨在让未来超级智能向好发展的技术研究。说清楚“解决对齐”到底意味着什么。它意味着 可靠地控制远比我们更智能的东西. 它就在名字里:: 超级智能. 让物种相信控制一个比 建造它的人聪明的心灵是愚蠢的计划 而根据我们掌握的证据,是不可能的 雄心勃勃地使用捐助资金的是有偿工作人员,他们的工作是会见捐赠者和顾问, 提出理由将稀缺的安全资本转向条约、核查和公众压力, 在已经认捐的房间里做这项工作。 那堆纸上又没纸了 能够实际控制的狭窄系统安全仍然值得提供资金。 研究假设我们将建立一个后续物种,然后把它绑住。 有效的利他主义领袖们曾经把慈善事业转向疟疾蚊帐,并以此为例。 如果我们在超级情报上采取同样的路线,我们将在索要额外资金之前这样说。
安全在线捐赠上线时立即收到通知。你还将偶尔收到资金去向简报。