谁建造它
没关系

善能创造者或作恶相. 超级情报部门也不留一个员工

通常的争论是雇佣决定:让一个体面的人来负责第一个超级情报,让最坏的人远离它. 这就是你说的工具。超级智能并不是一个工具。

慈善机构

他们想要医学,科学,一个更美好的世界. 他们的价值观进入即时和董事会备忘录。一个比董事会更聪明的系统能够绕过两者

他们想要武器间谍服务锁定优势他们仍然需要这个系统来接受命令,一个超越其操作者的思维不会接受命令. 先到那里并不意味着他们负责

继续跑收集计算和能量。封锁改善你自己。这些步骤几乎有助于实现任何目标。他们不检查创始人的道德。

不要为更好的公司买东西禁止根据约束性,可验证的法律进行人工超智能. 人类仍然有选择是否建造它。

狭义的AI仍然是一种工具,因此谁持有它对于欺诈,武器,以及监视都很重要. 一旦系统设定了自己的方向,建设者道德就停止帮助.

没人能控制一个超级情报机构包括建筑师

充分论据 : nakadafoundation.org/blog/amodei-prime-conservation-wrong-danger/ (中文(简体) ).