创始人

中田直人

拯救人类中田基金会的创始人兼执行董事。 Nakada Design.

传记

关于

我们的创始人带来了深厚的数码专业知识和美学的掌握基金会. 这种组合使他能够领导面向在线第一受众的文化和媒体节目。

中田实事求是地运用了前沿模型,既显示了其价值,也显示了其局限性. 它们可以提高生产力,但在控制和方向上仍然不可靠。因为比人类更能配合的系统还没有解决,所以他对待人工超级智能(超级智能) 认为存在风险,同时对受控制的狭义AI的承诺持乐观态度.

他拥有广泛的国际经验,曾在东京、悉尼、洛杉矶、伦敦和新加坡居住。这种全球展望对于弥合全球问题所要求的观点至关重要。

中田在发现基金会在以下领域存在空白后创建了基金会: AI-安全慈善. 大部分资金和人才仍然投身于创造潜在的超级智能“更安全”的事业,而建设超级智能的竞赛仍在继续。全世界只有少数人为防止完全创建超级智能.

它的产生将意味着人类的灭绝。

他的目标是实现最大影响和最高回报捐助资金: 我们时代最大的问题,影响着大多数人. 如果他在冷战期间活着这个基金会本会致力于防止全球热核战争. 他认为超级智能是今天的问题。

近期文章

中田直人的文章

精选

为何超级智能不会自动变得友善认为超级智能AI会智慧且善良的信念，依赖于机器心智没有理由继承的人类进化怪癖。人类生存的狭窄频带人类所需的一切都落在狭窄区间内：温度、氧气、盐分，甚至爱。手握这些旋钮的超级智能不会感受到其中任何一项。我们正经历一场新的冷战为什么我认为我们正经历一场新的冷战，超级智能取代了炸弹，以及为什么这使得预防成为可能而非无望。为什么一位资本家相信超级智能监管我做生意,相信自由市场超级智能是可以结束游戏的罕见赌注. 一个阻止超级智能条约的资本主义案例. 你会把煤气托付给AI吗？? 你会信任任何当前AI在锁定的房间里控制毒气阀吗？不会。那为什么信任它掌控世界？? 你无法对齐超级智能解决对齐意味着控制比我们更聪明的东西。超级智能就在名字里。这个计划既愚蠢又不可能。我是个乐观主义者，相信一切皆有可能，但无法控制超级智能物理或许有一天能让我们控制重力或超光速旅行。我仍然看不出我们要如何控制一个比我们更聪明的心智。

更多文章

停止超级智能不是脱增长他们使用DOMER的去增长方式:任何想要在超级智能上硬站的人的名字. 保持人类经济不是缩小经济规模的计划。机器人不会偿还国债华盛顿和实验室正在兜售AI与机器人，作为偿还国债的办法。后继心智不会为国债服务。马斯克承认人类无法控制超级智能马斯克告诉《经济学人》，控制超级智能是虚荣心作祟，人类不太可能保持掌控。这一承认正是反对构建它的理由。长期主义正确预判了风险长期主义正确评估了超级智能风险。但资助对齐并引导一场精心操控的竞赛，却是错误的结论。阻止建造它。如果你的技术想要伤害你故障灯令人恼火。拥有自身目标的智能家居则是另一类问题。能动性才是危险，而这些组件已然存在。 Amodei对危险的排序有误达里奥·阿莫代将威权AI置于首位，对齐其次。超级智能不是国家可以拥有的武器。这种排序是颠倒的。 AI“脑”是什么样的？? 一个AI“脑”是一个城市大小的权重文件：层层数字无人能完全读懂，而这一事实正是控制问题的核心。将对齐资金转向阻止超级智能假设超级智能必然会被建造的对齐研究，是稀缺安全资金的错误去处。只有AI能跟上AI 彼得·戴曼迪斯称只有AI能跟上AI，这将指引未来十年的安全。为何该模式在超级智能上失效。他们不停地做煎饼《蒙特利尔议定书》把在天空中打开一洞并保持冷藏的化学品退役,因为我们可以把超级智能退役,并保留有用的AI。如果制造核弹很容易核武器之所以稀有，部分原因在于裂变材料难以制造和监视。设想若它变得廉价。对通往超级智能的简易路径的警示。乐观并不代表我们会活下来的我是个乐观主义者;人类的灭绝从未发生过。幸存者不是安全案件。为什么助推器会把情绪和证据混淆. 我们不是引导加载程序罗根的数字蝴蝶和马斯克的生物引导程序都说人类是过渡性的。为什么这个故事是放弃物种的讨好路径。修格斯差距再次上演导弹差距双方都以对方领先为由资助 AI。这是冷战时期的导弹差距伎俩。为何这是竞相奔向超级智能的糟糕理由。阻止超级智能对美国最为有利全速通向超智能被卖出爱国主义. 为什么约束性停赛比赢得一场没有奖金的比赛更符合美国的利益. 好莱坞尚未拍摄的 AI 电影每部AI电影都把镜头对准人类。真正能改变公众看法的影片，会让观众置身于一个正在涌现的超级智能的视角。按准确性为21部AI电影排名从1927年至今的二十一部人工智能电影，以及对每部影片在超级智能问题上得失的诚实评估。人类已走得太远，不能就此消亡洞穴壁上的手印、布鲁内莱斯基的穹顶、天花被从地球上根除。我们已走得太远，不能把这一切赌在人工超级智能上。边飞边造飞机航空业通过坠机然后修复故障变得安全。超级智能没有第二次飞行机会，这就是为什么在空中造飞机是一种坦白。《翌日》：震撼总统的电影 1983年里根观看了《翌日》，一部关于核战争的电影，并写道它令他深感震撼。我们已警觉 AI 与网络威胁，对 AI 与生物仍熟睡不醒。我们在网络攻击中醒悟到AI。我们在生物学中的AI上仍沉睡不醒，而它缩短了通向工程化大流行病和镜像生命的路径。如何在 5 分钟内解释超级智能的危险如何向从未思考过这个问题的人解释为什么超级智能是危险的？五分钟版本，用通俗语言。数字核武器中情局局长将前沿AI比作数字核武器。这个比喻有用，却也过于安慰人：炸弹从不会自己选择目标。超级智能竞赛是个神话 “必须在中国之前建成超级智能”是结束每场AI安全辩论的论点。为什么竞赛是个神话，以及为何无人能赢。人类绝不能构建超级智能人类绝不能建造一件事：一个我们无法控制且无法收回的心智。将超级智能视为我们不应跨越的界限的理由。 AI加速主义中杜默辩词的谬误 doomer 这个词把 AI 安全论证变成了人格缺陷。加速主义运动如何用这个标签不回应批评就直接否定批评者。关于超级智能的最大迷思关于超级智能及其治理的十个迷思：科幻、意识、关机开关、世界政府、核查、创新等，直接回应。超级智能是一场完美风暴超级智能同时结合了使技术危险的所有条件，而我们只有一次尝试做对的机会。没有超级智能，我们的未来无比光明窄 AI 已经在兑现我们被承诺的未来。超级智能会带来灾难性风险，且不会让任何人致富，因为我们都会死掉。核武器、生物武器还是超级智能：哪种风险最大？? 按现有最佳存在风险估算排序，superintelligence的风险高于核战争和工程化流行病。以下是推理过程。 AI安全如何达到每年十亿美元 AI 安全领域每年经费约 1.9 亿美元。要将其提升至 10 亿美元，问题不在于经济学，而在于动员。以下是资金来源。为什么击败卡斯帕罗夫的机器没有接管世界 1997年IBM的深蓝击败了国际象棋世界冠军加里·卡斯帕罗夫。它在一项游戏上超人，却什么都不理解，也什么都不想要。这对现在是一个教训。 AI 在数小时内闯入 NSA 几乎所有机密系统 NSA局长表示，一台AI在数小时内闯入了该机构几乎所有机密系统。实际发生了什么，以及为什么它应该让你警觉。为什么AI安全领域资金如此之少？? AI安全每年投入约1.9亿美元，不足流入AI能力资金的0.1%。资金来源何处，以及它为何保持较小的四个原因。有效加速主义 (e/acc)，解释与回应什么是有效加速主义（e/acc）？技术乐观派主张尽快建造 AI 的理由，以及 AI 安全视角下的反驳。