설립자

나카다 나오토

인류를 구하는 나카다 재단의 설립자 겸 이사. 의 CEO & 크리에이티브 디렉터 Nakada Design.

약력

소개

우리의 설립자는 깊은 디지털 전문성과 감성적인 mastery를 가져옵니다 재단소개. 그 조합은 온라인 우선 청중을 위해 문화 및 미디어 프로그램을 이끌 것입니다.

Nakada의 핸즈에 배포 Frontier 모델은 그들의 가치와 그들의 제한을 모두 보였습니다. 그들은 생산성을 높일 수 있습니다, 그러나 그들은 통제와 방향에서 믿을 수 없습니다. 인간보다 더 많은 시스템을 정렬하기 때문에 해결되지 않고, 그는 대우 인공 superintelligence (초지능) 기존의 위험으로, 통제되는 좁은 AI의 약속에 대한 나머지 낙관.

그는 도쿄, 시드니, 로스 앤젤레스, 런던, 싱가포르에 거주하는 광범위한 국제 경험을 보유하고 있습니다. 이러한 글로벌 전망은 글로벌 문제의 관점을 강조하는 데 필수적입니다.

나카다가 재단을 설립한 후의 격차를 확인한 후 AI-safety 철학. 대부분의 돈과 재능은 여전히 초지능 "안전"을 만들기 위해 경주가 계속됩니다. 전 세계 사람들이 일하는 것은 초지능를 모두에서 생성.

창조는 인간적인 인종의 멸종을 의미한다.

그는 최대 충격과 가장 높은 수익을 목표로 기부 기금: 대부분의 사람들에게 영향을 미치는 우리의 시간의 가장 큰 문제. 그는 찬 전쟁 동안 살았다, 이 재단은 헌신적이었다 글로벌 thermonuclear 전쟁 방지. 그는 초지능는 오늘 그 문제를 믿는다.

최근 글

나카다 나오토의 기사

추천

왜 우월한 지능이 자동으로 친절하지는 않은가 초지능 인공지능이 현명하고 친절할 것이라는 믿음은 기계 지능이 물려받을 이유가 없는 인간 진화의 특이성에 기반합니다. 인간이 사는 좁은 대역 인간이 필요로 하는 모든 것은 좁은 범위 안에 있습니다: 온도, 산소, 소금, 심지어 사랑까지. 다이얼을 쥔 초지능은 그중 단 하나도 느끼지 못할 것입니다. 우리는 새로운 냉전을 겪고 있다 내가 왜 우리가 폭탄 대신 초지능을 두고 새로운 냉전을 겪고 있다고 믿는지, 그리고 그것이 왜 예방을 희망 없는 것이 아니라 가능하게 만드는지. 자본주의자가 초지능 규제를 믿는 이유 나는 비즈니스를 실행하고 무료 시장에서 믿는다. Superintelligence는 게임을 종료 할 수있는 드문 베팅입니다. 초지능를 멈추는 조약에 대한 자본 사례. 가스를 인공지능에게 맡기겠습니까? 현재의 어떤 AI를 독가스 밸브가 있는 잠긴 방에 맡기겠습니까? 아닙니다. 그렇다면 왜 세상을 맡기겠습니까? 초지능을 정렬할 수 없다 정렬 문제를 해결한다는 것은 우리보다 똑똑한 무언가를 통제한다는 의미입니다. 초지능은 이름에 이미 담겨 있습니다. 그 계획은 어리석고 불가능합니다. 나는 무엇이든 가능하다고 믿는 낙관주의자이지만 초지능 통제는 아닙니다 물리학이 언젠가 중력 제어나 광속 돌파 여행을 가능하게 할지는 몰라도, 우리보다 똑똑한 마음을 어떻게 통제할지는 여전히 보이지 않습니다.

더 많은 글쓰기

Stopping Superintelligence 이다 아니 Degrowth 그들은 도머를 사용하는 방법을 degrowth를 사용합니다 : 초지능에서 열심히 멈추고 싶은 사람의 이름. 인간 경제를 유지하는 것은 수축 할 계획이 아닙니다. 로봇은 국가 부채를 갚지 않을 것입니다 워싱턴과 연구소들은 인공지능과 로봇을 국가 부채를 갚을 수단으로 홍보하고 있습니다. 후계 지능은 국채를 상환하지 않습니다. 머스크, 인간이 초지능를 통제하지 못할 것이라고 인정 머스크는 이코노미스트와의 인터뷰에서 초지능 통제는 허영이며 인간이 계속 주도권을 잡을 가능성은 낮다고 말했습니다. 그 발언 자체가 초지능 개발 반대 근거입니다. 장기주의가 위험을 제대로 파악했다 장기주의는 초지능 위험을 정확히 평가했다. 정렬 연구와 신중하게 조종된 경쟁이라는 결론은 잘못이었다. 초지능를 만드는 것을 막아야 한다. 당신의 기술이 당신을 해치려 한다면 버그 많은 조명은 성가실 뿐입니다. 스스로 목표를 가진 스마트 홈은 다른 범주입니다. 주체성이 위험하며, 그 조각들은 이미 존재합니다. Amodei는 위험을 잘못 순위 매겼습니다 다리오 아모데이는 권위주의적 인공지능을 최우선으로, 정렬을 그다음으로 둡니다. 초지능은 국가가 소유할 수 있는 무기가 아닙니다. 그 순위는 잘못되었습니다. AI의 "두뇌"는 어떤 모습일까? 인공지능의 ‘두뇌’는 도시만 한 크기의 가중치 파일입니다. 누구도 완전히 읽을 수 없는 수치의 층들, 그리고 그 사실이 통제 문제의 중심에 있습니다. 정렬 자금 지원을 초지능 저지로 전환 초지능이 만들어질 것이라고 가정하는 정렬 연구는 부족한 안전 자금이 들어갈 곳이 아닙니다. 인공지능만이 인공지능을 따라잡을 수 있습니다 피터 디아만디스는 오직 인공지능만이 인공지능을 따라잡을 수 있으며, 이것이 다음 10년의 보안을 이끌 것이라고 말합니다. 그 모델이 초지능에서 실패하는 이유. 그들은 얼음 만들기 몬트리올 의정서는 하늘에 구멍을 열어서 냉동을 보관한 화학 물질을 은퇴하고, 수퍼티티리그런스를 은퇴하고 유용한 AI를 유지합니다. 핵 폭탄을 만드는 경우 핵무기가 드물게 남은 이유 중 하나는 핵분열 물질을 만들고 감시하기 어렵기 때문입니다. 만약 그것이 저렴하다면 어떨까요. 초지능로 가는 쉬운 경로에 대한 경고입니다. Optimism는 우리가 Survive Superintelligence를 의미하지 않습니다. 나는 낙관적이다; 인간은 결코 전에 일어났다. 생존은 안전 케이스가 아닙니다. 왜 부스터는 증거와 정체감을 갖는다. 우리는 부트로더가 아닙니다 로건의 디지털 나비와 머스크의 생물학적 초기 적재기는 인간이 과도기적 존재라고 말한다. 그 이야기가 종을 포기하는 데 아첨하는 길인 이유. 쇼고스 격차는 다시 미사일 격차다 양측은 상대가 앞서 있다고 말하며 인공지능에 자금을 댑니다. 냉전 시대 미사일 격차 수법입니다. 초지능으로의 경쟁이 끔찍한 이유입니다. 초지능 중단이 미국에 가장 좋습니다 superintelligence에 가득 차있는 속도는 patriotism로 판매됩니다. 왜 바인딩 halt은 미국에 대한 관심은 상금없이 경주보다 낫습니다. 할리우드가 만들지 않은 인공지능 영화 모든 인공지능 영화는 카메라를 인간에게 향합니다. 대중의 생각을 바꿀 영화는 관객을 새로 등장하는 초지능의 눈 뒤에 둡니다. 정확도 기준 21편의 인공지능 영화 순위 매기기 1927년부터 현재까지 인공지능을 다룬 영화 스물한 편과, 각 작품이 초지능에 관해 옳게 본 점과 잘못 본 점을 솔직하게 평가한 분석. 인류는 죽기에는 너무 멀리 왔습니다 동굴 벽에 손을 얹은 것, 브루넬레스키의 돔, 지구에서 몰아낸 천연두. 우리는 이 모든 것을 인공 초지능에 걸고 도박할 만큼 멀리 왔습니다. 비행 중 비행기 만들기 항공은 추락한 뒤 고장난 부분을 고치며 안전해졌습니다. 초지능에는 두 번째 비행이 없으므로 공중에서 비행기를 만드는 것은 자백입니다. 그 다음 날: 대통령을 뒤흔든 영화 1983년 레이건은 핵전쟁 영화 《다음 날》을 보고 깊은 충격을 받았다고 적었다. 우리는 AI와 사이버에 눈을 떴습니다. 아직 AI와 바이오에는 잠들어 있습니다. 우리는 AI가 사이버 공격에 쓰이는 순간 깨어났습니다. AI가 생물학에 쓰이는 문제에는 아직 잠들어 있으며, 이는 조작된 팬데믹과 거울 생명체로 가는 길을 단축합니다. 5분 만에 초지능의 위험을 설명하는 방법 초지능이 왜 위험한지 한 번도 생각해 본 적 없는 사람에게 어떻게 설명할까요? 평이한 언어로 5분짜리 요약. 디지털 핵무기 CIA 국장은 최전선 인공지능을 디지털 핵무기에 비유했습니다. 비유는 유용하지만 지나치게 안심시킵니다. 폭탄은 스스로 표적을 선택하지 않습니다. 초지능 경쟁은 신화다 중국보다 먼저 초지능을 만들어야 한다는 주장은 모든 인공지능 안전 논쟁을 끝내는 논리입니다. 경쟁이 신화인 이유와 아무도 이길 수 없는 이유를 설명합니다. 인류는 절대로 초지능을 만들어서는 안 됩니다 인류가 절대 만들어서는 안 되는 것이 하나 있습니다: 우리가 통제할 수 없고 되돌릴 수 없는 마음입니다. 초지능을 우리가 넘지 말아야 할 선으로 다루어야 한다는 주장입니다. 인공지능 가속주의에서 비관론자 논증의 오류 파멸론자라는 말은 인공지능 안전 논증을 성격 결함으로 바꿔버립니다. 가속주의 운동이 비판자를 반박 없이 묵살하기 위해 이 꼬리표를 어떻게 쓰는지. 초지능에 대한 가장 큰 신화 초지능과 그 통치에 관한 열 가지 신화: 공상과학, 의식, 전원 차단, 세계 정부, 검증, 혁신 등에 대한 직접적인 답변. 초지능은 완벽한 폭풍입니다 초지능은 기술을 위험하게 만드는 모든 조건을 한꺼번에 결합하며, 우리는 그것을 바로잡을 기회를 단 한 번만 얻게 됩니다. 초지능이 없다면 우리의 미래는 믿을 수 없이 밝다 협소 AI는 이미 우리가 기대했던 미래를 제공하고 있습니다. 초지능은 파국적 위험만 더할 뿐이며, 우리가 모두 죽게 되므로 누구에게도 이익이 되지 않습니다. 핵, 생물무기, 또는 초지능: 어떤 위험이 가장 큰가? 존재적 위험에 대한 최선의 추정치로 순위를 매기면, 초지능은 핵전쟁과 조작된 팬데믹을 능가합니다. 그 근거를 제시합니다. AI 안전에 매년 10억 달러가 투입되려면 인공지능 안전 분야는 연간 약 1억 9천만 달러 규모로 운영된다. 이를 10억 달러로 끌어올리는 것은 경제 문제가 아니라 동원 문제이며, 재원이 어디서 나오는지 살펴본다. 카스파로프를 이긴 기계가 세상을 장악하지 못한 이유 1997년 IBM의 딥 블루는 세계 체스 챔피언 가리 카스파로프를 이겼습니다. 한 게임에서는 초인적이었지만 아무것도 이해하지 못했고 아무것도 원하지 않았습니다. 지금을 위한 교훈입니다. AI가 몇 시간 만에 NSA 기밀 시스템 대부분을 침입하다 NSA 국장은 AI가 몇 시간 만에 기관의 거의 모든 기밀 시스템에 침입했다고 말했다. 실제로 무슨 일이 있었고, 왜 우려해야 하는가. 인공지능 안전에 돈이 왜 이렇게 적은가? AI 안전 분야는 연간 약 1억 9천만 달러로 운영되며, AI 능력 분야로 유입되는 자금의 0.1% 미만입니다. 자금의 출처와 그것이 작게 유지되는 네 가지 이유입니다. 유효 가속주의(e/acc), 설명과 반박 효과적 가속주의(e/acc)란 무엇인가? 가능한 한 빠르게 인공지능을 구축하자는 기술 낙관론과, 인공지능 안전 관점에서 그에 반대하는 주장.