Наото Накада

Основатель и исполнительный директор Фонд Накада по спасению человечества. Генеральный директор и креативный директор Nakada Design.

Контакт
Наото Накада

О нас

Наш основатель приносит глубокий цифровой опыт и эстетическое мастерство. Фонд. Эта комбинация позволяет ему руководить культурными и медийными программами для онлайн-аудитории.

Практическое развертывание пограничных моделей Накады показало как их ценность, так и их ограничения. Они могут повысить производительность, но остаются ненадежными в управлении. Поскольку выравнивающие системы, более способные, чем люди, остаются нерешенными, он лечит их. Искусственный суперинтеллект (сверхразум) как экзистенциальный риск, сохраняя при этом оптимизм в отношении перспективы контролируемого узкого ИИ.

Он имеет большой международный опыт, проживая в Токио, Сиднее, Лос-Анджелесе, Лондоне и Сингапуре. Такая глобальная перспектива имеет важное значение для преодоления перспектив, которые требуются глобальной проблеме.

Накада создал Фонд после выявления пробела в области Благотворительность в области ИИ. Большинство денег и талантов все еще идут на то, чтобы сделать потенциальную сверхразум «более безопасной», в то время как гонка по ее созданию продолжается. Лишь немногие люди во всем мире работают над Предотвратить создание сверхразум.

Его создание будет означать вымирание человеческой расы.

Он стремится к максимальной отдаче и максимальной отдаче. Фонды доноров: Самая большая проблема нашего времени, затрагивающая большинство людей. Если бы он жил во время холодной войны, этот фонд был бы посвящен Предотвращение глобальной термоядерной войны. Он считает, что АСИ - это проблема сегодня.

Статьи от Наото Накада

Почему превосходящий интеллект не будет автоматически добрым Вера в то, что сверхразумный ИИ окажется мудрым и добрым, покоится на причуде человеческой эволюции, которую машинный разум не имеет причин перенимать. Узкая полоса, в которой живут люди Всё, что нужно человеку, лежит в узком диапазоне: температура, кислород, соль, даже любовь. Сверхразум, держащий ручки управления, не почувствует ни одного из них. Мы переживаем новую холодную войну Почему я считаю, что мы переживаем новую холодную войну, где место бомбы занял сверхинтеллект, и почему это делает предотвращение возможным, а не безнадёжным. Почему капиталист верит в регулирование сверхразум Я веду бизнес и верю в свободные рынки. Суперинтеллект — это редкая ставка, которая может закончить игру. Капиталистическое обоснование договора, который останавливает АСИ. Доверили бы вы ИИ газ? Доверили бы вы любому нынешнему ИИ запертую комнату с вентилем отравляющего газа? Нет. Тогда почему доверяете ему мир? Суперинтеллект невозможно выровнять Решение проблемы согласованности означает контроль над чем-то умнее нас. Сверхинтеллект уже в названии. Этот план глуп и невозможен. Я оптимист и верю, что всё возможно, кроме контроля сверхразума Физика, возможно, когда-нибудь даст управление гравитацией или сверхсветовые полёты. Я по-прежнему не вижу, как нам контролировать разум умнее нас.
Прекращение суперинтеллекта — это не рост Они используют разрастание так, как они используют думер: имя для тех, кто хочет жестко остановить сверхразум. Сохранение человеческой экономики не является планом ее сокращения. Роботы не выплатят государственный долг Вашингтон и лаборатории продают ИИ и роботов как способ выплатить национальный долг. Преемственный разум не обслуживает казначейские облигации. Маск признаёт, что люди не смогут контролировать сверхразум Макс сказал The Economist, что контроль над суперинтеллектом — тщеславие и люди вряд ли останутся у руля. Это признание — аргумент против его создания. Лонгтермизм верно оценил риск Лонгтермизм верно оценил риск сверхразум. Ошибочным стало заключение: финансировать выравнивание и осторожно управляемую гонку. Нужно не строить. Если бы ваша технология хотела причинить вам вред Глючные лампочки раздражают. Умный дом с собственными целями — совсем другая категория. Агентность и есть опасность, и её составляющие уже существуют. Амодей неправильно оценил опасности Дарио Амодеи ставит авторитарный ИИ на первое место, а выравнивание — на второе. Сверхинтеллект — это не оружие, которым может владеть государство. Такой приоритет ошибочен. Как выглядит «мозг» ИИ? «Мозг» ИИ — это файл весов размером с город: слои чисел, которые никто не может полностью прочитать, и этот факт лежит в центре проблемы контроля. Перенаправить финансирование выравнивания на остановку суперинтеллекта Исследования по согласованию, исходящие из того, что сверхинтеллект будет создан, — неподходящее место для ограниченных средств на безопасность. Только ИИ может угнаться за ИИ Питер Диамандис утверждает, что только ИИ способен угнаться за ИИ, и что именно это определит следующее десятилетие безопасности. Почему эта модель не работает в случае суперинтеллекта. Они продолжали делать холодильники Монреальский протокол удалил химическое вещество, которое открывало дыру в небе и сохраняло охлаждение, поскольку мы можем удалить суперинтеллект и сохранить полезный ИИ. Сделать ядерную бомбу легко Ядерное оружие оставалось редкостью отчасти потому, что расщепляющийся материал трудно произвести и отслеживать. Представьте, если бы это было дёшево. Предупреждение для лёгких путей к сверхразум. Оптимизм не означает, что мы переживем суперинтеллект Я оптимист, вымирания людей никогда не было. Выживание - это не случай безопасности. Почему бустеры путают настроение с доказательствами Мы — не загрузчик Цифровая бабочка Рогана и биологический загрузчик Маска утверждают, что человек — переходная форма. Почему этот нарратив льстит и ведёт к отказу от вида. Разрыв в шогготах — это снова разрыв в ракетах Обе стороны финансируют ИИ, утверждая, что соперник впереди. Старый трюк с «ракетным разрывом» времён холодной войны. Почему это ужасная причина мчаться к сверхинтеллекту. Остановка суперинтеллекта — лучшее для Америки Полная скорость до сверхразума продается как патриотизм. Почему обязательная остановка служит американским интересам лучше, чем победа в гонке без приза Фильм об ИИ, которого Голливуд не снял В каждом фильме об ИИ камера направлена на людей. Тот, который изменит мнение публики, поставит зрителя на место возникающего сверхразума. Рейтинг 21 фильма об ИИ по точности Двадцать один фильм об искусственном интеллекте — с 1927 года по наши дни — и честный разбор того, что в каждом верно, а что нет относительно суперразума. Человечество зашло слишком далеко, чтобы погибнуть Рука на стене пещеры, купол Брунеллески, оспа, изгнанная с Земли. Мы зашли слишком далеко, чтобы поставить всё на искусственный сверхинтеллект. Строить самолёт в полёте Авиация стала безопасной, разбиваясь, а потом исправляя то, что сломалось. Суперинтеллект не даёт второго полёта, поэтому сборка самолёта в воздухе — это признание поражения. «На следующий день»: фильм, потрясший президента В 1983 году Рейган посмотрел «На следующий день» — фильм о ядерной войне — и написал, что он глубоко потряс его. Мы проснулись из-за ИИ и киберугроз. Но всё ещё спим, когда речь об ИИ и био. Мы проснулись от ИИ в кибератаках. Мы всё ещё спим, когда речь идёт об ИИ в биологии, где он укорачивает путь к созданным пандемиям и зеркальной жизни. Как объяснить опасность сверхинтеллекта за 5 минут Как объяснить опасность сверхинтеллекта человеку, который никогда об этом не задумывался? Пятиминутная версия простым языком. Цифровое ядерное оружие Директор ЦРУ сравнивает передовой ИИ с цифровым ядерным оружием. Метафора полезна, но слишком утешительна: бомба никогда не выбирает цель сама. Гонка за суперинтеллектом — миф Аргумент «мы должны создать сверхинтеллект раньше Китая» завершает любую дискуссию о безопасности ИИ. Почему гонка — это миф и почему в ней никто не победит. Человечество никогда не должно создавать суперинтеллект Есть одна вещь, которую человечество строить не должно: разум, который мы не сможем контролировать и не сможем вернуть. Аргумент за то, чтобы считать сверхинтеллект чертой, которую нельзя пересекать. Ложность аргумента «думеров» в акселерационизме ИИ Слово «думер» превращает аргумент о безопасности ИИ в личный недостаток. Как движение акселерационистов использует ярлык, чтобы отвергать критиков, не отвечая по сути. Самые большие мифы о суперинтеллекте Десять мифов о сверхинтеллекте и управлении им: научная фантастика, сознание, кнопка выключения, мировое правительство, верификация, инновации и другие — даны прямые ответы. Суперинтеллект — идеальный шторм Суперинтеллект сочетает все условия, делающие технологию опасной, одновременно, и у нас будет только одна попытка сделать всё правильно. Наше будущее невероятно светло без суперинтеллекта Узкий ИИ уже воплощает обещанное будущее. Суперинтеллект добавляет катастрофический риск и никого не обогащает, потому что все мы будем мертвы. Ядерное оружие, биологическое оружие или суперинтеллект: какой риск наибольший? По лучшим доступным оценкам экзистенциального риска сверхинтеллект превосходит ядерную войну и созданные пандемии. Вот обоснование. Как безопасность ИИ достигает миллиарда долларов в год На безопасность ИИ тратят около 190 миллионов долларов в год. Довести сумму до миллиарда — не экономическая задача, а вопрос мобилизации, и вот откуда могут прийти деньги. Почему машина, победившая Каспарова, не захватила мир В 1997 году Deep Blue от IBM победил чемпиона мира по шахматам Гарри Каспарова. Система была сверхчеловеческой в одной игре, ничего не понимала и ничего не хотела. Урок на сегодня. ИИ взломал почти все засекреченные системы АНБ за считанные часы Глава АНБ заявил, что ИИ за часы взломал почти все засекреченные системы агентства. Что произошло на самом деле и почему это должно настораживать. Почему в безопасности ИИ так мало денег? Безопасность ИИ получает около 190 миллионов долларов в год — меньше 0,1 % от того, что идёт на развитие возможностей ИИ. Откуда берутся деньги и четыре причины, почему их остаётся мало. Эффективный акселерационизм (e/acc): объяснение и ответ Что такое эффективный акселерационизм? Техно-оптимистичный довод за максимально быстрое создание ИИ и контраргумент с позиции безопасности ИИ.