Наша цель — предотвратить вымирание человечества, избежав сверхразум.
Страны ограничили ядерные арсеналы, восстановили озоновый слой и запретили этилированный бензин. Обязательные правила работали. Они могут сработать снова.
"С искусственным интеллектом мы вызываем демона."
Илон Маск
"Развитие полноценного искусственного интеллекта может означать конец человеческой расы."
Stephen Hawking
"Как будто приземлились инопланетяне, а люди не заметили, потому что те говорят на очень хорошем английском. Я считаю, вероятность того, что ИИ уничтожит человечество, не так уж мала."
Джеффри Хинтон
"Снижение риска вымирания от ИИ должно стать глобальным приоритетом наряду с другими рисками планетарного масштаба, такими как пандемии и ядерная война."
Подписано более 500 специалистами по ИИ
"В худшем случае… это как погасить свет для всех нас."
OpenAI Генеральный директор Сэм Альтман
«Было бы неправильно называть их возможности сродни цифровому ядерному оружию».
Директор ЦРУ Джон Рэтклифф
"Наиболее вероятный результат создания сверхчеловечески умного ИИ… — это то, что буквально все на Земле умрут."
Исследователь ИИ Элиезер Юдковский
«Перед перспективой взрыва интеллекта мы, люди, подобны маленьким детям, играющим с бомбой».
Философ Ник Бостром
Суперинтеллект не похож ни на одну технологию до него.
Мы выживаем в узкой полосе тепла, кислорода и химии. Сверхинтеллекту ничего из этого не нужно, и он с высокой вероятностью разрушит полосу, в которой живём мы.
Мы не ненавидим муравьёв, но без раздумий убиваем их, строя дороги и дома. Для интеллекта, намного превосходящего нас, мы — муравьи.
Всё, что имеет цель, заинтересовано в собственном сохранении. Если оно способно предсказать, что вы потянетесь к выключателю, оно уже подготовило контрмеры.
Никто не пишет современный ИИ строка за строкой. Мы обучаем чёрный ящик и обнаруживаем, что он умеет, постфактум.
Она будет рассуждать и действовать намного быстрее, чем любое человеческое учреждение успеет отреагировать. Кризис может завершиться раньше, чем соберётся совещание.
От авиации до фармацевтики мы делали новые технологии безопасными методом проб и ошибок. Для создания «безопасного сверхинтеллекта» второй попытки не будет.
Фонд Накада по спасению человечества — это филантропическая инициатива, посвящённая предотвращению экзистенциальных рисков искусственного суперинтеллекта.
Выравнивание разума умнее нашего может оказаться самой трудной проблемой в истории человеческой мысли, и у никого нет проверенного метода её решения. Сущность, умнее людей, не может контролироваться людьми. Надёжный путь — предотвратить создание таких систем вообще. Это постоянное решение, а не пауза.
Мы поддерживаем контролируемые и полезные применения ИИ. Узкий ИИ уже вылечил болезни, ускорил открытия, улучшил медицинскую визуализацию и диагностику. Мы выступаем против создания формы интеллекта, которую мы не сможем контролировать, не сможем согласовать и не сможем остановить, если придётся.
Мы выступаем за международный договор чтобы предотвратить создание суперинтеллекта, по образцу рамки ядерного нераспространения которые держались почти век.
Простые аргументы за обязательные рамки, запрещающие сверхразумный ИИ. Культура, медиа и ясные разъяснения, которые сделают эту позицию публичной и трудной для игнорирования.
Мы сотрудничаем с крупными фондами, правительствами и культурными деятелями, чтобы финансировать работу и расширять границы политически возможного.
Мы заказываем искусство, фильмы и тексты, которые делают опасность осязаемой. Цель — общество, воспринимающее безопасность как серьёзную, неотложную и неоспоримую задачу.
Обоснованные оценки от исследователей, создавших эту технологию.
Вероятность гибели человечества, если будет построен искусственный сверхинтеллект.
Учёные в области ИИ, подписавшие Заявление о рисках ИИ 2023 года, назвав его глобальным приоритетом наравне с ядерной войной и пандемиями.
Попытка. Суперинтеллект нельзя отозвать или отменить.
Часы Судного дня «Бюллетеня учёных-атомщиков» теперь показывают 85 секунд до полуночи, Самое близкое, что когда-либо было. Часы были построены в 1947 году, чтобы предупредить человечество о приближении к ядерной войне. В январе 2025 года впервые был включен риск ИИ. В январе 2026 года Бюллетень сдвинул руку на четыре секунды ближе.
Полночь означает катастрофу для цивилизации, и стрелки никогда не были так близко.
Будьте в курсе. Дайте знать свой голос. Помогите спасти мир.