Обязательный международный договор способен спасти человечество и при этом сохранить технологический прогресс.
Мы — благотворительная кампания против систем, превосходящих человеческий интеллект и не поддающихся исправлению или остановке. Человечество никогда не должно создавать суперинтеллект.
Единая система, намеренно выращенная так, чтобы превзойти и заменить человеческие возможности во всех областях, опасна. Искусственный суперразум — главная угроза человечеству, большая, чем глобальная термоядерная война. Ядерная война может уничтожить цивилизацию и оставить выживших. Суперразум уничтожит наш вид.
Мы опираемся на проверенные подходы, уже изменившие мир: кампании общественного давления и международные договоры по химическому оружию, нераспространению ядерного оружия и защите озонового слоя.
Мы независимы и не берем денег у лабораторий искусственного интеллекта, их инвесторов или фирм, чья прибыль зависит от конкуренции.
Медиа — мощный инструмент формирования мнений и создания культуры, в которой кризис невозможно игнорировать. Они влияют на избирателей и на тех, кого мы избираем. Когда Ronald Reagan смотрели фильм 1983 года На следующий день, абстрактная концепция ядерной войны стала конкретной, и президент позже подписал с Советским Союзом обязывающий договор о сокращении ядерных запасов.
Общественность не читает газеты. Смотрите сухие академические видео. Мы сделаем .Ghibli-style. аниме, которое будет интересным, доступным и информативным.
Многие организации работают над «более безопасной гонкой» или «безопасным переходом». Мы — одна из немногих, кто срочно добивается остановки сверхразум через обязательный закон. «Переход» никогда не должен состояться.
Мы не «анти-ИИ»-организация, поскольку поддерживаем контролируемый и полезный узкий ИИ, например системы диагностики рака и ускорения разработки лекарств. Такие системы превосходят человека только в одной области, что позволяет нам безопасно управлять их работой на благо человечества.
Наш фонд ориентирован исключительно на профилактику АСИ. Мы делаем общественную работу, которая делает возможным заключение обязывающего международного договора: заказ фильмов, аниме, видео, эссе, изображений и отношений с лидерами культуры. Мы также стремимся перевести таланты и финансирование из исследований по выравниванию в профилактику АСИ.
Мы не занимаемся техническими исследованиями, анализом политики или лоббированием.
Мы также не занимаем позиций по общим темам ИИ, таким как чат-боты, автоматизация рабочих мест, военные дроны или дата-центры.
We are a US based philanthropic association. , Финансовое спонсорство находится на рассмотрении и неизбежно, в зависимости от первого сбора средств. Тогда все пожертвования будут приниматься к налоговому вычету.
Мы создаем небольшой консультативный совет. Мы ищем тех, кто имеет опыт общения в общественных интересах, сбора средств и культурного производства.
Достижение заметного влияния — одна из наших главных целей. Наши материалы находятся в открытом доступе и поддаются измерению, например охват в X и просмотры видео на YouTube, и мы сопоставляем эти показатели с настроениями избирателей.
Наото Накада финансировал бы работу по ядерным договорам во время холодной войны. Наш основатель рассматривает сверхинтеллект как сегодняшний экзистенциальный кризис.
После десятилетий исследований безопасности ИИ вывод таков: мы не можем контролировать нечто умнее нас, в то время как большая часть денег в в этой области всё ещё идёт на «более безопасные» передовые системы, пока их продолжают строить. Остановка искусственного сверхинтеллекта до его появления остаётся критически недофинансированной и недостаточно обсуждаемой, с лишь семь организаций в мире, исключительно сосредоточенных на предотвращении сверхразум.
Мы создали фонд в ответ на этот пробел, дав ему выразительное название, которое сразу передаёт неотложность и серьёзность угрозы.
История человечества только началась. Мы должны обеспечить её продолжение на долгие эоны.
Наото Накада
Нет. Мы поддерживаем полезный узкий ИИ: системы, которые выполняют задачу и могут быть исправлены. Мы работаем, чтобы предотвратить artificial superintelligence — системы, чьи открытые возможности ставят их в другую категорию. Смартфон, интернет, даже ядерная станция поддаются регулированию и отключению. Сверхинтеллект — нет.
Мы уникальны. Мы работаем над искусственным сверхинтеллектом и той культурной работой, которая делает возможным договор против него. Смещение чат-ботов, потеря рабочих мест из-за автоматизации, дипфейки, военные дроны, размещение дата-центров: всё это может иметь значение в других местах. Это не работа данного фонда. Если вопрос не о предотвращении сверхразум, он находится вне компетенции фонда.
Самое частое возражение повторяет аргумент против ядерного нераспространения. NPT несовершенен, но всё равно сработал: с 1945 года ядерное оружие не применялось в войне, а ядерных государств девять вместо сотен возможных. Риск дефекции — повод для проверки, а не для гонки. Обучение передовых моделей всё ещё проходит через короткий список производителей чипов. Мониторинг порога вычислений — скорее политическая, чем физическая задача.
Да. У них также есть отделы продаж, отношения с инвесторами, члены советов директоров, представляющие акционеров, и конкурентное давление, заставляющее выпускать продукты быстрее соперников. Команды по безопасности внутри коммерческих лабораторий ИИ подчиняются тем же стимулам, что и остальная компания, а эти стимулы вознаграждают скорость выпуска возможностей, а не снижение риска. Когда команда безопасности OpenAI опубликовала опасения по поводу слишком быстрого движения, компания всё равно ускорилась. В лучшем случае внутренняя команда дополняет внешнее регулирование. Она не может его заменить.
Лауреат премии Тьюринга Джеффри Хинтон, посвятивший карьеру созданию основ современного ИИ, оценивает 10-20-процентный шанс, что ИИ приведёт к вымиранию человечества в течение века. Лауреат Нобелевской премии Йошуа Бенжио публично заявил, что риск реален и недооценён. Заявление Центра по безопасности ИИ 2023 года, подписанное более чем 500 специалистами по ИИ, включая Сэма Альтмана, поставило риск вымирания от ИИ в один ряд с ядерной войной и пандемиями как глобальный приоритет.
Присоединяйтесь к Фонду. Распространяйте наше сообщение среди тех, кто его ещё не слышал. Обратитесь к своему избранному представителю и спросите, какова его позиция по рискам ИИ и какие законы он поддерживает. Если у вас есть финансовые ресурсы, рассмотрите возможность пожертвования Фонду или одной из шести других организаций, работающих над предотвращением сверхразум. Если у вас есть культурное или медийное влияние, используйте его. Если вы работаете в лаборатории ИИ и обеспокоены, подумайте о публичном выступлении. Политическая воля решает этот вопрос, и она исходит от таких людей, как вы.
Получайте обновления и помогайте создавать необходимое давление для этого дела.