Моделью была Mythos, которую называли самой мощной системой Anthropic. Сенатором был Марк Уорнер из Вирджинии, заместитель председателя сенатского комитета по разведке. Генералом был Джошуа Радд, возглавляющий и АНБ, и Киберкомандование США. По словам Уорнера, впервые сообщено Экономист и подхвачено в отраслевой прессе, Радд рассказал ему, что сделала модель.

За считаные часы коммерческой моделью. Подробности оспаривают, а история уже через несколько дней усложнилась. Но суть реальна, и этой сути достаточно.

Mythos взломал почти все наши засекреченные системы не за недели, а за часы.

Генерал Джошуа Радд, глава АНБ и Киберкомандования США, со слов сенатора Марка Уорнера, по сообщению Экономист, июнь 2026

«ИИ взламывает АНБ» — заголовок сам себя пишет. Но произошло не совсем то. Разрыв между вирусной версией и реальной стоит прояснить, потому что именно реальная должна заставлять беспокоиться.

Что на самом деле произошло

Никакая машина-отступник не восстала против своих создателей и не захватила государственные секреты. Взлом произошёл внутри авторизованного упражнение red-team: контролируемое испытание безопасности, в ходе которого агентство направило модель на копии собственных засекреченных сред и поручило ей найти способ проникнуть внутрь.

Оговорки появились быстро. Позже представитель правительства уточнил, что Уорнер, возможно, сжал историю при пересказе, а фраза «часы, а не недели» относилась только к контексту red teaming, а не к реальной сети. Ни АНБ, ни Киберкомандование независимо не подтвердили его слова. Примите всё это во внимание. Согласитесь с каждой поправкой. Исходите из самого успокаивающего варианта.

После снятия пафоса остаётся вот что. Модель, которую можно арендовать, нацеленная на заменители самых защищённых систем, какие только умеет строить эта страна, нашла уязвимости и за один день выстроила из них цепочку почти полного доступа. Команда лучших в мире человеческих red team за день такого не сделает.

Они отключили продукт

Они не пожимали плечами.

На следующий день после теста Министерство торговли запретило всем иностранным гражданам, включая собственных негражданских сотрудников Anthropic, пользоваться двумя самыми мощными моделями — Mythos и Fable. Anthropic не стал оспаривать техническую деталь. Он изъяли обе модели с мирового рынка, для всех, утверждая, что на практике невозможно провести тест на гражданство для тех, кто хочет войти в систему. Компания взяла свой флагманский продукт, ради которого она и существует, и отключила его по всей планете за один день. Так не поступают с возможностью, которую считают надёжно контролируемой.

И тест NSA не был разовой демонстрацией. Через закрытую программу оценки Mythos, по сообщениям, выявил тысячи уязвимостей в ПО, среди них — дефект, который двадцать семь лет оставался необнаруженным в OpenBSD, операционной системе, выбранной специалистами по безопасности именно потому, что её трудно взломать. Двадцать семь лет работы лучших человеческих глаз его не заметили. Модель прочитала код так, как вы читаете абзац. Она не устаёт. Её будет только больше.

Это самое медленное, что оно когда-либо будет двигаться

Это должно насторожить любого, кто следит за ситуацией. Лаборатории мчатся к суперразуму, и темп только ускоряется. Год назад никто за пределами frontier-лабораторий не видел, как модель делает то, что только что продемонстрировал Mythos. Через шесть месяцев появятся системы, на фоне которых Mythos будет выглядеть медленным, а ещё через полгода сравнение снова поставит нас в неловкое положение.

Причина этого эффекта не загадочна. Модель, способная находить уязвимости в мировом ПО, достаточно сильна, чтобы помочь создать собственную преемницу, — именно в этом и состоит механизм рекурсивное самосовершенствование. Исследования, ускоряющие исследования, не добавляют. Они умножают. Кривая возможностей не заботится о том, что мы не готовы к ней, и она не будет ждать у обочины, пока закон её догонит. Закон не близко.

Вероятный исход этой гонки, если её не остановить, — мы потеряем контроль над тем, что строим, и оно нас убьёт. Не «нарушит рынок труда». Не «перегрузит институты», хотя и это тоже произойдёт по пути. Убьёт нас. Всех. Каждого, кого вы любите, и каждого, кого любят они, и всё тихое человеческое будущее, которое должно было наступить после.

в самый крупный опрос исследователей ИИ из когда-либо проведённых, где почти 2800 человек, которые строят эти системы профессионально, от 38 до 51 процентов оценивают вероятность того, что продвинутый ИИ приведёт к последствиям вплоть до вымирания человечества, как один к десяти или выше. Не один к миллиону. Один к десяти — от самих создателей. Вы не посадили бы своего ребёнка в самолёт с такими шансами. Мы сажаем на борт весь вид.

Джеффри Хинтон получил премию Тьюринга за методы, сделавшие всё это возможным, а затем покинул Google, чтобы говорить то, что думает, без корпоративного надзирателя в комнате. Он оценивает вероятность того, что ИИ приведёт человечество к вымиранию, в 10–20 процентов. Он не самый напуганный человек в этой области. Многие из тех, кто ближе всего к работе, ставят число выше, и оценки, как правило, растут, а не падают, чем ближе эксперт находится к переднему краю.

В 2023 году сотни наиболее цитируемых исследователей и руководители лабораторий, участвующих в разработке технологии, подписали заявление Центра безопасности ИИ: снижение риска исчезновения от ИИ должно быть глобальным приоритетом наряду с другими рисками социального масштаба, такими как пандемии и ядерная война. Люди, строившие это, использовали свою силу, чтобы покончить с человечеством в том же духе, что и ядерная война, а затем вернулись к своим столам и построили его быстрее. Их обрамление. Их слова. Их имена.

Но вы можете что-то с этим сделать

Тихое отчаяние - это еще один способ ничего не делать, и ничего не делать - это то, как мы проигрываем по умолчанию.

«Мифос» сняли с полки, потому что надавило правительство, а правительство нажало, потому что до него дошло давление. Правила пишут правительства, а правительства слушают тех, кто не молчит. Так что не молчите.

  • Скажите своим представителям, простыми словами, что вы хотите жёстких ограничений на передовой ИИ и будете за это голосовать. Если вы никогда этого не делали, наш инструмент поможет напишите своему представителю делает первое сообщение простым.
  • Назад Осуществляемый международный договор Как когда-то мир решил, что ядерное и биологическое оружие слишком опасно, чтобы оставлять его тем, кто движется быстрее.
  • Поддержите людей, занимающихся этим на постоянной основе. Добавьте своё имя ниже, пожертвуйте сколько можете и сделайте это на этой неделе, а не после следующего заголовка, который окажется хуже этого.

Люди, которые это строят, прямо и под своими именами говорили вам, что это может убить всех. ИИ за один день прошёл почти через все засекреченные стены страны, а официальной реакцией стало снятие модели с рынка до выходных. Перестаньте ждать предупреждения яснее тех, что уже перед вами. Его не будет.