Модель, которую нельзя запускать

Коротко сама новость.

12 июня Anthropic выпустила официальное заявление: правительство США, ссылаясь на соображения национальной безопасности, выдало директиву экспортного контроля и потребовало приостановить доступ к Claude Fable 5 и Claude Mythos 5 для иностранных граждан. В самой Anthropic пишут, что из-за этого им пришлось резко отключить Fable 5 и Mythos 5 для всех клиентов, чтобы не нарушить требование. Остальные модели Anthropic, по их словам, не затронуты.

Компания получила директиву 12 июня в 17:21 по восточному времени США. В письме, как пишет Anthropic, не было конкретных деталей угрозы. Их понимание такое: правительство считает, что появился способ обхода ограничений Fable 5. Anthropic с этим не согласна и называет ситуацию недоразумением, но доступ всё равно остановлен.

Это произошло почти сразу после запуска. Fable 5 была публичной версией новой сильной модели Anthropic, Mythos 5 — более закрытой версией для проверенных партнёров. До остановки у Fable 5 уже стояли предохранители: классификаторы безопасности, ограничения на кибербезопасность, биологию, химию и попытки дистилляции. В подозрительных сценариях запрос должен был уходить на более слабую модель.

Но доступ всё равно остановили целиком. Не отдельный режим, не отдельную опасную функцию, не одну спорную страну. Всю линейку.

Вот это и важно.

Я смотрю на историю с Claude Fable 5 не как на обычный сбой доступа. Модель не просто перегрузилась, не закончились видеокарты, не отвалился программный доступ. Её остановили по требованию государства.

Это меняет тон всего разговора.

До сих пор мы привыкли обсуждать модели как продукты: кто умнее, кто дешевле, кто лучше пишет код, у кого длиннее контекст. Fable 5, судя по цифрам, была как раз таким продуктом из мечты для разработчика: сильная на коде, автономная, дорогая, но очень мощная. И вдруг выясняется, что самый важный вопрос уже не «насколько она хороша», а «можно ли её вообще давать людям».

Выключатель оказался снаружи

Самое неприятное в этой истории не сам запрет. Запреты в ИИ были и раньше: страны, санкции, закрытые списки, ограничения для отдельных пользователей. Здесь другое.

Модель уже выпустили. Люди успели её потрогать. Разработчики начали примерять её к своим задачам. Компании могли строить планы под новую возможность. А потом доступ остановили сверху.

Это совсем другой уровень риска. Если поставщик сам закрывает модель из-за нагрузки или цены, это рыночная проблема. Неприятно, но понятно. Если модель останавливает государство, она перестаёт быть обычной облачной услугой. Она становится частью политической инфраструктуры.

И вот тут у меня возникает простая мысль: мы всё ещё называем это «моделью», но обращаться с ней начинают как с технологией двойного назначения.

Фильтров уже мало

Что важно: Fable 5 не была выпущена без тормозов. У неё были классификаторы безопасности, ограничения на опасные запросы, откат к более слабой модели в чувствительных зонах. Отдельно закрывали кибербезопасность, биологию, химию, попытки вытащить поведение модели для обучения конкурентов.

То есть Anthropic не пришла с позицией «вот вам самая мощная штука, делайте что хотите». Наоборот, компания явно пыталась показать: мы понимаем риски, у нас стоят предохранители, мы всё измерили, мы следим.

Но, похоже, этого оказалось мало.

И это важный сдвиг. Встроенные ограничения больше не гарантируют право на публичный запуск. Можно написать сотни страниц отчёта, поставить фильтры, хранить данные для проверок, ограничить подозрительные сценарии. А потом регулятор всё равно скажет: нет, пока выключайте.

Для индустрии это холодный душ. Безопасность перестаёт быть только внутренним свойством продукта. Она становится предметом переговоров с государством.

Anthropic сама загнала себя в угол

В этой истории есть неприятная ирония.

Anthropic много говорит о рисках сильного ИИ. Иногда даже так, что хочется спросить: ребята, если всё настолько страшно, почему вы сами бежите быстрее всех? А потом они выпускают модель, которая по ощущениям сильно обгоняет рынок, и почти сразу получают внешнюю остановку.

Я не думаю, что это простое лицемерие. Скорее это ловушка, в которой сейчас сидят все крупные лаборатории.

Если ты не выпускаешь сильную модель, рынок забирают OpenAI, Google или кто-то из Китая. Если выпускаешь, ты сам доказываешь регулятору, что опасения были не теоретическими. Чем сильнее продукт, тем труднее делать вид, что это просто удобный помощник для текста и кода.

Fable 5 попала ровно в эту щель. Слишком полезная, чтобы держать её в лаборатории. Слишком сильная, чтобы спокойно раздать её миру.

Победителей тут меньше, чем кажется

На первый взгляд, конкуренты должны радоваться. OpenAI и Google получают окно: часть компаний, которые уже смотрели на Fable 5, пойдёт к ним. У корпоративных клиентов нет времени ждать, пока юристы и чиновники договорятся. Им нужно закрывать задачи сейчас.

Китайские лаборатории тоже получают свой аргумент. Если американские модели могут исчезнуть из доступа за три дня, дешёвые и более открытые альтернативы выглядят спокойнее. Пусть они слабее в сложных задачах, зато их можно планировать как более предсказуемый слой.

Но радость там должна быть нервной.

Потому что прецедент бьёт не только по Anthropic. Он говорит всем: если ваша модель станет достаточно сильной, к вам тоже могут прийти не пользователи, а регуляторы. Сегодня это Claude. Завтра это может быть GPT, Gemini, Qwen или любая другая модель, которая пересечёт невидимую черту.

Эта черта пока не нарисована. И от этого хуже. Бизнес любит правила, даже жёсткие. А здесь правило выглядит так: вы узнаете о границе, когда уже на неё наступите.

Одна лучшая модель — плохая архитектура

Для меня главный вывод вообще не про Anthropic.

Нельзя строить систему так, будто лучшая модель всегда будет доступна. Ещё вчера это звучало как осторожность параноика. Сегодня это нормальная инженерная гигиена.

Если продукт, отдел или внутренняя автоматизация держатся на одном поставщике, это слабое место. Не потому что поставщик плохой. А потому что над ним есть дата-центры, законы, экспортный контроль, политика, судебные споры и чьи-то страхи.

Архитектура должна переживать исчезновение любимой модели. Не красиво на схеме, а в реальности: задачи должны раскладываться по уровням сложности, модели должны заменяться, проверки должны жить отдельно, данные и цепочки решений не должны растворяться внутри чужого чёрного ящика.

Я всё чаще думаю, что ценность будет не в том, кто первым подключил самую умную модель. Это быстро копируется. Ценность будет в системе, которая умеет жить без неё.

Рынок распадается на зоны доступа

Раньше вопрос был простой: какая модель лучше?

Теперь он распадается на пачку менее приятных вопросов. Где она доступна? Кому она доступна? Можно ли использовать её из другой страны? Не исчезнет ли она завтра? Разрешат ли её для этой отрасли? Не окажется ли, что сильная версия доступна только партнёрам с правильными документами?

Это уже не похоже на обычный рынок программ. Больше похоже на рынок чипов: есть публичные версии, урезанные версии, закрытые версии, версии для доверенных клиентов, версии, которые нельзя вывозить, и версии, о которых все слышали, но почти никто не видел.

ИИ взрослеет некрасиво. Не через красивые презентации, а через ограничения доступа.

После Fable 5

Возможно, доступ к Fable 5 восстановят быстро. Возможно, модель вернётся с новыми ограничениями. Возможно, публичная версия станет слабее, а настоящая сила уйдёт в закрытые программы для проверенных партнёров.

Но событие уже случилось.

Фронтирная модель впервые так явно показала, что она больше не просто продукт. Её нельзя оценивать только по таблице результатов и цене за токены. Нужно смотреть, кто может её остановить.

И это, пожалуй, самый трезвый урок этой недели. Самая сильная модель на рынке может оказаться не той, на которой стоит строить будущее. Не потому что она плохая. А потому что у неё есть выключатель, и палец на нём не у вас.