Еженедельная сводка: неделя 27

Тихая неделя — одна статья за семь дней. Но статья не маленькая.

На этой неделе вышел один текст — «Запрет, который продал открытые модели». Он про историю с Claude Fable 5: как правительство США запретило модель, Anthropic отключила её для всех пользователей, а через пару недель вернула с усиленными фильтрами. Поводом стал найденный исследователями обход защиты — модель могла находить уязвимости и показывать код их эксплуатации. Но главное в этой истории не сам запрет и не его снятие. Главное в том, что закрытые модели показали свою слабую сторону: доступ к интеллекту стал отдельной точкой отказа. Можно платить за подписку, выстраивать рабочий процесс, привыкать к модели, писать вокруг неё свои проверки и привычки — и вдруг доступ пропадает не потому, что ты что-то нарушил, а потому что где-то наверху решили закрыть дверь.

Именно поэтому запрет Fable 5 так хорошо сработал в пользу открытых моделей. Не потому, что открытые внезапно победили по качеству. А потому, что закрытые доказали: у сколь угодно умной модели без гарантированного доступа есть уязвимое место. Если модель стала частью работы, у неё должен быть запасной выход.

Эта мысль — пока единственная, но плотная. Неделя вышла короткой по количеству записей, но не по содержанию.