Anthropic заявляет, что внутреннее тестирование не выявило уникальной киберугрозы со стороны Claude Fable 5. Одновременно, по данным компании, Claude Mythos 5 возвращается глобально 2 июля.

Признание сопровождает глобальный перезапуск Fable 5, завершающий 18-дневную приостановку, которую вызвали экспортные ограничения США от 12 июня. Чтобы оценить реальный масштаб угрозы, лежащей в основе ограничения, Anthropic протестировала конкурирующие модели.

Почему Anthropic приостановила Fable 5

Fable 5 и Mythos 5 вышли 9 июня и используют одну и ту же базовую модель, но публично доступной была только первая. Mythos 5 оставалась доступной ограниченному числу доверенных партнёров по программе Project Glasswing для оборонительной работы в сфере кибербезопасности.

Экспортные ограничения появились после того, как исследователи Amazon нашли способ обойти защитные механизмы Fable 5. Приём заставлял модель выявлять уязвимости в ПО, а в одном случае — продемонстрировать эксплойт.

Тесты Anthropic показали, что Claude Opus 4.8, GPT-5.5 и Kimi K2.7 способны выявлять те же уязвимости, которые Fable 5 отметила в отчёте Amazon. Каждая протестированная модель смогла воспроизвести и единственную демонстрацию эксплойта. Это указывает, что директива била по пробелу, общему для всей отрасли, а не по угрозе, специфичной для Fable.

Как работают ограждения

По утверждению Anthropic, Fable 5 запускалась с самым большим запасом безопасности среди её моделей: классификаторы блокируют запросы, которые выглядят даже слегка рискованными, а не только явно вредоносные. Новый классификатор, обученный после отчёта Amazon, блокирует описанный обход более чем в 99% случаев, сообщает компания; заблокированные запросы автоматически перенаправляются на Opus 4.8.

За этот запас приходится платить. Anthropic признаёт, что классификатор чаще помечает и безобидные запросы на написание и отладку кода, и обещает донастраивать его, чтобы сократить ложные срабатывания. Mythos 5, у которой таких ограждений меньше, вернулась только для организаций, получивших допуск от правительства 26 июня.

Собственные данные Anthropic поднимают более сложный вопрос: если более слабые модели уже способны на то, за что запретили Fable 5, какой стандарт регуляторы применят при следующем запуске передовой модели?

Источник: BeInCrypto