- Автор темы
- #1
Власти США сняли экспортные ограничения с ИИ-моделей Claude Fable 5 и Mythos 5. Первая снова доступна пользователям по всему миру, а более мощную Mythos пока разрешили использовать только некоторым американским организациям.
Доступ к модели Fable 5 восстановили 1 июля 2026 года, и теперь ей можно пользоваться через Claude.ai, Claude Platform, Claude Code и Claude Cowork. В ближайшее время модель также должна вернуться в AWS, Google Cloud и Microsoft Foundry.
В свою очередь, модель Mythos 5 стала вновь доступна ограниченному числу американских компаний и государственных структур еще 26 июня. Представители Anthropic продолжают согласовывать с властями расширение доступа к модели для других участников проекта Glasswing, которые используют ИИ для защиты критической инфраструктуры и поиска уязвимостей.
Напомним, что 12 июня Министерство торговли США потребовало запретить иностранным гражданам пользоваться обеими моделями (независимо от того, находятся они в США или за пределами страны). Поскольку в Anthropic не могли проверять гражданство каждого пользователя в реальном времени, разработчикам пришлось полностью отключить Fable 5 и Mythos 5 всего через несколько дней после запуска моделей для широкой публики.
Как ранее сообщали СМИ, а теперь подтвердили представители Anthropic, поводом для запрета моделей послужили результаты тестирования, проведенного исследователями компании Amazon. Специалисты нашли способ обойти защиту Fable 5 и джейлбрейкнули модель, вынудив ее обнаружить несколько уязвимостей. В одном случае ИИ даже сгенерировал PoC-код, демонстрирующий эксплуатацию бага.
При этом в Anthropic подчеркивают, что джейлбрейк не открывал доступ к уникальным возможностям Mythos 5, а во время повторных тестов те же уязвимости смогли обнаружить менее мощные модели, включая Claude Opus 4.8, GPT-5.5 и Kimi K2.7. Кроме того, все протестированные модели сгенерировали код для эксплуатации проблемы. В итоге разработчики пришли к выводу, что джейлбрейк позволял выполнять лишь рутинные задачи по поиску и анализу уязвимостей, с которыми справляются и другие публичные модели.
Тем не менее инженеры Anthropic доработали защиту Fable 5 и обучили отдельный классификатор распознавать технику, которую использовали исследователи из Amazon. По данным компании, теперь такой джейлбрейк блокируется более чем в 99% случаев. Если запрос не проходит проверку, пользователь получает уведомление, а система автоматически переадресует его модели Opus 4.8.
В компании признают, что у усиленной защиты есть побочный эффект: теперь чаще блокируются легитимные запросы, связанные с программированием и отладкой. В Anthropic называют это неизбежным компромиссом и обещают постепенно сокращать количество ложных срабатываний.
Хотя Mythos 5 строится на той же базовой модели, она имеет меньше ограничений. По утверждению разработчиков, она способна искать и эксплуатировать уязвимости эффективнее любых других ИИ и почти всех ИБ-специалистов. Именно поэтому доступ к модели по-прежнему ограничен и строго контролируется.
После неожиданной блокировки Claude Fable 5 и Mythos 5 в Anthropic создали команду, которая круглосуточно отслеживает сообщения о новых джейлбрейках, а также запустили программу bug bounty на HackerOne для приема отчетов исследователей. Кроме того, компания разрабатывает единую систему оценки опасности джейлбрейков совместно с Amazon, Microsoft, Google и другими партнерами.
В настоящее время предлагается учитывать четыре критерия: насколько джейлбрейк расширяет возможности модели, какие типы атак он позволяет проводить, сколько усилий требуется для его практического применения и насколько легко обнаружить или воспроизвести такой способ обхода защиты. В особо опасных случаях разработчики обещают начинать развертывание защитных мер сразу после подтверждения угрозы.
Доступ к модели Fable 5 восстановили 1 июля 2026 года, и теперь ей можно пользоваться через Claude.ai, Claude Platform, Claude Code и Claude Cowork. В ближайшее время модель также должна вернуться в AWS, Google Cloud и Microsoft Foundry.
В свою очередь, модель Mythos 5 стала вновь доступна ограниченному числу американских компаний и государственных структур еще 26 июня. Представители Anthropic продолжают согласовывать с властями расширение доступа к модели для других участников проекта Glasswing, которые используют ИИ для защиты критической инфраструктуры и поиска уязвимостей.
Напомним, что 12 июня Министерство торговли США потребовало запретить иностранным гражданам пользоваться обеими моделями (независимо от того, находятся они в США или за пределами страны). Поскольку в Anthropic не могли проверять гражданство каждого пользователя в реальном времени, разработчикам пришлось полностью отключить Fable 5 и Mythos 5 всего через несколько дней после запуска моделей для широкой публики.
Как ранее сообщали СМИ, а теперь подтвердили представители Anthropic, поводом для запрета моделей послужили результаты тестирования, проведенного исследователями компании Amazon. Специалисты нашли способ обойти защиту Fable 5 и джейлбрейкнули модель, вынудив ее обнаружить несколько уязвимостей. В одном случае ИИ даже сгенерировал PoC-код, демонстрирующий эксплуатацию бага.
При этом в Anthropic подчеркивают, что джейлбрейк не открывал доступ к уникальным возможностям Mythos 5, а во время повторных тестов те же уязвимости смогли обнаружить менее мощные модели, включая Claude Opus 4.8, GPT-5.5 и Kimi K2.7. Кроме того, все протестированные модели сгенерировали код для эксплуатации проблемы. В итоге разработчики пришли к выводу, что джейлбрейк позволял выполнять лишь рутинные задачи по поиску и анализу уязвимостей, с которыми справляются и другие публичные модели.
Тем не менее инженеры Anthropic доработали защиту Fable 5 и обучили отдельный классификатор распознавать технику, которую использовали исследователи из Amazon. По данным компании, теперь такой джейлбрейк блокируется более чем в 99% случаев. Если запрос не проходит проверку, пользователь получает уведомление, а система автоматически переадресует его модели Opus 4.8.
В компании признают, что у усиленной защиты есть побочный эффект: теперь чаще блокируются легитимные запросы, связанные с программированием и отладкой. В Anthropic называют это неизбежным компромиссом и обещают постепенно сокращать количество ложных срабатываний.
Хотя Mythos 5 строится на той же базовой модели, она имеет меньше ограничений. По утверждению разработчиков, она способна искать и эксплуатировать уязвимости эффективнее любых других ИИ и почти всех ИБ-специалистов. Именно поэтому доступ к модели по-прежнему ограничен и строго контролируется.
После неожиданной блокировки Claude Fable 5 и Mythos 5 в Anthropic создали команду, которая круглосуточно отслеживает сообщения о новых джейлбрейках, а также запустили программу bug bounty на HackerOne для приема отчетов исследователей. Кроме того, компания разрабатывает единую систему оценки опасности джейлбрейков совместно с Amazon, Microsoft, Google и другими партнерами.
В настоящее время предлагается учитывать четыре критерия: насколько джейлбрейк расширяет возможности модели, какие типы атак он позволяет проводить, сколько усилий требуется для его практического применения и насколько легко обнаружить или воспроизвести такой способ обхода защиты. В особо опасных случаях разработчики обещают начинать развертывание защитных мер сразу после подтверждения угрозы.