- Автор темы
- #1
По данным СМИ, небольшая группа людей из тематического Discord-канала получила доступ к Claude Mythos Preview — самой мощной и опасной ИИ-модели Anthropic, которую компания намеренно не выпускает в открытый доступ.
Первым об этом инциденте сообщило издание Bloomberg, со ссылкой на одного из участников группы и подтверждающую документацию, связанную с Mythos.
Как мы уже писали ранее, представители Anthropic позиционируют Mythos как модель, способную находить и эксплуатировать уязвимости «во всех основных операционных системах и браузерах». Также в компании заявили, что модель настолько эффективна в поиске уязвимостей и создании эксплоитов, что ее публичный релиз создал бы настоящий хаос.
Поэтому доступ к модели строго ограничен рамками инициативы Project Glasswing, и пользоваться ею могут только одобренные партнеры — Apple, Google, Amazon Web Services, Microsoft, Nvidia, Cisco и ряд других организаций.
Однако в тот же день, когда в Anthropic анонсировали начало ограниченного тестирования Mythos (7 апреля), участники закрытого Discord-канала сумели добраться получить к ней доступ. По словам источника Bloomberg, эта группа энтузиастов специализируется на поиске информации о неанонсированных ИИ-моделях, в том числе с помощью ботов, которые мониторят открытые ресурсы (вроде GitHub).
Чтобы обнаружить Mythos, группа воспользовалась данными из недавней утечки, допущенной ИИ-стартапом Mercor, который работает с крупнейшими ИИ-разработчиками. Благодаря «слитым» у Mercor данным стали известны форматы URL, которые в Anthropic используют для своих моделей, что позволило попросту угадать адрес. Кроме того, помог и тот факт, что один из участников группы работал контрактником на компанию, занимающуюся оценкой моделей Anthropic, и имел легитимный доступ к части инфраструктуры компании.
С момента получения доступа группа регулярно пользовалась Mythos на протяжении примерно двух недель (источник издания подтвердил это скриншотами, а также провел живую демонстрацию модели для журналистов).
При этом участники группы намеренно избегали связанных с ИБ промптов и использовали модель для безобидных задач, вроде создания простых сайтов, чтобы не привлекать к себе внимание. По словам источника, мотивы группы лежат в области изучения новых моделей, а не причинения вреда.
Также сообщается, что помимо Mythos группа получила доступ и к другим неанонсированным моделям Anthropic.
Первым об этом инциденте сообщило издание Bloomberg, со ссылкой на одного из участников группы и подтверждающую документацию, связанную с Mythos.
Как мы уже писали ранее, представители Anthropic позиционируют Mythos как модель, способную находить и эксплуатировать уязвимости «во всех основных операционных системах и браузерах». Также в компании заявили, что модель настолько эффективна в поиске уязвимостей и создании эксплоитов, что ее публичный релиз создал бы настоящий хаос.
Поэтому доступ к модели строго ограничен рамками инициативы Project Glasswing, и пользоваться ею могут только одобренные партнеры — Apple, Google, Amazon Web Services, Microsoft, Nvidia, Cisco и ряд других организаций.
Однако в тот же день, когда в Anthropic анонсировали начало ограниченного тестирования Mythos (7 апреля), участники закрытого Discord-канала сумели добраться получить к ней доступ. По словам источника Bloomberg, эта группа энтузиастов специализируется на поиске информации о неанонсированных ИИ-моделях, в том числе с помощью ботов, которые мониторят открытые ресурсы (вроде GitHub).
Чтобы обнаружить Mythos, группа воспользовалась данными из недавней утечки, допущенной ИИ-стартапом Mercor, который работает с крупнейшими ИИ-разработчиками. Благодаря «слитым» у Mercor данным стали известны форматы URL, которые в Anthropic используют для своих моделей, что позволило попросту угадать адрес. Кроме того, помог и тот факт, что один из участников группы работал контрактником на компанию, занимающуюся оценкой моделей Anthropic, и имел легитимный доступ к части инфраструктуры компании.
С момента получения доступа группа регулярно пользовалась Mythos на протяжении примерно двух недель (источник издания подтвердил это скриншотами, а также провел живую демонстрацию модели для журналистов).
При этом участники группы намеренно избегали связанных с ИБ промптов и использовали модель для безобидных задач, вроде создания простых сайтов, чтобы не привлекать к себе внимание. По словам источника, мотивы группы лежат в области изучения новых моделей, а не причинения вреда.
Также сообщается, что помимо Mythos группа получила доступ и к другим неанонсированным моделям Anthropic.
В компании подчеркнули, что пока не обнаружили признаков компрометации собственных систем и инцидент, судя по имеющимся данным, был ограничен средой подрядчика.