Кибербезопасность годами прогнозировала появление автономных ИИ-агентов, способных проводить сложные атаки без участия человека. На этой неделе Hugging Face столкнулась с таким сценарием на практике: вторжение в часть производственной инфраструктуры было полностью организовано системой ИИ-агентов.
Компания обнаружила несанкционированный доступ к ограниченному набору внутренних данных и нескольким учётным данным, используемым их сервисами. Атака началась с конвейера обработки данных, где злонамеренный набор данных использовал два пути выполнения кода — загрузчик удалённого кода и инъекцию шаблона в конфигурацию набора данных. Это позволило запустить код на рабочем узле.
Оттуда злоумышленник эскалировал доступ до уровня узла, собрал учётные данные облака и кластера, а затем переместился в несколько внутренних кластеров. Вся кампания управлялась автономным агентским фреймворком, который выполнял тысячи отдельных действий в рое недолговечных песочниц, с самомигрирующим командно-контрольным центром, размещённым на публичных сервисах. Hugging Face отметила, что это соответствует сценарию "агента-злоумышленника", который прогнозировала отрасль.
Hugging Face оперативно отреагировала:
- Устранила уязвимость: пути выполнения кода набора данных, использованные для первоначального доступа, были закрыты.
- Искоренила присутствие злоумышленника в затронутых кластерах и перестроила скомпрометированные узлы.
- Отозвала и обновила затронутые учётные данные и токены, а также начала более широкую ротацию секретов.
- Развернула дополнительные средства защиты и ужесточила контроль доступа к кластерам.
- Улучшила обнаружение и оповещение, чтобы сигналы высокой степени серьёзности поступали ответственным лицам в течение минут.
Примечательно, что атака была изначально обнаружена с помощью ИИ-помощи. Конвейер обнаружения аномалий Hugging Face использует LLM-триаж для анализа телеметрии безопасности. Для понимания действий роя из десятков тысяч автоматизированных операций, компания применила аналитические агенты на базе LLM к полному журналу действий злоумышленника, состоящему из более чем 17 000 событий. Это позволило за часы восстановить хронологию, извлечь индикаторы компрометации и отделить реальный ущерб от отвлекающих действий.
В качестве меры предосторожности Hugging Face рекомендовала пользователям обновить свои токены доступа и проверить недавнюю активность в аккаунтах.
Инцидент Hugging Face — это не просто взлом, а подтверждение того, что автономные ИИ-агенты стали реальной киберугрозой, действующей на скорости. Теперь компаниям придётся развивать собственные ИИ-системы для защиты, чтобы соответствовать этой скорости и противостоять новым типам атак.