Hugging Face расследовала взлом с китайской GLM: защитные фильтры западных моделей помешали киберкоманде
Hugging Face раскрыла июльский инцидент в своей рабочей инфраструктуре и одновременно дала редкий урок о том, как ИИ помогает и мешает киберзащите. По отчету компании, атакующий использовал два пути выполнения кода в обработке датасетов: загрузчик с удаленным кодом и инъекцию шаблона в конфигурации датасета. Затем он получил доступ на уровне узлов, собрал облачные и кластерные учетные данные и перемещался внутри нескольких внутренних кластеров.
Компания рекомендует пользователям повернуть access tokens и проверить недавнюю активность. Hugging Face пишет, что пока продолжает оценку возможного влияния на данные клиентов и партнеров, но не видит признаков подмены моделей, датасетов, Spaces, контейнеров или опубликованных пакетов.
Почему ИИ-защита споткнулась
Самая важная часть истории — не сам факт взлома, а то, что произошло во время расследования. The Stack цитирует отчет Hugging Face: сначала команда пыталась анализировать логи через коммерческие frontier-модели, но запросы блокировались защитными фильтрами. Для расследования нужны были реальные атакующие команды, фрагменты эксплойтов и артефакты командного сервера, а API не смогли надежно отличить работу защитников от вредного запроса.
В итоге Hugging Face запустила GLM 5.2, open-weight модель китайской Z.ai, на собственной инфраструктуре и разобрала более 17 000 следов атакующего. Второй плюс оказался не менее важным: данные атакующего и упомянутые в них учетные данные не покидали контур компании.
Что теперь понятно компаниям
Эта история не означает, что защитные фильтры плохи. Без них сильные модели легче превратить в инструмент атаки. Но для киберкоманд появляется отдельная проблема: во время настоящего инцидента им нужен ИИ, который умеет читать опасные артефакты под контролем защитников, а не автоматически закрывает дверь.
Практический вывод для бизнеса прямой: заранее подготовить модель, которую можно запустить локально или в своем облаке, проверить ее на задачах incident response и прописать правила доступа. Open-weight модели здесь важны не как политический символ, а как страховка на момент, когда внешний API слишком осторожен, недоступен или не должен видеть чувствительные данные.
- huggingface.coSecurity incident disclosure — July 2026
- thestack.technologyHugging Face hacked: Turned to Chinese LLM for help after US models blocked Blue Team
- techmeme.comHugging Face says it used the open-weight GLM-5.2 hosted on its own compute for breach forensics, after US frontier model safety guardrails blocked the requests
- salesforceventures.comWelcome, Hugging Face!
