Google поймала первый нулевой день, созданный с помощью ИИ — кибергонка ускорилась

Google Threat Intelligence Group заявила, что обнаружила первый известный ей случай, когда злоумышленник использовал эксплойт нулевого дня, вероятно разработанный с помощью искусственного интеллекта. Это не сценарий из презентации о далёком будущем и не лабораторный трюк: речь о реальной уязвимости в популярном open-source инструменте для веб-администрирования. По данным Google, эксплойт позволял обходить двухфакторную аутентификацию, хотя для атаки всё равно требовались действующие логин и пароль.

Массовая эксплуатация, судя по отчёту, не состоялась: Google заранее обнаружила активность, скоординировалась с разработчиком и помогла сорвать операцию. Но важность новости не в том, что один конкретный взлом не дошёл до финальной стадии. Важность в другом: ИИ начинает работать как усилитель для атакующих именно там, где раньше требовалась дорогая экспертиза, время и терпение.

Что именно нашла Google

В отчёте GTIG описан Python-скрипт для эксплуатации логической ошибки в механизме 2FA. Google подчёркивает, что это была не типичная уязвимость вроде переполнения памяти или простой ошибки фильтрации ввода. Проблема возникла из-за «жёстко зашитого» доверительного допущения в логике приложения: код выглядел функционально нормальным, но в определённом сценарии ломал смысл защиты.

Именно такие ошибки становятся интересной зоной для языковых моделей. Фаззеры и статические анализаторы хорошо ищут падения, опасные вызовы и повторяющиеся шаблоны. Современные LLM лучше читают намерение разработчика: сопоставляют, где должна включаться проверка, где есть исключение, и где исключение фактически отменяет защиту. Иными словами, модель может увидеть не только «плохую строку кода», а противоречие в бизнес-логике.

Google не называет использованную модель и отдельно пишет, что не считает Gemini инструментом этой атаки. Но компания говорит о высокой уверенности, что ИИ участвовал в разработке или доведении эксплойта до рабочего состояния. Среди признаков — учебные docstring-комментарии, «учебниковая» структура Python-кода, подробные меню помощи и даже выдуманная оценка CVSS. Это почти почерк человека, который попросил модель объяснять и упаковывать код слишком аккуратно.

Почему это тревожнее обычного отчёта о взломе

Нулевые дни существовали задолго до ChatGPT. Киберпреступники, государственные группы и исследователи безопасности давно находят неизвестные уязвимости. Новое здесь — потенциальная экономия времени и снижение порога входа.

Если ИИ помогает анализировать код, строить гипотезы, писать рабочий эксплойт, документировать шаги и быстро менять реализацию, то больше акторов получают доступ к классу задач, который раньше требовал сильной команды. Это не означает, что любой школьник завтра начнёт массово искать нулевые дни. Но означает, что средний злоумышленник получает более мощный «экзоскелет», а сильные группы — ускоритель для уже существующих процессов.

Для компаний это меняет практическую картину риска. Раньше можно было надеяться, что сложная логическая ошибка в редком open-source компоненте долго останется незамеченной. Теперь этот комфорт уменьшается. Всё, что подключено к интернету, управляет доступом, хранит токены, админит инфраструктуру или сидит внутри цепочки поставки, становится кандидатом на машинно-ускоренную проверку.

ИИ в атаках — уже не только фишинговые письма

Отчёт Google шире одного эксплойта. GTIG описывает переход от ранних экспериментов с генеративным ИИ к более промышленному использованию моделей в атакующих рабочих процессах. Простейший этап — ускорить разведку, писать фишинговые тексты и переводить сообщения — уже не новость. Теперь речь идёт о разработке инструментов, обфускации кода, автономных действиях вредоносного ПО и атаках на саму AI-инфраструктуру.

Google приводит примеры вредоносных семейств, где ИИ, по оценке исследователей, помогал создавать «мусорную» логику для маскировки настоящего назначения кода. Такие фрагменты могут выглядеть как безобидные административные функции и мешать анализу. В другом направлении компания говорит о PROMPTSPY — AI-enabled malware, где модель может интерпретировать состояние системы и динамически генерировать команды. Это уже не просто вредоносная программа с заранее прописанным сценарием, а шаг к более адаптивной атаке.

Есть и третья линия: злоумышленники начинают целиться в AI-среды и зависимости как в точку входа. Google упоминает TeamPCP, также известную как UNC6780, и риски цепочки поставки вокруг ML-компонентов. Логика понятна: если бизнес всё больше строит процессы на моделях, агентах, датасетах и интеграциях, атаковать будут не только старые серверы, но и новую AI-обвязку.

Что это значит для обычных людей и бизнеса

Для обычного пользователя главный вывод простой: ИИ не только защищает от мошенников, но и помогает мошенникам выглядеть умнее, быстрее и убедительнее. Это усилит фишинг, поддельные сайты, поддержку «от имени банка», атаки на аккаунты и попытки обойти двухфакторную защиту через украденные учётные данные.

Для бизнеса вывод жёстче. Безопасность больше нельзя рассматривать как набор периодических проверок. Если атакующие ускоряются, защита тоже должна стать непрерывной: быстрее обновлять зависимости, инвентаризировать open-source компоненты, ограничивать доступы, включать поведенческий мониторинг, тестировать логику авторизации, проверять админ-панели и не считать 2FA магическим щитом.

Особенно важны логические ошибки. Многие компании хорошо научились искать «технические» уязвимости автоматическими сканерами, но хуже проверяют сценарии вроде: что случится, если пользователь уже частично авторизован; как работает восстановление доступа; где система доверяет старому токену; кто может изменить фактор аутентификации; какие исключения существуют для администраторов. Именно такие места и становятся вкусными для AI-assisted анализа.

Хорошая новость: защитники получают тот же двигатель

Паниковать тоже не стоит. Та же технология помогает и обороне. Google напоминает о своих AI-агентах вроде Big Sleep для поиска уязвимостей и CodeMender для автоматического исправления кода. Если модели ускоряют атакующих, они же могут ускорять ревью, triage, генерацию патчей, анализ инцидентов и поиск слабых мест до того, как их найдёт кто-то с плохими намерениями.

Но здесь есть неприятная асимметрия. Защитнику нужно закрывать много систем и не ломать бизнес. Атакующему достаточно найти одну щель. Поэтому главный вопрос ближайших лет — не «можно ли запретить злоумышленникам пользоваться ИИ». Нельзя. Вопрос в том, смогут ли компании встроить ИИ в защиту быстрее, чем он встроится в криминальный конвейер.

Тренд: кибербезопасность становится гонкой моделей

Эта история важна как рубеж. До сих пор многие разговоры об AI-рисках крутились вокруг дезинформации, дипфейков, утечек данных и плохих советов чат-ботов. Теперь всё чаще видно другое: модели становятся операционным инструментом в реальной борьбе за доступ к системам.

Это меняет рынок безопасности. Выигрывать будут не те, кто просто купил ещё один дашборд, а те, кто умеет быстро понимать собственную поверхность атаки: где код, где данные, где права, где поставщики, где агенты, где автоматические действия. ИИ делает интернет менее статичным: уязвимости будут находить быстрее, эксплойты собирать быстрее, защитные патчи тоже придётся выпускать быстрее.

Для читателя здесь полезная карта местности: ИИ в кибербезопасности — это не отдельная категория продуктов, а новая скорость всей игры. Google поймала один AI-assisted нулевой день до массовой атаки. Следующий могут поймать позже. Или не поймать вовсе.