Google подала в суд на сеть, которая превратила Gemini в фабрику фишинга

Google подала иск против предполагаемой китайской киберпреступной сети Outsider Enterprise. Компания утверждает, что группа использовала Gemini и другие инструменты, чтобы быстро собирать фишинговые сайты, писать код и готовить сообщения для массового обмана пользователей. Это не история про один неудачный промпт. Это пример того, как генеративный ИИ превращает старый телефонный и SMS-фрод в промышленный конвейер.

По данным New York Times и Bloomberg, Google описывает схему так: мошенники создавали поддельные страницы под брендами Google, YouTube, почтовой службы США, E-ZPass и других сервисов, а затем рассылали людям ссылки через SMS. За две недели мая, по версии Google, Android-пользователям ушло около 2,5 млн сообщений со ссылками на сайты, связанные с Outsider Enterprise. Цель обычная: выманить логины, платёжные данные и другую чувствительную информацию.

Почему это новый уровень старого скама

Фишинг существовал задолго до ChatGPT и Gemini. Новое здесь не само мошенничество, а себестоимость и скорость. Раньше группе нужно было держать людей, которые пишут тексты, копируют дизайн сайтов, правят код, переводят сообщения под разные аудитории и быстро меняют инфраструктуру после блокировок. Теперь часть этой работы можно автоматизировать: попросить модель сделать вариант письма, адаптировать страницу, придумать текст под конкретную ситуацию или помочь с шаблоном сайта.

Именно поэтому иск Google важен шире одной компании. Если обвинения подтвердятся, это будет показательный кейс: крупная AI-платформа пытается не только блокировать злоупотребления внутри продукта, но и через суд бить по внешней инфраструктуре, где модель становится одним из инструментов преступной операции. Google также заявляет о координации с ФБР и мобильными операторами AT&T, T-Mobile и Verizon. Смысл понятен: один фильтр в чат-боте не остановит схему, если у мошенников есть домены, SIM-карты, платёжные маршруты и готовая рассылка.

Что это меняет для пользователей и компаний

Для обычного пользователя вывод неприятный, но практичный: фишинговые сообщения будут выглядеть лучше. Меньше кривого языка, больше точных формулировок, быстрее подделка под локальный сервис или свежую новость. Ссылка про посылку, штраф, платёж, банковскую проверку или аккаунт Google уже не обязана выглядеть грубо, чтобы быть массовой атакой.

Компании тоже получают предупреждение. Если бренд известен, его будут подделывать не вручную, а пачками. Значит, защита должна включать не только антифрод на собственном сайте, но и мониторинг доменов, быстрые жалобы хостингам, работу с операторами связи и ясные инструкции для клиентов. Чем убедительнее становится синтетический текст, тем важнее простые правила: не вводить платёжные данные после перехода из SMS, проверять домен вручную, заходить в сервис через приложение или закладку, а не через присланную ссылку.

У Google здесь двойная роль. С одной стороны, компания сама пострадала как бренд и владелец Gemini. С другой — именно такие платформы продают обществу обещание безопасного ИИ. Поэтому этот иск будет проверкой не только для Outsider Enterprise, но и для всей индустрии: смогут ли поставщики моделей быстро находить злоупотребления, делиться сигналами с операторами и закрывать каналы, где AI превращается в усилитель массового обмана.

Что смотреть дальше

Самый важный вопрос теперь в доказательствах и последствиях. Суд должен отделить установленное от заявленного в иске, а Google — показать, что умеет не только описывать угрозу, но и реально снижать масштаб таких кампаний. Если дело станет прецедентом, похожие иски могут появиться у других AI-компаний и платформ, чьи модели, бренды или облака используют в мошеннических цепочках.

Для рынка это ещё один знак: безопасность ИИ выходит из лабораторных тестов в бытовую реальность. Риски измеряются не только jailbreak-демо и абстрактными сценариями, а миллионами сообщений, поддельными страницами и деньгами людей, которые нажали не туда.