EY сняла отчет после фальшивых ссылок: ИИ добрался до консалтингового бизнеса

Консалтинговая фирма EY отозвала канадский отчет о киберрисках программ лояльности после того, как исследователи GPTZero нашли в нем признаки AI-галлюцинаций: фальшивые ссылки, несуществующие источники, сомнительные цифры и текст, похожий на сгенерированный. Об отзыве также сообщил Financial Times; Techmeme вынес историю в технологическую повестку.

На первый взгляд это выглядит как очередной неловкий эпизод из серии «ИИ придумал сноски». На деле история важнее. Речь не о студенческом реферате и не о случайном посте в блоге, а о материале большой консалтинговой фирмы — той самой категории источников, на которую бизнес, журналисты, госструктуры и AI-поисковики привыкли ссылаться как на авторитетную упаковку знаний.

Именно поэтому кейс EY — хороший ранний симптом новой проблемы: генеративный ИИ снижает стоимость красивого отчета почти до нуля, но не снижает стоимость проверки фактов. А когда проверка исчезает, презентабельный PDF превращается в машину для распространения уверенно оформленной неправды.

Что именно нашли в отчете EY

Речь идет о 44-страничном отчете EY Canada Points of Attack: Uncovering Cyber Threats and Fraud in Loyalty Systems. Он был посвящен мошенничеству и киберрискам в программах лояльности: авиамили, бонусные баллы, аккаунты клиентов, атаки на колл-центры и связанные с этим финансовые потери.

GPTZero пишет, что проверила источники из отчета вручную и через свой инструмент Hallucination Check. По версии исследователей, значительная часть ссылок оказалась сломанной, выдуманной или не подтверждала заявленные тезисы. В материале Sherwood News приводится оценка GPTZero: около 60% ссылок в отчете могли быть галлюцинированными.

Среди примеров — ссылка на якобы существовавшую статью Forbes The $200 Billion Loyalty Economy, которой Sherwood не смог найти следов ни по указанному URL, ни в Internet Archive. Другой пример — ссылки на материалы WIRED и CyberNews, которые также вели в никуда. GPTZero отдельно разбирает утверждение о рынке loyalty points на $200 млрд и о 30–50% неиспользованных баллов: по версии исследователей, источник был приписан McKinsey, но в реальности след вел к гораздо менее авторитетному fintech-блогу с похожей формулировкой.

Важно: это не доказывает автоматически, что каждое утверждение в отчете ложное. Но для профессионального отчета проблема уже в другом: если читатель не может проверить фундамент, весь документ теряет статус надежного источника.

Почему это удар не только по EY

Консалтинг продает не только рекомендации, но и доверие к процессу: экспертиза, методология, доступ к данным, проверка, редактура, ответственность бренда. Когда отчет крупной фирмы выглядит как набор «vibe citations» — красивых, но несуществующих ссылок, — страдает сама идея платной экспертности.

Это неприятно для EY, но еще неприятнее для рынка. Если крупные фирмы начинают публиковать тексты, которые выглядят убедительно, но не выдерживают проверки источников, клиенту приходится задавать простой вопрос: за что он платит — за экспертизу или за красиво отформатированный вывод языковой модели?

Здесь нет удобного ответа. Большие консалтинговые компании активно внедряют генеративный ИИ, потому что он ускоряет ресерч, черновики, презентации и повторяемую аналитическую работу. Это логично. Но чем больше ИИ входит в производство отчетов, тем дороже становится человеческая часть: проверка ссылок, верификация цифр, методологическая чистота и ответственность конкретных авторов.

Если эту часть попытаться «оптимизировать» вместе с черновиком, результат будет не дешевле консалтинг, а более дорогой мусор: его потом придется перепроверять клиентам, журналистам, юристам и регуляторам.

Галлюцинации стали инфраструктурной проблемой

Самый опасный эффект таких отчетов — не разовая ошибка. GPTZero прямо пишет о «загрязнении колодца»: опубликованный PDF попадает в общий интернет, а дальше его начинают читать не только люди, но и поисковые системы, корпоративные базы знаний и AI-инструменты deep research.

Для человека известный логотип на обложке — сигнал доверия. Для AI-ассистента это тоже может стать сигналом: документ размещен на сайте крупной фирмы, содержит таблицы, сноски, уверенные формулировки, значит, его можно использовать как источник. Если внутри выдуманные ссылки и сомнительные цифры, ошибка начинает размножаться.

Sherwood пишет, что отчет EY уже цитировался в материале Canberra Times, который затем был синдицирован более чем в 60 австралийских газетах. GPTZero утверждает, что данные из отчета также всплывали в ответах ChatGPT, Claude и Perplexity. Даже если часть этих примеров со временем исчезнет, механизм понятен: авторитетный, но плохой документ может стать питательной средой для следующего поколения ошибочных ответов.

Это меняет природу фактчекинга. Раньше плохая ссылка вредила читателю конкретного отчета. Теперь она может стать обучающим или поисковым сигналом для целой цепочки инструментов, которые будут пересказывать ее уже без видимой связи с оригинальной ошибкой.

Почему «просто проверяйте ИИ» — слабый ответ

После таких историй легко сказать: надо всего лишь проверять сгенерированный текст. Но это звучит проще, чем работает в реальности. Проверить хороший абзац быстро; проверить 44-страничный отчет с десятками ссылок, цифр и утверждений — это отдельная работа.

Именно в этом экономический парадокс генеративного ИИ. Он резко снижает стоимость производства текста, но не снижает пропорционально стоимость уверенности. Наоборот, иногда повышает ее: теперь нужно проверять не только очевидные факты, но и то, существуют ли источники, не исказил ли ИИ название статьи, не приписал ли цифру другой компании, не склеил ли несколько слабых публикаций в один уверенный тезис.

Для компаний это означает, что AI-политика не может ограничиваться запретом на секретные данные или требованием «не вставлять конфиденциальное в ChatGPT». Нужны рабочие процедуры: кто отвечает за ссылки, как проверяются внешние источники, какие отчеты проходят ручной аудит, где хранится evidence trail, можно ли восстановить путь от тезиса до первичного документа.

Иначе ИИ станет не инструментом производительности, а фабрикой презентабельных рисков.

Практический вывод для бизнеса

Кейс EY полезен всем, кто покупает или производит аналитику. Если вам приносят отчет с красивыми графиками и уверенными выводами, теперь стоит смотреть не только на бренд автора, но и на проверяемость источников.

Минимальная гигиена проста: случайно открыть несколько ссылок, проверить ключевые цифры по первичным источникам, посмотреть, существуют ли цитируемые документы, и попросить автора показать методологию. Для дорогих решений — инвестиций, кибербезопасности, регуляторных рисков, HR-автоматизации — этого уже недостаточно: нужна полноценная проверка фактов до того, как отчет станет основанием для бюджета или политики.

Для самих консалтинговых и исследовательских команд урок еще жестче. В эпоху ИИ доверие будет выигрывать не тот, кто быстрее генерирует PDF, а тот, кто может показать цепочку доказательств. Ссылки, черновики, данные, проверка, редактура — все это перестает быть скучной внутренней кухней и становится частью продукта.

Главный вывод

История EY — не про то, что «ИИ опять соврал». Это про то, что галлюцинации перебрались из чата в профессиональную инфраструктуру доверия. Когда ошибается чат-бот, пользователь может переспрашивать. Когда ошибается отчет большой фирмы, его начинают цитировать СМИ, читать клиенты и пересказывать другие ИИ-системы.

Генеративный ИИ делает производство экспертного вида дешевым. Значит, настоящей ценностью становится не внешний вид экспертизы, а проверяемость. В ближайшие годы рынок будет заново учиться отличать отчет от имитации отчета — и, кажется, это будет один из самых практичных навыков AI-эпохи.