Google Search споткнулся о слова-команды: AI Overviews принял запросы за указания

Google Search получил неловкий, но полезный урок о том, что бывает, когда классический поиск превращается в AI-ассистента. В пятницу пользователи заметили: AI Overviews ломается на обычных словах вроде disregard, ignore, skip, remember, start и forget. Вместо определения или поисковой сводки Google отвечал так, будто человек не ищет слово, а дает команду чат-боту.

The Verge проверил несколько таких запросов. На disregard AI Overview сначала отвечал в духе «понял, если понадобится что-то еще, дайте знать», а затем Google перестал показывать AI Overview для этого слова. На ignore и skip, по данным издания, система продолжала выдавать сообщения вроде «я здесь и готов помочь» или «похоже, это был тест или опечатка».

Android Authority описал похожее поведение на словарных запросах и получил комментарий Google. Представитель компании сказал, что Google знает о проблеме: AI Overviews неправильно интерпретирует некоторые action-related queries, то есть запросы, похожие на действия или указания, и исправление должно выйти скоро.

Почему поиск начал отвечать как чат

На поверхности это смешной баг: пользователь ищет значение слова, а поисковик ведет себя как ассистент, которому только что дали инструкцию. Но сама ошибка хорошо показывает, насколько изменилась природа поиска. Раньше строка Google почти всегда была механизмом поиска документов: слово, фраза, вопрос, ссылка. Теперь в эту же строку встроен слой, который пытается понять намерение, собрать ответ и говорить с пользователем человеческим языком.

Когда в поиске появляется модель, ей приходится решать: это термин для словаря, навигационный запрос, вопрос о факте или команда? Для человека разница очевидна из контекста: если набрано одно слово ignore, скорее всего, нужен перевод или определение. Для системы, которая обучена вести диалог и выполнять инструкции, такие слова выглядят как управляющие сигналы.

Важно, что это не похоже на катастрофическую уязвимость. Нет признаков, что пользователи могли получить чужие данные или заставить Search выполнить опасное действие. Но это видимый пример того, как AI-интерфейс может путать роль пользователя: он то читатель, то собеседник, то оператор, то автор команды.

Что это меняет для пользователей

Для обычного человека проблема простая: AI-ответ в поиске иногда может быть не тем, что вы просили. Если нужен точный смысл слова, медицинская справка, юридическая формулировка или техническая инструкция, стоит смотреть не только на AI Overview, но и на обычные результаты, источники и словарные блоки. Чем больше Google заменяет верх страницы синтезированным ответом, тем заметнее становятся даже маленькие ошибки интерпретации.

Для Google это особенно чувствительно после I/O, где компания показала Search как более агентную систему: поиск должен не только отвечать, но и помогать выполнять задачи, строить интерфейсы и работать с контекстом. Чем ближе Search к ассистенту, тем выше требования к тому, чтобы он ясно различал «найди информацию» и «выполни инструкцию».

В этой истории нет большой драмы, зато есть хороший маркер зрелости AI-продуктов. Модели уже достаточно встроены в массовые сервисы, чтобы их внутренние привычки становились пользовательскими багами. Google, скорее всего, быстро закроет конкретные слова. Но общий вопрос останется: поиску придется быть не только умным, но и аккуратным в понимании того, какую роль сейчас играет человек по ту сторону строки.