Агент три месяца покупал продукты без ошибок — и заказал два килограмма чеснока

На Reddit появился отличный бытовой кейс про то, как AI-агенты входят в обычную жизнь: пользователь r/openclaw рассказал, что несколько месяцев доверял OpenClaw еженедельные заказы продуктов через MCP-сервер. По его словам, всё работало спокойно: нормальная корзина, нормальная цена, продукты, которые он действительно ест. А потом агент заказал 2 кг чеснока вместо двух головок, потому что на странице товара единицей по умолчанию оказался килограмм.

Автор формулирует проблему почти идеально: агент не заметил единицу измерения, человек тоже не заметил — потому что за три месяца система ни разу не ошибалась. В итоге получилась не катастрофа, а «чесночная ситуация». Но именно такие мелкие сбои и важны: они показывают, где заканчивается демо автономности и начинается реальная эксплуатация.

Почему это не просто смешная история

MCP — это открытый протокол, который позволяет AI-приложениям подключаться к внешним системам, данным и инструментам. Для пользователя это означает простой сценарий: агент может не только советовать, что купить, но и работать с корзиной, магазином, расписанием или оплатой. OpenClaw, в свою очередь, позиционируется как самохостящийся шлюз для персональных AI-агентов в мессенджерах и каналах связи.

Когда такой агент получает доступ к покупкам, ошибка меняет статус. Неправильный ответ в чате можно проигнорировать. Неправильная единица измерения в корзине превращается в реальную доставку, списание денег и лишний товар на кухне.

Сама ошибка не выглядит «умной» или загадочной. Наоборот, она очень человеческая: не тот переключатель, не та единица, слишком привычный интерфейс. Но агенту сложнее понять, что два килограмма чеснока для обычной недельной закупки — аномалия, если в задаче явно не прописаны лимиты и правила проверки.

Доверие ломается не сразу

Самая интересная часть кейса — не чеснок, а три месяца безошибочной работы. Чем дольше агент делает рутину правильно, тем меньше человек хочет перепроверять каждую строку. Это нормальная психология автоматизации: сначала мы осторожны, потом привыкаем, потом замечаем ошибку уже после действия.

Для домашних агентов это означает простой вывод: human-in-the-loop не должен быть одинаковым для всех операций. Если корзина похожа на обычную, подтверждение может быть лёгким. Если товар резко отличается по весу, цене, количеству или частоте покупки, агент обязан остановиться и спросить: «Вы точно хотели 2 кг чеснока?»

Иными словами, хороший агент — это не тот, кто никогда не ошибается. Это тот, кто умеет распознавать ситуации, где ошибка станет дорогой, странной или необратимой.

Практический урок

Для пользователей правило простое: не давайте агенту полную свободу там, где есть деньги, доставка или юридические последствия, без лимитов. Нужны максимальная сумма заказа, необычные покупки на подтверждение, проверка единиц измерения, сравнение с историей корзины и короткий финальный обзор перед оплатой.

Для разработчиков урок ещё конкретнее: интерфейс магазина нельзя воспринимать как нейтральный источник правды. Значения по умолчанию, выпадающие списки, упаковки, килограммы, штуки и акции должны проходить отдельную валидацию. Особенно если агент действует не в тестовой среде, а в реальном аккаунте пользователя.

Этот Reddit-пост не доказывает, что AI-агенты готовы массово покупать продукты за всех. Он показывает другое: они уже достаточно полезны, чтобы люди начинали им доверять скучную рутину. Следующий этап — сделать это доверие инженерно безопасным, чтобы «2 кг чеснока» оставались смешной историей, а не моделью более дорогих ошибок.