Назад
24 мая 2026 г. в 15:00 AI Security Voice Assistants Agents Cybernews; Wikimedia Commons

AI-ассистентов можно обмануть неслышными командами в видео и музыке

AI-ассистентов можно обмануть неслышными командами в видео и музыке

AI-ассистентов можно обмануть неслышными командами в видео и музыке

Голосовые AI-ассистенты получают новый, очень бытовой риск: команду можно спрятать не в тексте, а в звуке. Cybernews пишет о демонстрации, где скрытые аудиосигналы, встроенные в музыку, видео, подкаст или звонок, могут заставить помощника выполнить действие, хотя человек рядом ничего подозрительного не слышит.

По описанию издания, такие сигналы могут подталкивать ассистента к веб-поиску, загрузке файла или отправке письма. Важно не раздувать историю до паники: это выглядит как исследовательский сценарий и предупреждение о классе атак, а не как доказанная массовая кампания против домашних колонок. Но направление неприятное именно потому, что AI-помощники быстро перестают быть игрушкой для погоды и таймеров.

Почему голосовой агент опаснее старой колонки

Классические голосовые помощники были ограничены: включить музыку, поставить будильник, ответить на простой вопрос. Современный AI-ассистент постепенно получает больше прав. Он может искать информацию, читать документы, составлять письмо, управлять приложениями, работать с файлами, подключаться к календарю, CRM или домашней автоматизации. Чем больше у него инструментов, тем выше цена ложной команды.

Здесь появляется аудиоверсия prompt injection. В текстовых чатах уже давно обсуждают вредные инструкции, спрятанные на веб-странице, в документе или письме: модель читает их как часть задачи и может сбиться. В голосовом интерфейсе похожая идея переносится в среду, где пользователь хуже контролирует вход. Если команда звучит в ролике, рекламе, фоновой музыке или звонке, человек может даже не понять, что ассистент получил инструкцию.

Для обычного пользователя это особенно неприятно из-за привычки доверять голосу вокруг себя. Мы привыкли, что если команда не произнесена вслух человеком рядом, её как будто не было. AI-агент ломает эту интуицию: микрофон слышит больше, чем человек осознаёт, а модель пытается превратить сигнал в намерение.

Что должны менять платформы

Главная защита здесь не в том, чтобы запретить голосовые функции. Нужна другая архитектура доверия. Поиск справки можно выполнить сразу, но письмо, загрузка файла, покупка, отправка данных, изменение настроек и доступ к аккаунтам должны требовать явного подтверждения на экране или отдельной фразой. Ассистенту также нужен понятный журнал: какая команда была распознана, откуда пришёл звук и какое действие было запущено.

Разработчикам придётся отличать живой голос пользователя от фонового медиа, проверять подозрительные частоты и не давать агенту исполнять чувствительные команды только потому, что модель «услышала» уверенную инструкцию. Для корпоративных систем это ещё важнее: голосовой агент в переговорной, на ноутбуке или в колл-центре может иметь доступ к данным, которые нельзя отдавать на автопилот.

Эта история хорошо показывает, куда смещается безопасность AI. Раньше вопрос звучал так: «может ли модель неправильно ответить?» Теперь вопрос шире: «кто управляет моделью, когда она сама умеет действовать?» Если ассистент получает руки в виде инструментов, то любой вход — текст, картинка, сайт или звук — становится потенциальной командной строкой.

💬 Мнение редакции Neuro.ee

Голосовые агенты будут удобными только при одном условии: опасные действия должны подтверждаться человеком, а не угадываться моделью по шуму вокруг. Иначе самый слабый интерфейс в системе окажется не пароль, а включённый микрофон.

Ещё новости

AWS добавила в Textract ИИ-проверку полей по страницам документа
21 ноября 2026 г.
AWS добавила в Textract ИИ-проверку полей по страницам документа

Amazon Textract Insights извлекает поля из смешанных пакетов документов и возвращает для каждого значения оценку уверенности и привязку к странице. AWS позиционирует сервис как способ автоматизировать обработку без отказа от проверки человеком.

Математик Anthropic заявил о доказательстве гипотезы Римана с Claude
20 ноября 2026 г.
Математик Anthropic заявил о доказательстве гипотезы Римана с Claude

Математик Anthropic Левент Альпёге заявил, что вместе с Claude получил формальное доказательство гипотезы Римана и её обобщения. Код на Lean уже скомпилировался у независимого математика, но математическому сообществу ещё предстоит разобрать и подтвердить сам результат.

Signal блокирует захват экрана, чтобы ИИ-агенты не читали чаты
20 ноября 2026 г.
Signal блокирует захват экрана, чтобы ИИ-агенты не читали чаты

Signal вводит защиту от захвата экрана на iOS 27 и при обнаружении ИИ-помощника на Android. Мессенджер предупреждает: мера не закрывает все пути доступа и на macOS пока не работает.

В отчёте Reco — восемь захваченных аккаунтов Microsoft 365 за минуты
20 ноября 2026 г.
В отчёте Reco — восемь захваченных аккаунтов Microsoft 365 за минуты

В отчёте Reco описан инцидент с восемью захваченными аккаунтами Microsoft 365: после кражи сессии злоумышленники быстро меняли правила почты. Компания не утверждает, что атаку выполнил ИИ — и это важная граница для интерпретации.

DeepMind описал четыре пути от AGI к сверхинтеллекту
20 ноября 2026 г.
DeepMind описал четыре пути от AGI к сверхинтеллекту

Исследователь Google DeepMind Тим Генвейн предлагает смотреть на переход от человеческого уровня ИИ к сверхинтеллекту как на набор проверяемых технических сценариев. Это не прогноз сроков, а карта возможных ускорителей и ограничений.

Google выпустила Gemini 4 Neon: скорость Carbon за 60% цены
19 ноября 2026 г.
Google выпустила Gemini 4 Neon: скорость Carbon за 60% цены

Google представила Gemini 4 Neon — модель для сложных задач в коде, офисной работе и науке. Компания заявляет качество уровня Gemini 4 Carbon при трёхкратной скорости и 60% стоимости; проверять это стоит на собственных задачах.

GitHub открыла протокол для сессий AI-агентов между устройствами
19 ноября 2026 г.
GitHub открыла протокол для сессий AI-агентов между устройствами

GitHub описала открытый Agent Host Protocol: он сохраняет состояние AI-агента при переходе между VS Code, Copilot, телефоном и облаком. Это не новый агент, а общий способ подключать клиентов к уже работающей сессии.

Google представила Stitch Loop для непрерывной доработки приложений
19 ноября 2026 г.
Google представила Stitch Loop для непрерывной доработки приложений

Google Labs открыла лист ожидания Stitch Loop — агента, который подключается к коду и рабочим метрикам, находит проблемы и готовит pull request’ы. Сливать изменения без проверки человека сервис не должен.

GitHub отсеял 9 791 AI-находку до 99 отчётов для open source
18 ноября 2026 г.
GitHub отсеял 9 791 AI-находку до 99 отчётов для open source

В пилоте GitHub и Microsoft превратили тысячи сигналов AI-сканера в 99 проверенных закрытых отчётов для шести open-source-проектов. К 15 ноября мейнтейнеры исправили 55 из них — но это ранний опыт, а не доказательство универсальной эффективности сканеров.

OpenAI пустит четыре внешние команды внутрь своих систем безопасности
18 ноября 2026 г.
OpenAI пустит четыре внешние команды внутрь своих систем безопасности

OpenAI запускает первую фазу встроенных независимых оценок: Apollo Research, METR, Transluce и Goodfire получат доступ к части внутренних моделей, данных и процессов. Формат обещает больше прозрачности, но независимость публикаций ограничена правом компании скрывать конфиденциальные детали.

Microsoft выпустила MAI Code 2 для GitHub Copilot и Foundry
18 ноября 2026 г.
Microsoft выпустила MAI Code 2 для GitHub Copilot и Foundry

Microsoft представила MAI Code 2 и более быструю MAI Code 2 Flash — собственные модели для повседневной работы с кодом. Основная версия уже доступна в GitHub Copilot и Azure AI Foundry, а Flash в Foundry пока остаётся в ограниченном предпросмотре.

GPT‑6.2 Astra прибавила пять пунктов, но лидером рейтинга остаётся Claude
17 ноября 2026 г.
GPT‑6.2 Astra прибавила пять пунктов, но лидером рейтинга остаётся Claude

В независимом сводном рейтинге Artificial Analysis GPT‑6.2 Astra получила 62 из 100 — на пять пунктов больше, чем GPT‑6 Astra. Это заметный скачок OpenAI, но первое место остаётся у Claude Fable 5.2 Max с 65 баллами; Sol выросла с 55 до 57.