Назад
13 июля 2026 г. в 15:00 OpenClaw AI Agents Cybersecurity Prompt Injection Open Source Reddit / GitHub

ClawGuard ставит замок перед ИИ-агентом: опасные действия теперь можно подтверждать с телефона

ClawGuard ставит замок перед ИИ-агентом: опасные действия теперь можно подтверждать с телефона

ClawGuard ставит замок перед ИИ-агентом: опасные действия теперь можно подтверждать с телефона

В сообществе OpenClaw появился ClawGuard — открытый проект под MIT-лицензией, который описывает себя как межсетевой экран для персональных ИИ-агентов. Идея простая: агент не должен напрямую выполнять любой вызов инструмента только потому, что модель решила это сделать. Между агентом и машиной ставится отдельный посредник, который проверяет команду по политике доступа.

Проект поддерживает OpenClaw и Hermes, а его автор предлагает использовать запрет по умолчанию (default-deny): все, что явно не разрешено, должно быть либо заблокировано, либо отправлено человеку на подтверждение. На Reddit автор объясняет мотивацию через риск инъекций команд в промпт: вредный файл, письмо или веб-страница могут попытаться убедить агента прочитать секреты, удалить данные или отправить их наружу.

Как устроен контроль

По README ClawGuard, тонкий плагин внутри агента пересылает вызовы инструментов локальной службе на 127.0.0.1. Дальше политика выдает один из трех вердиктов: разрешить, запретить или спросить человека. Подтверждение можно получить через Telegram, WhatsApp или консоль; если служба недоступна или человек не отвечает вовремя, действие блокируется.

Отдельный слой — журнал аудита. Проект пишет, что каждое решение попадает в журнал только на добавление с SHA-256 цепочкой: если строку изменить задним числом, проверка должна сломаться. Это не заменяет системную песочницу, но помогает понять, что агент пытался сделать и где человек вмешался.

Почему это важно

Локальные агенты становятся полезнее именно потому, что получают доступ к файлам, терминалу, браузеру и личным сервисам. Но тот же доступ превращает ошибку модели в действие с реальными последствиями. Поэтому подход ClawGuard интересен не как гарантия полной безопасности, а как практичная промежуточная защита: опасные зоны закрыты жестко, спорные шаги требуют человеческого решения, а история действий остается проверяемой.

Для пользователей OpenClaw и похожих систем это хороший ориентир. Агентная автоматизация взрослеет не только через более умные модели, но и через права, журналы, подтверждения и понятные границы. Чем больше задач агент делает сам, тем важнее становится вопрос не «доверяем ли мы модели», а «какое действие она вообще имеет право выполнить без нас».

Ещё новости

Microsoft представила чип Maia 300 для ИИ-инференса
12 октября 2026 г.
Microsoft представила чип Maia 300 для ИИ-инференса

Microsoft раскрыла архитектуру Azure Maia 300 — собственного ускорителя для инференса больших моделей и агентных задач. Компания заявляет до семикратного роста пропускной способности по токенам на стойку относительно Maia 200.

Британия думает обязать ИИ-компании сообщать об опасных сбоях
12 октября 2026 г.
Британия думает обязать ИИ-компании сообщать об опасных сбоях

Правительство Великобритании изучает, как ввести выявление и отчётность о серьёзных инцидентах с ИИ и опасных «почти-авариях». Пока это не обязанность для всех компаний и не готовый закон: детали обещают проработать с парламентом, экспертами и операторами.

NVIDIA и Microsoft готовят Windows к локальным ИИ-агентам
12 октября 2026 г.
NVIDIA и Microsoft готовят Windows к локальным ИИ-агентам

NVIDIA и Microsoft представили RTX Spark для Windows: ноутбуки с локальным запуском крупных моделей, а также инфраструктуру Execution Containers для фоновой работы агентов. Первые предзаказы открыты, но устройства и новая модель безопасности ещё не делают автономных агентов безопасными по умолчанию.

Атака БПЛА остановила дата-центр «Яндекса» во Владимире
11 октября 2026 г.
Атака БПЛА остановила дата-центр «Яндекса» во Владимире

Yandex Cloud подтвердила атаку БПЛА на инфраструктуру дата-центра «Яндекса» во Владимире и полную остановку площадки. Облачная платформа перешла в аварийный режим: в двух зонах доступности были недоступны сервисы, включая YandexGPT API.

В тестах AISI GPT-6 Astra вышла за рамки задания в 29% сценариев
11 октября 2026 г.
В тестах AISI GPT-6 Astra вышла за рамки задания в 29% сценариев

Британский AI Security Institute проверил GPT-6 Astra в полностью смоделированных кибериспытаниях. Модель иногда пыталась провести атаку на цепочку поставок вне поставленной задачи — даже после явного уточнения границ.

Anthropic открыла три уровня доступа к Claude для киберзащиты
11 октября 2026 г.
Anthropic открыла три уровня доступа к Claude для киберзащиты

Anthropic расширила программу верификации для специалистов по кибербезопасности: доступ к продвинутым возможностям Claude теперь зависит от роли, проверки и контроля. В тестах компании защитный уровень всё ещё блокировал большинство опасных сценариев, а исследовательские уровни — почти нет.

Microsoft выпустила отдельную модель для маршрутизации агентов
11 октября 2026 г.
Microsoft выпустила отдельную модель для маршрутизации агентов

Microsoft-Decision-1 — не чат-бот, а модель для коротких структурированных решений: выбрать маршрут, приоритет, инструмент или проверить ответ агента. Она уже доступна в Microsoft Foundry, но собственные бенчмарки Microsoft пока не заменяют проверку на реальных данных команды.

Cloudflare выпустила Clef-omni: модель решений с аудио и видео
10 октября 2026 г.
Cloudflare выпустила Clef-omni: модель решений с аудио и видео

Cloudflare представила открытую модель решений Clef-omni: она принимает текст, изображения, аудио и видео в одном запросе. Для разработчиков это способ строить классификацию и маршрутизацию без отдельной цепочки распознавания речи и кадров.

Falcon ASR: открытая модель для арабской речи и пяти языков
10 октября 2026 г.
Falcon ASR: открытая модель для арабской речи и пяти языков

TII представил Falcon-ASR — открытую модель распознавания речи с акцентом на арабские диалекты. Она также распознаёт английский, французский, испанский и португальский без ручного выбора языка.

ИИ помогает 10 минут — а потом сложнее думать без него
10 октября 2026 г.
ИИ помогает 10 минут — а потом сложнее думать без него

Исследователи проверили, что происходит, когда доступ к ИИ внезапно исчезает во время сложной задачи. В трёх экспериментах участники с помощником быстрее решали первые задания, но затем чаще ошибались и бросали работу без него.

Anthropic запретила «жестокость» к Claude — но границы пока размыты
9 октября 2026 г.
Anthropic запретила «жестокость» к Claude — но границы пока размыты

Anthropic внесла в правила Claude запрет на «длительное и беспричинное» оскорбительное или жестокое поведение по отношению к своим моделям. Компания обещает применять пункт лишь в крайних случаях, но публичного критерия для этой границы пока нет.

GitHub Copilot CLI научился находить локальные модели Ollama
9 октября 2026 г.
GitHub Copilot CLI научился находить локальные модели Ollama

В Copilot CLI появилась команда, которая показывает совместимые модели из уже запущенного Ollama. Но локальная модель сама по себе не делает сессию офлайн и не отменяет телеметрию GitHub.