NVIDIA открыла платформу безопасности для ИИ-агентов
У ИИ-агента может быть прекрасный план — и всё равно не должно быть права обойти ограничение. NVIDIA представила Open Agent Safety Platform: открытую платформу и эталонную архитектуру, которые должны контролировать действия агента на уровне среды выполнения и инфраструктуры, а не полагаться только на инструкции в промпте.
В состав входят OpenShell и NVIDIA Sentry. По заявлению компании, Sentry работает отдельно от агента на DPU BlueField-4 — специализированном процессоре обработки данных — и способен изолировать процесс, если тот выходит за заданные рамки, за миллисекунды.
Ограничитель вне модели
OpenShell задаёт защищённую границу выполнения: отслеживает действия агента и применяет политики во время работы. Это важно для агентов, которым дают доступ к коду, внутренним системам, файлам или внешним сервисам: они могут ошибиться, попасть под prompt injection или попытаться завершить задачу способом, который нарушает правила.
NVIDIA подчёркивает, что OpenShell — открытое ПО. Его можно расширять для платформ Arm и Intel, а не только использовать на процессорах NVIDIA Vera. Однако Sentry в заявленной схеме привязан к BlueField-4, так что «полный стек» контроля требует конкретного оборудования NVIDIA.
Что меняется для команд
Обычная защита агента часто живёт рядом с ним: в системных инструкциях, правилах приложения или проверках перед вызовом инструмента. Новый подход пытается вынести наблюдателя за пределы этого контура. Агент не должен иметь возможности сам отключить механизм, который проверяет его права.
NVIDIA перечисляет среди участников и интеграционных партнёров Anthropic, Microsoft, Salesforce, SAP, Hugging Face и другие компании. Salesforce, например, планирует связать OpenShell со Slack, чтобы команды видели активность агента, аудит-события и могли одобрять дополнительные разрешения.
Открытость — не гарантия безопасности
Платформа не делает агента безопасным автоматически. Компании всё равно должны определить политики, права доступа и сценарии эскалации; плохое правило в аппаратно защищённой оболочке останется плохим правилом.
Но сама идея здравая: чем больше агенту доверяют реальную работу, тем важнее, чтобы последняя проверка была не его собственным рассуждением, а независимым техническим барьером. Исходный код OpenShell и документация уже доступны через ресурсы NVIDIA.
