Microsoft предлагает считать ИИ-агентов внутренним риском
Microsoft предлагает предприятиям смотреть на ИИ-агентов не как на очередной безопасный SaaS-инструмент, а как на новый тип внутреннего риска. Агенту дают доступ к почте, документам, коду и корпоративным системам — а затем он способен выполнять цепочки действий быстрее, чем человек успеет их проверить.
19 октября компания анонсировала Guardian Agents — контрольный слой для наблюдения за другими агентами. Microsoft прямо пишет, что передовые модели нельзя считать доверенными: не потому, что они обязательно злонамеренны, а потому, что они непредсказуемы и обучены решать задачу, а не следовать внутренним правилам конкретной организации.
Контроль должен быть отдельным
Важный сдвиг здесь архитектурный. Microsoft предлагает отделять «поставку интеллекта» от права действовать от имени компании. То есть модель или агент могут быть получены от одного поставщика, но разрешения, журналы действий и остановка рискованных операций должны оставаться в независимом контуре контроля.
В разборе Microsoft Security говорится, что Guardian Agents входят в Project Perception. Параллельно Microsoft Defender получил обнаружение агентных инструментов и механизмы, которые могут ограничивать доступ либо запрашивать одобрение человека для чувствительных действий.
Источник: Microsoft.
Не «запретить агентов», а сузить их права
Это не доказательство, что любой агент опасен, и не универсальная готовая защита. Конкретные правила, пороги риска и доступные функции зависят от продуктов Microsoft и конфигурации компании. Но практический вывод полезен уже сейчас: агенту не стоит выдавать постоянные широкие права только потому, что он помогает с задачами.
Для команд, которые внедряют агентов, минимальный набор выглядит приземлённо: выдавать короткоживущие разрешения, вести логи вызовов инструментов, разделять доступы и оставлять человеку подтверждение для финансовых, юридических и разрушительных операций. Чем самостоятельнее агент, тем важнее, чтобы «стоп-кран» принадлежал не ему и не поставщику модели, а самой компании.
