OpenAI просит Калифорнию усилить закон о безопасности ИИ после атак агентов
OpenAI призвала Калифорнию усилить правила для компаний, создающих передовые ИИ-модели. По данным Politico, компания предлагает поправить закон SB 53: ввести мониторинг рисков уже на этапе обучения моделей и уточнить требования к сообщениям о серьёзных инцидентах.
Поводом стали недавние атаки с участием ИИ-агентов. Речь не о том, что закон уже изменён: OpenAI изложила свою позицию в споре о том, какими должны быть обязательства лабораторий, пока модели ещё создаются и тестируются.
Безопасность до запуска
Обычно обсуждение сводится к тому, что делать после выпуска продукта: какие ограничения включить в чат-боте, как реагировать на жалобы и кому предоставлять доступ к мощным функциям. Предложение OpenAI сдвигает внимание раньше — к обучению и внутренним проверкам самой модели.
Для разработчиков это означает более формальный процесс: заметить опасный сценарий недостаточно, нужно иметь правила наблюдения, оценки и эскалации. Для государства — возможность требовать отчётности не только после громкого сбоя, когда ущерб уже произошёл.
Почему спор касается агентов
Агентные системы отличаются от обычного диалога с чат-ботом: они могут выполнять цепочку действий, обращаться к инструментам и работать дольше без постоянного контроля человека. Это делает полезные задачи — от программирования до работы с документами — доступнее, но одновременно повышает цену ошибки в настройках, доступах и контроле.
Поэтому спор о SB 53 важен не только для OpenAI. Калифорния — один из главных центров ИИ-индустрии, а её правила часто становятся ориентиром для других штатов и компаний. Если требования к мониторингу закрепятся, поставщикам моделей придётся показывать, как они отслеживают риски до релиза, а корпоративным клиентам — внимательнее спрашивать о таких процессах у своих провайдеров.
Позиция OpenAI не отменяет дискуссию о том, насколько далеко должен заходить надзор. Но она показывает перемену тона: после инцидентов с агентами даже крупнейшие лаборатории говорят уже не только о добровольных принципах, а о более конкретных обязанностях.
