Калифорния вводит реестр ИИ-аудиторов и правила независимых проверок
Калифорния вводит реестр ИИ-аудиторов и правила независимых проверок
Калифорния пытается решить неудобную проблему ИИ-рынка: обещания о безопасности часто оценивает тот же разработчик, который их даёт. Губернатор Гэвин Ньюсом подписал два закона, создающих механизм независимых проверок ИИ-систем и государственный реестр аудиторов.
Речь не о запрете моделей и не о едином «сертификате безопасности». Но для компаний, которые продают или внедряют ИИ в чувствительных сферах, внешний аудит постепенно становится не маркетинговой опцией, а частью ожидаемой доказательной базы.
Два закона — две части инфраструктуры
По сообщению администрации штата, SB 813 вводит рамку для независимых организаций, которые смогут оценивать ИИ-системы и модели на соответствие законодательству Калифорнии. AB 1405 создаёт реестр ИИ-аудиторов и задаёт требования к их независимости, прозрачности и добросовестности.
Важен именно этот разрыв ролей. Тесты, red teaming и системные карточки останутся работой самих лабораторий, однако появится отдельный слой тех, кто должен проверять заявления и находить риски со стороны. Законы не доказывают, что конкретная модель безопасна; они задают условия, при которых такую оценку можно считать менее зависимой от производителя.
Что меняется для разработчиков и заказчиков
У бизнеса появится ещё один вопрос к поставщику ИИ: кто и по какой методике проверял его утверждения? Особенно это касается систем, которые влияют на доступ к услугам, занятость, финансы, инфраструктуру или работу с персональными данными.
Калифорния уже требует от разработчиков передовых ИИ-систем публиковать рамки безопасности и сообщать о некоторых критических инцидентах. Новые законы не отменяют эти правила, а добавляют механизм внешней проверки. Практический эффект проявится не мгновенно: нужно сформировать реестр и практику оценок. Но ориентир для рынка ясен — одного красивого отчёта от создателя модели может оказаться недостаточно.
Для читателя за пределами США это тоже не экзотика. Калифорнийские требования часто становятся ориентиром для поставщиков, работающих на международном рынке. Если независимый аудит закрепится как нормальная часть сделки, заказчикам будет проще сравнивать не только возможности модели, но и качество доказательств за её громкими заявлениями.
Источник: сообщение администрации Калифорнии.
На обложке — Капитолий Калифорнии. Фото: Tony Webster / Wikimedia Commons, CC BY-SA 2.0; уменьшенный размер.
.jpg){kind=link}