OpenAI пустит четыре внешние команды внутрь своих систем безопасности
OpenAI впервые формализовала формат «встроенных оценок» безопасности: четыре внешние команды будут работать не только с публичными моделями, но и с частью внутренних материалов компании. В пилот вошли Apollo Research, METR, Transluce и Goodfire. Для пользователей это важнее очередного обещания о безопасности: если формат заработает, риски моделей будут проверять люди, которым доступна не одна витрина продукта.
В описании программы OpenAI перечисляет возможный набор доступа: контрольные точки моделей, исходный код, данные обучения и оценок, системы мониторинга, техническая документация и контакты с исследователями и инженерами. Однако это не безусловный пропуск во все системы: объём доступа согласуется отдельно для каждой проверки, а работа с особенно чувствительной информацией должна идти в офисах OpenAI на устройствах компании.
Задачи тоже различаются. Apollo Research будет искать признаки того, что модель способна скрытно действовать вопреки намерениям разработчиков, и проверять, заметят ли это защитные механизмы. METR займётся поведением в крупнейшем запуске обучения с подкреплением и журналами мониторинга. Transluce проверит качество и охват посттренировочных оценок, а Goodfire — внутренности моделей и мониторинг обучения.
Самое существенное ограничение — публикация результатов. Оценщики сохраняют право публиковаться, но OpenAI может вырезать конфиденциальные фрагменты и попросить отложить раскрытие, если вывод создаёт риск безопасности. Разговоры с сотрудниками также будут «не для цитирования»; вместо этого оценщик может запросить официальное подтверждённое компанией заявление.
Именно здесь независимость будет проверяться на практике. Внешняя команда, которая видит только заранее выбранный срез и публикует материал после редакции владельца модели, не равна независимому аудиту. Но у программы есть полезный механизм эскалации: нерешённый спор между OpenAI и оценщиком должен попасть в комитет по безопасности и защите при совете OpenAI Foundation.
Первые отчёты покажут, насколько эта конструкция реальна. Смотреть стоит не на список партнёров, а на три вещи: что именно им дали проверить, какие неудобные находки были опубликованы и можно ли понять, где компания отказала в доступе.













