Демис Хассабис предложил проверять самые мощные ИИ-модели до релиза
Глава Google DeepMind Демис Хассабис предложил создать в США специальный орган стандартов для frontier-моделей — самых мощных ИИ-систем, которые могут заметно повлиять на экономику, безопасность и научные исследования. По его идее, структура должна напоминать FINRA: в финансах это отраслевой саморегулятор, который действует под надзором государства.
Ключевая деталь — предварительная проверка. Лаборатории добровольно передавали бы новые модели за 30 дней до релиза, чтобы независимая структура могла оценить риски и соответствие общим правилам. Хассабис пишет об этом на фоне ожиданий AGI и говорит о «драгоценном окне» до появления систем, которые будут существенно сильнее нынешних.
Зачем лабораториям такой фильтр
Идея не выглядит как обычный призыв «усилить безопасность». Она пытается ответить на практический вопрос: как запускать всё более сильные модели, не превращая каждый релиз в закрытую сделку между компанией, инвесторами и несколькими регуляторами.
Для крупных лабораторий это способ показать: индустрия готова к правилам до того, как политики напишут их грубо и с большим опозданием. Для конкурентов и открытых проектов риск обратный: если стандарты будут задавать крупнейшие игроки, они могут стать барьером входа и новым инструментом контроля рынка.
Важна и международная часть: Хассабис говорит о моделях независимо от страны происхождения и от того, открыты они или закрыты. Это сразу выводит обсуждение за пределы американских компаний, потому что сильные модели уже появляются в Китае, Европе и в открытом доступе.
Что меняется для читателя
Пока это предложение, а не закон. Но оно показывает, куда движется спор вокруг ИИ: от абстрактных разговоров о «рисках AGI» к процедурам запуска, срокам проверки, доступу к моделям и праву задерживать релиз.
Если такой подход станет нормой, важнейшим вопросом будет не только качество следующей модели, но и то, кто увидит её до запуска, по каким тестам оценит и сможет ли сказать «подождите». Для компаний, разработчиков и пользователей это может означать более медленные, но предсказуемые релизы самых мощных систем.
