Anthropic показала способ проверить, какая ИИ-модель ответила на запрос
Anthropic представила FlashProve — исследовательскую систему, которая должна отвечать на неудобный вопрос об ИИ-сервисах: действительно ли ответ сгенерировала заявленная модель, а не более дешёвая, изменённая или не прошедшая проверку версия?
Подход не требует раскрывать веса. Провайдер заранее публикует их криптографический «отпечаток», а затем вместе с ответом может сформировать компактное доказательство: именно эти зафиксированные веса на этом запросе выдали эти токены. Проверяющему не нужна GPU и доступ к закрытой модели — достаточно запроса, ответа и доказательства.
Проверить обещание, а не верить логу
В основе FlashProve — zkSNARK, тип криптографического доказательства с нулевым разглашением. Оно позволяет проверить утверждение, не получая лишних данных о вычислении. Anthropic называет несколько сценариев: аудит того, какая модель обслуживает API, подтверждение использования одобренной модели в регулируемой среде и проверка заявлений о том, что модель анализировала код или другой материал.
Это не означает, что система доказывает качество ответа или отсутствие ошибок. Она подтверждает происхождение конкретного вывода от выбранных весов. Если модель плохо рассуждает, сертификат не сделает ответ правильным — зато не даст незаметно подменить модель после аудита.
Пока это слишком дорого для каждого чата
В эксперименте Anthropic проверяла протокол на Llama 4 Maverick: это Mixture-of-Experts-модель на 400 млрд параметров, из которых для одного токена активируется около 17 млрд. Для пакета из 24 запросов создание доказательств заняло около 223 секунд на одном H100; проверка одного доказательства — примерно 17 секунд на 24-поточном CPU. Размер файла доказательства — около 19 МБ.
Это узкое место важно: по расчётам исследователей, создание доказательства на GPU примерно в 72 раза медленнее обычного инференса vLLM на сопоставимой нагрузке. Поэтому FlashProve — не готовая галочка для каждого ответа Claude и не механизм мгновенной защиты.
Но у идеи есть практическая ставка. По мере того как модели становятся частью проверок безопасности, закупок и регулируемых процессов, журнал действий можно подделать, а криптографически проверяемый ответ — существенно труднее. Работа также опубликована с техническим отчётом и кодом; независимая проверка реализации теперь важнее красивой формулы в анонсе.
Обложка: Anthropic.
