Anthropic: AI должна показывать не один научный ответ, а диапазон моделей
AI-агент может за день написать код научной модели, подобрать параметры и получить хорошее совпадение с экспериментом. Но этого мало, если исследователь не понимает, почему модель работает и какие выводы из неё выдержат следующую проверку. В новом разборе Anthropic предлагает оценивать такие системы по более строгому критерию: они должны возвращать не один «лучший» ответ, а диапазон моделей, которые согласуются с данными.
Это важно для задач, где возможны несколько объяснений одного и того же результата. Одна удачная формула может быть просто удобной подгонкой. Если же разные модели проходят проверку, исследователь может увидеть, какие их свойства повторяются — и где данных пока недостаточно.
Агент строит модель, но не получает монополию на объяснение
Anthropic разбирает научное моделирование на три шага: задать структуру модели, подогнать её параметры под измерения и интерпретировать результат. LLM-агенты уже способны участвовать во всех трёх: они пишут код кандидатных моделей, запускают симуляции, сравнивают выход с наблюдениями и меняют гипотезы.
Для сложных симуляторов применяется simulation-based inference: система многократно прогоняет модель с разными параметрами, а затем учится восстанавливать набор правдоподобных настроек по наблюдаемому результату. Это полезнее одиночного «оптимального» набора параметров: он скрывает другие объяснения, которые могут давать почти тот же результат.
Изображение: Anthropic.
Хорошая модель должна подсказывать следующий эксперимент
Предложенный подход поднимает ту же идею на уровень самой структуры модели. Агент может предлагать несколько вариантов, взвешивать их по соответствию данным и штрафовать решения, которым нужна чрезмерная гибкость. Если у всех оставшихся вариантов есть общая черта, данные действительно её поддерживают. Если варианты расходятся, это не ошибка интерфейса, а подсказка: какой эксперимент лучше провести дальше.
В этом и практическая граница нынешней «AI for science». Anthropic прямо отмечает, что подобные системы пока в основном тестировали на переоткрытии уже известных моделей; доказательств для задач без известного ответа немного. Поэтому красивый график соответствия данным ещё не равен научному объяснению.
Для лабораторий это означает простое правило: AI имеет смысл использовать не как автомат выдачи единственной гипотезы, а как инструмент для карты неопределённости. Ценность агента — не в том, что он выбрал одно уравнение, а в том, что он показывает, какие выводы сохраняются при смене разумных предположений.
Полный разбор с примерами нейронных, климатических и физических моделей опубликован Anthropic.
