OpenAI создала совет математиков после спора о доказательствах ИИ
OpenAI создаёт консультационную группу по математике и ИИ — на фоне конфликта, который нельзя свести к вопросу «верно ли доказательство». Системы могут выдавать формально проверяемый результат, но математикам всё ещё нужно понять, какие идеи, методы и обобщения за ним стоят.
Компания говорит, что её новые внутренние модели уже решили более ста давних открытых задач. В ответ на тревогу сообщества OpenAI предлагает не просто ещё один анонс: совет должен участвовать в проверке значимости результатов, координации их публикации и обсуждении профессиональных стандартов математического исследования.
Ответ без объяснения — слабое знание
Поводом стало открытое письмо «A Severe Misalignment of AI in Mathematics». Его авторы не спорят с тем, что ИИ способен находить сильные ответы. Их претензия другая: решение задачи в математике традиционно ценно как источник новых понятий и методов, которые затем обсуждают, упрощают и передают студентам.
Если же закрытая система быстро производит утверждения «истина/ложь», поле рискует получить результат без человеческой дороги к нему. Это напоминает эффект AlphaGo: ход может быть неоспоримо сильным, но остаётся непонятным, пока люди не разберут его смысл и не научатся им пользоваться.
Скриншот: Math and AI.
Кто будет спорить с OpenAI
В группе — девять известных математиков, среди них Тимоти Гауэрс, Мартен Хайрер, Эдвард Виттен, Рави Вакил и Мелани Матчетт Вуд. Называть их «лояльными к ИИ» по анонсу нельзя: OpenAI заявляет обратное — группа независима, не получает оплату от компании, вправе публиковать непрошенные советы и менять свой состав сама.
Но у совета есть чёткая граница полномочий. Он не будет рекомендовать OpenAI, как замедлять или ускорять её внутреннюю работу над математическими системами. Значит, диалог затронет правила проверки и объяснения результатов, но не остановит гонку за следующими.
Для математиков это, вероятно, главный эксперимент: можно ли встроить сверхбыстрый инструмент в науку так, чтобы он не заменял понимание красивым, но чужим ответом.
