Лауреаты Филдсовской премии предупредили об угрозе ИИ для науки
Двадцать пять лауреатов Филдсовской премии опубликовали декларацию о том, что нынешняя гонка за математическими рекордами ИИ может навредить самой науке. Среди подписавших — Теренс Тао, Марина Вязовская, Андрей Окуньков и Пьер Делинь. На странице инициативы также отображаются более 5,6 тысячи поддержавших.
Авторы не отрицают прогресс: по их оценке, языковые модели за последние месяцы заметно продвинулись в решении крупных открытых задач. Но они спорят с тем, во что этот прогресс превращают компании. Решённая задача — лишь признак нового понимания, а не его замена.
Ответ без метода не становится знанием
В математике доказательство обычно проходит длинный путь: его разбирают коллеги, выделяют новый метод, упрощают изложение, связывают с предыдущими работами. Лишь затем идея становится частью учебников и инструментом для следующего поколения исследователей.
Подписанты предупреждают: массовое производство утверждений в формате «истина/ложь» может разрушить эту среду. Риск не в том, что машина найдёт ответ, а в том, что ответ останется непрозрачным и не породит новых вопросов, навыков и идей.
Источник: Math and AI.
Четыре конкретные тревоги
Первая — обучение. Задачи дают студентам не ради конечного числа или формулы, а чтобы они учились строить рассуждения и задавать новые вопросы. Прямая выдача готового результата может обойти эту часть подготовки.
Вторая — спешка. Декларация говорит о решениях, которые объявляют до полноценного описания и выделения новых идей. Третья — атрибуция: без ссылок на предшествующие работы возникают вопросы плагиата и авторства. Четвёртая — утрата человеческой цепочки передачи знаний: даже полезную идею, найденную ИИ, кто-то должен проверить, объяснить и встроить в математический канон.
Авторы не призывают остановить ИИ. Они прямо пишут, что он способен ускорять исследование и понимание. Но полезным этот инструмент станет только при правилах, которые ценят воспроизводимое объяснение и обучение не меньше, чем эффектный ответ.
Фото обложки: Теренс Тао на занятии; Natecation / Wikimedia Commons, CC BY-SA 4.0.
