ИИ начал подбрасывать несуществующие ссылки в медицинские статьи

ИИ-инструменты всё чаще помогают учёным редактировать статьи, проверять формулировки и собирать черновики. Но свежий разбор Fortune показывает неприятную цену этой скорости: в биомедицинской литературе резко выросло число несуществующих ссылок, которые выглядят как настоящие научные источники.

Поводом стала работа команды Максима Топаза из Columbia University School of Nursing, опубликованная в The Lancet. Исследователи проанализировали почти 2,5 млн биомедицинских статей и 97 млн ссылок в PubMed Central. Они нашли более 4000 сфабрикованных ссылок почти в 3000 работах.

Не каждая такая ссылка обязательно создана ИИ. Но динамика совпадает с массовым внедрением генеративных инструментов: по данным исследования, с 2023 года частота фальшивых ссылок выросла более чем в 12 раз. В 2023-м хотя бы одна несуществующая ссылка попадалась примерно в одной статье из 2828, в 2024-м — в одной из 458, а за первые семь недель 2026 года — уже в одной из 277.

Ошибка становится частью доказательной цепочки

Топаз рассказал Fortune, что сам столкнулся с проблемой после отправки статьи в журнал: AI-инструмент, который помогал с текстом, незаметно вставил вымышленный источник. «Я исследователь ИИ. Я знаю о галлюцинациях. Если это происходит со мной, что происходит с другими людьми?» — сказал он изданию.

В обычном тексте такая ошибка неприятна, но часто локальна. В медицине она опаснее, потому что знания строятся слоями. Клинические испытания ссылаются на предыдущие работы, систематические обзоры собирают эти испытания, а медицинские рекомендации затем используют обзоры. Если внизу этой цепочки появляется вымышленный источник, ошибка может ехать дальше как часть «доказательной базы».

Fortune приводит оценку Топаза: издательская система пока плохо готова к такой нагрузке. Проверка ссылок устроена по-разному в разных журналах, а ретроактивно прочесать старые цепочки цитирования сложно. По данным его анализа, 98,4% статей с фальшивыми ссылками на момент проверки не были отозваны.

Это особенно неприятный формат ошибки: статья может быть написана реальным автором, содержать настоящие данные и всё равно тихо нести один-два вымышленных кирпича в списке литературы.

Почему это касается не только учёных

История важна шире академии. Американская медицинская ассоциация в 2026 году сообщила, что более 80% врачей уже используют ИИ в профессиональной практике, чаще всего для суммирования медицинских исследований и подготовки клинической документации. Это не значит, что врачи слепо доверяют чат-ботам, но показывает масштаб: AI-помощники уже вошли в работу людей, которые принимают решения с высокой ценой ошибки.

Похожая проблема видна и в праве. Исследователь Дамьен Шарлотен ведёт базу судебных случаев с AI-галлюцинациями: там уже зафиксированы сотни решений и материалов, где появлялись вымышленные дела, неверные цитаты или искажённые правовые нормы. Общий урок один: чем экспертнее область, тем убедительнее выглядит ошибка, если она оформлена правильным языком.

Для пользователей практический вывод простой и жёсткий: ИИ можно использовать как помощника при чтении и черновой работе, но нельзя считать его проверяющим источники. Ссылки, цитаты, числа и первичные документы должны проходить отдельную проверку. Иначе автоматизация экономит минуты на тексте, но добавляет долг в самой дорогой части знания — доверии к доказательствам.