Студент-медик раскопал AI-фильтр резюме — теперь труднее делать вид, что алгоритм просто помогает

Студент-медик раскопал AI-фильтр резюме — теперь труднее делать вид, что алгоритм просто помогает

Студент медицинской школы Dartmouth Чад Марки не получил приглашений на интервью в начале отбора на резидентуру и решил проверить, не сработал ли против него алгоритм. По данным WIRED, он несколько месяцев писал запросы, письма, исследовательские заметки и Python-код, пытаясь понять, как AI-инструменты могли прочитать его заявку.

Это не история про одного обиженного кандидата. Это почти учебный кейс о рынке труда, где автоматизированный фильтр уже влияет на человеческие траектории, но сам человек часто не может узнать, что именно произошло. Работодатель видит удобную панель, рекрутер — сокращение нагрузки, кандидат — молчание или отказ.

Что произошло

Марки подавался на медицинскую резидентуру — следующий этап подготовки врача после окончания медицинской школы. У него, по описанию WIRED, были сильные академические показатели, публикации в JAMA и The Lancet, хорошие рекомендации и непростая медицинская история: из-за аутоиммунного заболевания он брал академические перерывы и растянул обучение.

В его документах эти перерывы были названы «voluntary», то есть добровольными. Марки заподозрил, что такая формулировка могла выглядеть для автоматического фильтра как слабый сигнал: будто студент не выдержал нагрузку, хотя в заявке было объяснение о болезни.

Поводом для подозрения стал Cortex — инструмент компании Thalamus для просмотра и фильтрации заявок на резидентуру. WIRED пишет, что Cortex использует донастроенные версии генеративных моделей OpenAI, в том числе для стандартизации оценок между медицинскими школами с разными системами. По данным Thalamus, в цикле 2025–2026 Cortex применяли около 1 500 программ резидентуры, примерно 30% от общего числа.

Отдельно важная деталь: вскоре после начала отбора компания сообщала, что часть программ заметила некорректное отображение оценок у некоторых кандидатов. Это не доказывает, что именно AI отсеял Марки. Но показывает, почему подозрение вообще стало правдоподобным: если система ошибается в базовых данных, кандидат оказывается перед чёрным ящиком, а не перед понятной процедурой.

Почему это больше, чем медицинская история

AI-фильтры приходят туда, где заявок слишком много, а человеческого времени слишком мало. В резидентуре это усилилось после пандемии: интервью стали виртуальными, студенты начали подаваться в большее число программ, а больницы получили больше заявок, чем раньше.

Та же логика работает почти везде: вакансии, стажировки, университетские программы, гранты, внутренние повышения. Сначала организация говорит, что AI только помогает сортировать документы. Потом люди начинают подстраивать резюме под предполагаемые ключевые слова. Потом кандидаты подозревают, что их не увидел ни один живой человек. В итоге возникает «AI-петля»: машины помогают писать заявки, машины помогают их отсекать, а люди пытаются угадать правила игры.

Главная проблема не в самом факте автоматизации. Большие отборы действительно нужно как-то упорядочивать. Проблема в асимметрии: организация получает масштаб и скорость, а кандидат не получает объяснения. Он не знает, был ли отказ связан с опытом, оценками, формулировкой в документе, ошибкой данных или предвзятым паттерном в модели.

Где слабое место регулирования

WIRED отмечает, что в США только несколько штатов уже ввели или готовят правила для AI-инструментов в найме. Иллинойс, Нью-Джерси и Колорадо запрещают дискриминационные инструменты, но в основном требуют уведомления о применении AI. В Калифорнии правила жёстче: работодатели должны регулярно проверять такие системы на предвзятость.

Но даже эти подходы плохо решают личную проблему кандидата. Уведомление «мы используем AI» ещё не объясняет, как система оценила конкретную заявку. А проверка на дискриминацию по группам не обязательно отвечает человеку, почему его собственный файл не дошёл до интервью.

Это и есть новая управленческая зона риска. Если компания или университет внедряет AI-скрининг, ей уже недостаточно сказать: «решение всё равно принимает человек». Нужно показать, где именно человек включается, какие поля видит система, как исправляются ошибки данных, кто может оспорить результат и сохраняется ли аудит.

Что это меняет для обычного человека

Практический вывод неприятный, но полезный: важные заявки теперь стоит писать не только для людей, но и для машин. Формулировки, объяснения перерывов, нестандартные карьерные повороты и медицинские обстоятельства должны быть максимально ясными, потому что автоматический фильтр может хуже понимать контекст, чем живой интервьюер.

Но перекладывать всё на кандидатов нельзя. Если общество принимает AI-фильтры в найме, образовании и медицине, оно должно требовать права на понятную процедуру. Не обязательно раскрывать весь код модели. Но должны быть минимальные вещи: уведомление, список используемых данных, возможность исправить ошибку, журнал действий и понятный путь апелляции.

История Марки важна именно поэтому. Она показывает не футуристический страх, а бытовую реальность AI-эпохи: алгоритм может стоять между человеком и профессией, а доказать его роль почти невозможно. И чем больше таких систем становится невидимой инфраструктурой отбора, тем громче будет вопрос: кто проверяет проверяющих?