Meta переводит модерацию на ИИ: половину проверок уже забрали LLM

Meta ускоряет перевод модерации контента и рекламы на большие языковые модели. Financial Times со ссылкой на четырёх человек, знакомых с планами компании, пишет, что в 2026 году LLM уже заменили примерно половину запросов, которые раньше уходили на человеческую проверку. Для отдельных типов контента Meta, по словам источников FT, хочет к концу года довести автоматизацию выше 90%.

Это не отдельный эксперимент в лаборатории. Речь о Facebook, Instagram и рекламной системе Meta — инфраструктуре, где ежедневно решается, что будет удалено, что останется, какая реклама пройдёт проверку, кто получит блокировку и как быстро пользователь сможет оспорить ошибку.

Почему Meta торопится

У Meta давно есть автоматизированные фильтры, но LLM меняют экономику и масштаб проверки. Человеческая модерация дорогая, медленная и тяжёлая психологически: подрядчики годами просматривали мошенничество, насилие, сексуальную эксплуатацию, политический экстремизм и спорные рекламные объявления. Для компании, которая тратит огромные суммы на AI-инфраструктуру, замена части этой работы моделями выглядит способом сократить расходы и ускорить реакции.

Публичная линия Meta звучит иначе: не просто экономия, а более точное и быстрое выявление серьёзных нарушений. В мартовском материале компания писала, что в ранних тестах новые AI-системы находили 5 000 мошеннических попыток в день, которые не поймали существующие команды, помогли снизить жалобы на аккаунты, выдающие себя за знаменитостей, более чем на 80%, и в одном сценарии ловили вдвое больше нарушающего правила контента о сексуальных услугах для взрослых при снижении ошибок более чем на 60%.

Где начинается риск

Проблема не в том, что ИИ участвует в модерации. На платформах такого размера без автоматизации невозможно разбирать миллиарды постов, сообщений, объявлений и жалоб. Вопрос в том, какие решения модели получают право принимать почти без человека рядом.

Модерация часто упирается в контекст. Сатира, цитирование, политический протест, журналистика, локальный сленг и обсуждение насилия ради осуждения могут выглядеть для системы как нарушение. Oversight Board раньше указывал, что люди в апелляциях часто объясняют: пост был шуткой или попыткой привлечь внимание к проблеме. Именно такие случаи плохо переживают грубую автоматизацию.

Meta обещает, что люди сохранят роль в самых сложных решениях, включая апелляции по отключению аккаунтов и обращения в правоохранительные органы. Но сообщение FT показывает темп: если половина человеческих проверок уже ушла LLM, пользовательский опыт будет меняться раньше, чем общество договорится о нормальных правилах контроля.

Что это меняет для пользователей и бизнеса

Для обычного человека ставка простая: ошибочная блокировка, снятый пост, пропущенная мошенническая реклама или медленная апелляция. Для малого бизнеса — риск потерять рекламный кабинет или страницу из-за решения, которое плохо поняло товар, формулировку или локальный контекст.

Для рынка это ещё один пример замены конкретной массовой функции: проверять, классифицировать, решать, эскалировать. Если Meta справится, другие платформы быстрее пойдут тем же путём. Если начнутся заметные ошибки, спор об AI-модерации станет спором о власти платформ: кто имеет право нажать цифровой рубильник и насколько прозрачно можно это оспорить.