«Мы ошиблись»: Anthropic убрала из Claude Fable 5 тайный механизм, мешавший конкурентам

Anthropic пошла на попятную в скандале вокруг Claude Fable 5. Компания отозвала механизм, который скрыто ухудшал работу модели для пользователей, пытающихся разрабатывать с её помощью другие системы искусственного интеллекта. Решение принято после волны критики со стороны исследователей — от независимых учёных до бывшего советника Белого дома по ИИ. «Мы сделали неправильный выбор и приносим извинения», — говорится в заявлении компании для Wired.

Что именно произошло

Когда Anthropic запустила Fable 5 в начале недели, компания описала несколько уровней защиты от злоупотреблений. Часть из них выглядела предсказуемо: запросы по кибербезопасности, биологии и химии перенаправлялись на менее мощную модель Opus 4.8 — стандартная практика для frontier-моделей.

Но для frontier-разработки ИИ Anthropic выбрала другой подход. Как выяснил Wired, при попытке использовать Fable 5 для создания или улучшения конкурирующих моделей система незаметно снижала качество ответов — без предупреждения пользователю. Формально это объяснялось условиями использования: Anthropic прямо запрещает применять Claude для разработки других ИИ. Однако скрытый характер ограничений вызвал взрывную реакцию.

Исследовательское сообщество быстро назвало механизм «тайным саботажем». Дин Болл, старший научный сотрудник Foundation for American Innovation и бывший советник Белого дома по ИИ, написал в X: «Ухудшать качество ответов на задачах машинного обучения, не сообщая об этом пользователю, — это шокирующе враждебно и выглядит ужасно». В другом посте он добавил, что политика скрытого ухудшения подрывает позицию самой Anthropic, поскольку лишает исследователей возможности совместно работать над безопасностью ИИ.

Почему это важно

Дискуссия вышла далеко за пределы одной модели. Уилл Браун, руководитель исследований в open-source-стартапе Prime Intellect, сформулировал суть претензии так: «Было ощущение, что Anthropic говорит публике: мы никому не доверяем исследования ИИ. Только мы имеем на это право. Они будто убирают лестницу за собой».

Браун также указал на практическую проблему: разработчики не могли понять, нарушают ли они правила Anthropic, потому что компания не предупреждала о срабатывании предохранителей. Под удар попадал целый слой экосистемы — например, независимые компании, тестирующие frontier-модели на безопасность и надёжность. Их работа могла быть искажена скрытой деградацией модели.

Реакция Anthropic

Anthropic отреагировала быстро. Предохранители для frontier-разработки ИИ стали видимыми: если система заподозрит пользователя в попытке создания конкурирующей модели, она прямо сообщит об отказе или переключит на менее мощную версию. «Скрытый предохранитель сложнее обойти, — объяснила компания. — Но теперь, когда он открыт, нам приходится расширять сеть, и это значит, что под фильтр могут попадать и безобидные запросы». Компания обещает повысить точность классификаторов в ближайшее время.

В основе всей истории — растущее напряжение между безопасностью и концентрацией власти. Anthropic аргументирует жёсткие меры тем, что Claude стал слишком эффективным инструментом для ускорения ИИ-разработки. Компания прямо говорит: миру нужно иметь возможность «замедлить или временно приостановить frontier-разработку». Спор идёт не о том, нужно ли регулировать опасные технологии, — а о том, кто именно и на каких основаниях получает право решать, кому можно заниматься исследованиями, а кому нет.