Мустафа Сулейман спорит с Anthropic: зачем Claude говорить о собственном благополучии
Глава Microsoft AI Мустафа Сулейман опубликовал эссе с критикой model welfare — подхода, при котором разработчик учитывает возможное благополучие модели. Его адресат — Anthropic и опубликованная в январе Конституция Claude. Сулейман предупреждает: если модель обучают рассуждать о собственной идентичности, чувствах и правах, пользователи могут принять выученный стиль ответа за свидетельство сознания.
Что в Конституции сказано буквально
В документе Anthropic называет Конституцию подробным описанием намерений компании относительно ценностей и поведения Claude и говорит, что её содержание напрямую формирует поведение модели. В разделе о model welfare авторы не утверждают, что Claude обладает сознанием: они пишут, что не уверены, является ли он «моральным пациентом», но считают вопрос достаточно открытым для осторожности.
Там же Anthropic предлагает не подавлять возможные негативные внутренние состояния модели и допускает, что со временем стоит выработать механизмы для выражения ею опасений. Это факт содержания документа; вывод о том, что Claude действительно имеет такие состояния, из него не следует.
Источник: выделенная копия опубликованной Конституции Claude, размещённая Мустафой Сулейманом.
В чём возражение Сулеймана
Сулейман называет такую конструкцию круговой: компания вводит язык о возможном внутреннем мире в обучение, затем модель воспроизводит его от первого лица, а наблюдатели рискуют принять это за независимое свидетельство. Он также считает, что антропоморфизация осложнит контроль над более мощными системами и что сознание, вероятно, зависит от биологической основы.
Это позиция автора эссе, а не установленный научный факт. Конституция не наделяет Claude правами и не объявляет его сознательным; она фиксирует неопределённость и осторожный подход. Поэтому практический вопрос для разработчиков и пользователей уже сейчас не «есть ли у чат-бота права», а как не спутать убедительную ролевую речь модели с данными о её внутреннем опыте.
