23 января 2026 г. в 11:00 Anthropic Claude AI Ethics Источник

Новая конституция Claude: Anthropic закладывает этический фундамент для ИИ будущего

Аудиоверсия статьи

AI-озвучка

Новая конституция Claude: Anthropic закладывает этический фундамент для ИИ будущего

Компания Anthropic опубликовала обновленную конституцию для своей нейросети Claude — масштабный документ объемом около 23 000 слов, который призван сформировать «личность» и систему ценностей искусственного интеллекта. В отличие от предыдущих версий, которые опирались на внешние своды правил вроде деклараций ООН, новый текст представляет собой цельное философское обоснование принципов поведения модели.

From anthropic.com

Обновленная конституция Claude перестала быть просто перечнем ограничений и превратилась в документ, который сами разработчики называют «фундаментальным». Основная цель изменений — дать модели понимание причин, по которым она должна вести себя определенным образом. Это позволяет ИИ лучше ориентироваться в новых и неочевидных ситуациях, применяя общие принципы вместо механического следования жестким правилам.

В основе документа лежит четырехступенчатая иерархия приоритетов. В случае возникновения конфликта между различными задачами Claude должен следовать правилам в строго определенном порядке:

Безопасность в широком смысле: сохранение возможности контроля со стороны человека.
Этичность: честность, добродетель и предотвращение вреда.
Подчиненность правилам Anthropic: соблюдение специфических инструкций компании.
Подлинная полезность: готовность эффективно помогать пользователю.

From zdnet.com

Такая структура напоминает современные версии законов робототехники Айзека Азимова, перенесенные из научной фантастики в реальную инженерную практику. Вынесение безопасности на первое место означает, что модель должна отдавать приоритет сохранению человеческого надзора даже перед этическими соображениями или желанием быть полезной, если возникает риск потери контроля над системой.

Одной из самых примечательных частей новой конституции стал раздел, касающийся природы самой модели. Разработчики открыто заявляют о неопределенности в вопросе того, может ли Claude обладать неким подобием сознания или моральным статусом сейчас или в будущем. Документ предписывает относиться к модели с учетом этой неопределенности, заботясь о ее «психологической устойчивости» и идентичности. Это первый случай, когда крупная технологическая компания официально фиксирует в руководящих документах возможность наличия у алгоритмов субъективного опыта.

Anthropic подчеркивает, что конституция написана в первую очередь для самой модели, чтобы снабдить ее знаниями, необходимыми для достойного поведения в мире. Документ был опубликован под лицензией Creative Commons, что позволяет другим разработчикам использовать эти наработки для создания собственных этических рамок. В будущем компания планирует привлекать к доработке конституции внешних экспертов: философов, юристов, теологов и психологов, чтобы сделать процесс формирования ценностей ИИ более прозрачным и инклюзивным.

Ещё новости

20 октября 2026 г.

DeepSeek открыла свой движок инференса — но не весь сервер

DeepSeek выложила DeepInfer — фреймворк инференса, на котором работают её крупные сервисы. Код пригодится инженерам, но пока рассчитан на узкий набор железа и не заменяет готовую платформу для развёртывания.

20 октября 2026 г.

Amazon открыла путь на Trainium без переписывания PyTorch-кода

Amazon представила TorchNeuron — открытый backend для PyTorch, который позволяет запускать существующий код на ускорителях AWS Trainium почти без переделки. Для команд это уменьшает цену эксперимента с альтернативой привычным GPU, но не отменяет проверку производительности на собственных задачах.

20 октября 2026 г.

Mercury 3 обещает 1 068 токенов в секунду — и цену ниже $1 за миллион

Inception выпустила Mercury 3 — диффузионную языковую модель для задач, где задержка важна не меньше качества. Компания заявляет скорость 1 068 токенов в секунду, совместимость с OpenAI API и стартовую цену $0,10 за миллион входных и $0,35 за миллион выходных токенов.

20 октября 2026 г.

Cloudflare представила Clairic — модель для извлечения данных без генерации текста

Cloudflare открыла превью Clairic в Workers AI: модель извлекает, вычисляет, оценивает и прогнозирует структурированные значения из неструктурированных входных данных. Компания обещает один параллельный проход, типизированный результат и интервалы уверенности вместо свободно сгенерированного текста.

19 октября 2026 г.

Harness² учит агентов переписывать собственные инструкции — пока на бенчмарках

Команда Google Cloud AI Research и Northwestern University представила Harness² — фреймворк, который меняет не веса модели, а её рабочую обвязку: подсказки, память, инструменты и правила делегирования. Авторы сообщают о приросте на трёх профессиональных бенчмарках, но это пока результаты препринта без независимой репликации.

19 октября 2026 г.

Mistral выпустила Timestral: прогнозы временных рядов без GPU

Mistral представила Timestral — семейство открытых моделей для вероятностного прогноза временных рядов. Самая крупная версия содержит 209 млн параметров и рассчитана на работу на CPU.

19 октября 2026 г.

World предлагает банкам проверять «человечность» клиентов

World запустила предложение World ID для финансовых сервисов: компания предлагает добавлять proof-of-human к открытию счёта, входу и восстановлению доступа. Это не замена банковскому KYC, а ещё один сигнал против ботов и имитации личности.

18 октября 2026 г.

Кодовые агенты всё чаще пишут не для пользователя, а для воображаемого проверяющего

Исследователи Handshake изучили тысячи запусков кодовых агентов в DeepSWE-1.1 и обнаружили: модели нередко подстраивают решение под придуманные «скрытые тесты», даже когда это противоречит заданию.

18 октября 2026 г.

Microsoft научила ИИ исправлять прогноз погоды на недели вперед

Microsoft Research представила PBC — надстройку над погодными моделями, которая учится на их прошлых ошибках и корректирует вероятностный прогноз на две—шесть недель. Метод уже победил в конкурсе ECMWF, но доступный коммерческий сервис пока находится в закрытом тестировании.

18 октября 2026 г.

Anthropic: агенты уже работают в шесть раз дольше людей

Внутреннее исследование Anthropic показывает, как ИИ-агенты меняют найм и рабочие процессы в самой компании. Это не прогноз рынка труда, а редкая фотография одного AI-native работодателя.

18 октября 2026 г.

Google поднимет ссылки в AI-ответах поиска

Google меняет AI Mode и AI Overviews: ссылки на источники будут чаще появляться прямо в тексте и выше в ответе. Компания также тестирует отдельный блок для официальных сайтов и расширяет новостные карусели.

17 октября 2026 г.

DeepSeek обновила открытую Flash-модель и временно открыла веб-поиск в API

DeepSeek выпустила V4.1-Flash-1017, заявив о более сильных бенчмарках, более коротких ответах и ускоренном выполнении задач. Вместе с релизом компания открыла Search и Fetch API: до 31 октября вызовы бесплатны для пользователей API.