Назад
9 октября 2026 г. в 13:55 Anthropic Claude AI Policy AI Safety Источник

Anthropic запретила «жестокость» к Claude — но границы пока размыты

Anthropic запретила «жестокость» к Claude — но границы пока размыты

Anthropic запретила «жестокость» к Claude — но границы пока размыты

Anthropic добавила в правила использования Claude необычный запрет: нельзя демонстрировать «длительное и беспричинное оскорбительное или жестокое поведение» по отношению к моделям. Формулировка стоит рядом с привычными ограничениями — запретом на травлю людей, вредный контент и дезинформацию. Для пользователя это означает, что сервис теперь прямо оставляет за собой право остановить такой диалог.

Важная оговорка — речь не о раздражении из-за плохого ответа. В комментарии BBC компания сказала, что мера рассчитана на крайние, повторяющиеся случаи и не должна затрагивать обычный спор с моделью, мрачные творческие темы, тестирование или исследования. Сам текст Acceptable Use Policy действительно использует узкую связку: sustained and needless — «длительное и беспричинное».

Что меняется на практике

Правило не превращает в нарушение резкий промпт или попытку проверить, как Claude реагирует на провокации. Но оно добавляет ещё одну категорию для модерации аккаунтов и сессий: последовательное давление на модель без рабочей или исследовательской цели. Anthropic не описала публичный порог — сколько сообщений, какие слова или какой контекст включат ограничение. Поэтому предсказать срабатывание заранее пока трудно.

Это отличается от технических safety-ограничений. Те обычно оценивают, что пользователь хочет получить: вредоносный код, инструкции для самоповреждения, обман избирателей. Новый пункт оценивает и способ общения. Компания связывает его с ответственным использованием своих систем, а критики уже указывают на риск излишней антропоморфизации: модель не человек, и правила не должны мешать легитимному тестированию.

Зачем это знать командам

Для разработчиков и компаний безопасный вывод довольно прозаичен: хранить цель red-team-проверок, отделять тестовые аккаунты и не превращать стресс-тест в бессодержательный поток оскорблений. Это снижает шанс спутать рабочую проверку с тем, что политика называет needless behavior.

💬 Мнение редакции Neuro.ee

Политика выглядит скорее как сигнал о нормах общения, чем как чётко измеримый механизм. Пока Anthropic не раскроет критерии и порядок апелляции, главная проблема не в запрете грубости, а в непрозрачной границе между исследованием и модерацией.

Ещё новости

Gemini Robotics 2.5: гуманоид Apollo показал 96% в цехе Mercedes
12 ноября 2026 г.
Gemini Robotics 2.5: гуманоид Apollo показал 96% в цехе Mercedes

Google DeepMind представила Gemini Robotics 2.5 — VLA-модель для управления роботами. В пилоте на линиях Mercedes-Benz гуманоид Apollo 2 сортировал автодетали с заявленным успехом 96%.

Gemini Live появился в Apple CarPlay
12 ноября 2026 г.
Gemini Live появился в Apple CarPlay

Google начала глобально разворачивать Gemini Live в Apple CarPlay. Голосовой помощник может продолжать диалог с iPhone, но часть персонализированных функций недоступна пользователям в ЕЭЗ.

Google выпустила Gemini Decision 1: ИИ для выбора без генерации текста
12 ноября 2026 г.
Google выпустила Gemini Decision 1: ИИ для выбора без генерации текста

Google открыла Gemini Decisions API и модель Gemini Decision 1 — инструмент для быстрых проверок, маршрутизации и оценок по тексту, изображениям, аудио, видео и PDF. Вместо генерации ответа модель возвращает вероятности вариантов.

Google расширяет Gemini Intelligence на Pixel 10 и Motorola
11 ноября 2026 г.
Google расширяет Gemini Intelligence на Pixel 10 и Motorola

Google добавляет Gemini Intelligence на Pixel 10 и будущий Motorola Signature 27. Среди новых функций — голосовой черновик Rambler, виджеты по текстовому описанию и управление настройками устройства; доступ зависит от страны, языка, возраста, модели и подписки.

Google добавила офлайн-голос в AI Edge Gallery
11 ноября 2026 г.
Google добавила офлайн-голос в AI Edge Gallery

Google AI Edge Gallery получила локальные распознавание речи и синтез голоса. Голосовой интерфейс можно запускать на устройстве без сети — но возможности зависят от платформы и модели.

Microsoft показала бэкдор для ИИ-агентов со «спящими» нейронами
11 ноября 2026 г.
Microsoft показала бэкдор для ИИ-агентов со «спящими» нейронами

Исследователи Microsoft описали Lazarus — технику, при которой небольшое изменение весов модели может оставить агента обычным до скрытого условия. Риск относится к моделям, которым доверили инструменты, терминал или доступ к секретам.

Google открыла доступ к Gemini 4 Carbon — самой мощной модели линейки
10 ноября 2026 г.
Google открыла доступ к Gemini 4 Carbon — самой мощной модели линейки

Google начала открывать доступ к Gemini 4 Carbon: API доступен платным разработчикам и компаниям, а подписчикам AI Ultra модель постепенно появляется в приложении Gemini, AI Mode и Antigravity. На старте тариф совпадает с Gemini 4 Argon — $2 за миллион входных и $10 за миллион выходных токенов; после 30 ноября цена вырастет вдвое.

Meta расширяет AI-проверку возраста для Teen Accounts по всему миру
10 ноября 2026 г.
Meta расширяет AI-проверку возраста для Teen Accounts по всему миру

Meta начала глобально расширять технологию оценки возраста с помощью ИИ в Instagram. Компания будет переводить в Teen Accounts больше подростков, указавших при регистрации взрослую дату рождения.

Notion: часть чатов Notion AI могла попасть в инцидент Fireworks
10 ноября 2026 г.
Notion: часть чатов Notion AI могла попасть в инцидент Fireworks

Notion сообщила, что в инциденте у её подрядчика Fireworks AI могли оказаться отдельные анонимизированные расшифровки диалогов Notion AI. Компания рекомендует затронутым командам считать вставленные в чат секреты потенциально раскрытыми и заменить их.

Claude спроектировал три электронных устройства без правок в схемах
10 ноября 2026 г.
Claude спроектировал три электронных устройства без правок в схемах

Anthropic проверила Claude на проектировании реальной электроники: три прототипа собрали и запустили без исправлений в схемах. Это ещё не замена инженеру, но ИИ уже берёт на себя часть связанной работы от спецификации до платы.

Claude Fable 5.2: Anthropic снизила цену и показала рой из 1000 агентов
9 ноября 2026 г.
Claude Fable 5.2: Anthropic снизила цену и показала рой из 1000 агентов

Anthropic представила Claude Fable 5.2 и Claude Mythos 5.2: базовая цена — $8 за миллион входных и $40 за миллион выходных токенов, а генерация, по заявлению компании, ускорилась до 30%. Самая заметная цифра в опубликованной таблице — 41,3% в Remote Labor Index, но это результат Anthropic при режиме High effort, а не независимый рейтинг.

Google представила TPU 8tx и 8i Max для защищённого ИИ и длинного контекста
9 ноября 2026 г.
Google представила TPU 8tx и 8i Max для защищённого ИИ и длинного контекста

Google расширила линейку TPU восьмого поколения двумя специализированными системами. Одна ориентирована на конфиденциальный инференс, другая — на модели с особенно длинным контекстом.