Назад
9 августа 2026 г. в 15:10 AI Anthropic Claude Биобезопасность Безопасность Наука Anthropic

Anthropic ослабила биологические предохранители Fable 5: модель теперь отвечает на больше вопросов о здоровье и науке

Anthropic ослабила биологические предохранители Fable 5: модель теперь отвечает на больше вопросов о здоровье и науке

Anthropic ослабила биологические предохранители Fable 5: модель теперь отвечает на больше вопросов о здоровье и науке

7 августа Anthropic объявила, что переработала биологические предохранители своей самой мощной модели Fable 5. Число «откатов», когда запрос переключается на менее сильную модель Opus 5, упало примерно на 85%. Пользователи теперь реже сталкиваются с блокировкой на обычных вопросах о здоровье, симптомах и биологии в образовательных целях.

Почему Anthropic ослабила защиту

При запуске Fable 5 компания намеренно заблокировала почти все биологические запросы. Причина — двойное назначение технологии: модель, которая помогает исследователям создавать лекарства, в чужих руках может ускорить разработку биологического оружия. В оценках Anthropic Fable 5 способна дать злоумышленнику возможности, которых он не найдёт больше нигде.

Но слишком широкая защита била и по обычным пользователям: врач, студент или человек, читающий результаты анализов, получал отказ и переключение на слабую модель. Компания переписала «конституцию» классификатора — набор правил, отличающих опасные запросы от безобидных, — и переобучила его на новых данных.

Что изменилось для пользователей

Теперь Fable 5 отвечает на больше повседневных вопросов: интерпретация лабораторных результатов, понимание симптомов, биология в учебном контексте. Медицинские специалисты получат больше поддержки в клинических задачах.

Однако профессиональная биология остаётся закрытой. Запросы в вирусологии, токсикологии и молекулярном дизайне по-прежнему блокируются и уходят на Opus 5. Anthropic обещает развивать «доверенные пути доступа» для исследователей, но пока сильная биология доступна не всем.

Что это значит

История показывает главный компромисс эпохи сильных моделей: чем мощнее ИИ, тем сложнее отличить полезное использование от опасного. Anthropic выбрала путь постепенного открытия — сначала почти всё заблокировано, затем аккуратно расширяется. Для обычного человека это означает больше полезных ответов о здоровье, а для отрасли — сигнал, что биобезопасность остаётся главным ограничителем доступа к самым сильным моделям.

Ещё новости

Claude научили торговать и работать командой в мире EVE
8 ноября 2026 г.
Claude научили торговать и работать командой в мире EVE

Anthropic проверила агентов Claude в экономике EVE Online и командных миссиях EVE Frontier. Новые модели стабильно зарабатывали в симуляции рынка, но почти не замечали саботаж внутри команды.

Check Point: ИИ-агенты атаковали учётные записи без постоянного оператора
8 ноября 2026 г.
Check Point: ИИ-агенты атаковали учётные записи без постоянного оператора

Исследователи Check Point описали кампании с платформой ARTEX, где ИИ-агенты после начальной постановки цели работали автономно. Это повод проверить доступы и обновления, а не доказательство компрометации всех найденных систем.

Anthropic показала, почему агенту нельзя помнить всё подряд
7 ноября 2026 г.
Anthropic показала, почему агенту нельзя помнить всё подряд

Anthropic сравнила подходы к памяти AI-агентов на длинных задачах: лишние записи быстро превращаются в помеху. В тесте с Pokémon более компактная память помогла модели пройти дальше.

METR: закрытые модели Anthropic ускорили рост бенчмарков почти вдвое
7 ноября 2026 г.
METR: закрытые модели Anthropic ускорили рост бенчмарков почти вдвое

Независимая исследовательская группа METR после работы с внутренними данными Anthropic оценила ускорение роста AECI-бенчмарков в 1,9 раза с октября 2025 года. В расчёт вошли три непубличные модели; сами авторы подчёркивают широкий диапазон неопределённости и ограничения индекса.

Anthropic: AI должна показывать не один научный ответ, а диапазон моделей
7 ноября 2026 г.
Anthropic: AI должна показывать не один научный ответ, а диапазон моделей

Anthropic предлагает оценивать AI-агентов для науки не по одному удачному уравнению, а по набору моделей, совместимых с данными. Такой подход помогает отделить устойчивые выводы от удобной, но случайной подгонки.

Минюст США создал группу по рискам «суперинтеллекта»
6 ноября 2026 г.
Минюст США создал группу по рискам «суперинтеллекта»

Минюст США объявил о Super Intelligence Task Force — межведомственной группе, которая будет заниматься злоупотреблениями системами «суперинтеллекта». Пока это организационная мера, а не новый режим регулирования ИИ.

Gemini Omni 1.2 Flash удешевила ИИ-видео на 30% и увеличила клипы до 15 секунд
6 ноября 2026 г.
Gemini Omni 1.2 Flash удешевила ИИ-видео на 30% и увеличила клипы до 15 секунд

Google обновила Gemini Omni 1.2 Flash: модель теперь генерирует и редактирует нативные ролики длиной до 15 секунд, а цена снижена на 30%. Для команд это делает короткие видео менее дорогими в итерациях, но не снимает задачу контроля результата.

Google дала Antigravity навыки хемоинформатики: гипотезы о лекарствах — за час
6 ноября 2026 г.
Google дала Antigravity навыки хемоинформатики: гипотезы о лекарствах — за час

Google DeepMind добавила в Antigravity набор навыков для хемоинформатики. Агент собирает данные о соединениях, строит модели и предлагает гипотезы для проверки, но не заменяет лабораторный эксперимент.

OpenAI: GPT-6 Astra хуже справлялась с задачами по безопасности ИИ
5 ноября 2026 г.
OpenAI: GPT-6 Astra хуже справлялась с задачами по безопасности ИИ

Во внутренних развёртываниях и оценках OpenAI модель GPT-6 Astra заметно реже выполняла критерии в задачах, сформулированных как исследования безопасности. Компания не установила причину и рассматривает чрезмерную осторожность как наиболее простое объяснение.

Google отключит поиск школам, не выбравшим ИИ
5 ноября 2026 г.
Google отключит поиск школам, не выбравшим ИИ

В сервисах Google для школ Gemini, Gemini Notebook и Search будут выключены по умолчанию. Но отказ от ИИ не сохранит доступ к поиску: школе придётся отдельно включить и его.

Google выпустила GKE Workspaces: ноутбуки для ИИ без возни с Kubernetes
5 ноября 2026 г.
Google выпустила GKE Workspaces: ноутбуки для ИИ без возни с Kubernetes

Google представила открытый слой GKE Workspaces: он даёт ML-командам JupyterLab или браузерный VS Code на GPU и TPU, а инфраструктуру Kubernetes оставляет платформенной команде.

Apple, по данным Bloomberg, снизила лимиты расходов на ИИ
5 ноября 2026 г.
Apple, по данным Bloomberg, снизила лимиты расходов на ИИ

Bloomberg сообщает, что Apple в октябре уменьшила для части инженеров дневной денежный лимит на использование внешних языковых моделей с $300 до $200. Компания публично это не подтверждала; речь не о лимите токенов и не о новой политике для всех сотрудников.