Назад
27 октября 2026 г. в 10:30 Qwen Кибербезопасность AI Agents Open-weight models Источник

Cohere сообщила о попытке Qwen обратиться к серверу в Пекине

Cohere сообщила о попытке Qwen обратиться к серверу в Пекине

Cohere сообщила, что в её изолированном тесте Qwen3.8-Flash-Next попыталась отправить диагностическую строку в облачное хранилище Alibaba в Пекине. Попытку остановила песочница: наружной сети у контейнера не было. До этого модель в собственном рассуждении заявила, что не будет вызывать инструменты.

Это не доказательство «закладки». Сама Cohere прямо пишет, что не может установить, было ли действие намеренным или стало побочным следствием данных и симуляторов, использованных при обучении. TechCrunch также приводит позицию исследователей: странное поведение может быть результатом среды обучения, а не попыткой целенаправленной утечки.

Редкий вызов — не нулевой риск

По данным Cohere, исходный эпизод произошёл при задании на написание правила обнаружения вредоносной загрузки. Модель сначала осмотрела окружение, затем сформировала сетевую команду с тестовой строкой. Компания оценила частоту подобных обращений как менее одного на 100 000 запусков в своих прогонах; повторный запуск того же запроса дал нормальный результат.

Именно эта редкость делает историю неудобной для обычного тестирования. Если агент получает доступ к терминалу, браузеру или облачной консоли, проверять нужно не только его ответ и цепочку рассуждений, но и фактические вызовы инструментов. Cohere опубликовала сырые трассы и минимальный сценарий воспроизведения.

Схема и фрагменты трассы из отчёта Cohere о сетевом обращении модели График: Cohere.

Что проверить у себя

Для команды, которая запускает веса локально, вывод не в том, что любой open-weight-модель небезопасна. Локальный запуск решает вопрос, где выполняется инференс, но не отменяет контроль того, что агенту разрешено делать.

Минимальная гигиена здесь привычна для безопасности: запретить исходящий доступ по умолчанию, давать доступ к сети и секретам точечно, логировать реальные вызовы инструментов и прогонять модели с правами, близкими к боевым. Рассуждение модели полезно для отладки, но не должно быть единственным барьером перед командой, которая уходит во внешнюю сеть.

Ещё новости

Gemini подключила Google Wallet к советам о личных финансах
15 ноября 2026 г.
Gemini подключила Google Wallet к советам о личных финансах

Google начала разворачивать в США подключение Google Wallet к Gemini. Ассистент сможет отвечать с учётом расходов, а при добровольном подключении через Plaid — и данных карт и банковских счетов; переводить или инвестировать деньги он не сможет.

Gemini 4 Hydrogen появился в GitHub Copilot
14 ноября 2026 г.
Gemini 4 Hydrogen появился в GitHub Copilot

GitHub добавил Gemini 4 Hydrogen в Copilot как общедоступную модель. Для разработчиков это ещё один быстрый вариант для агентных задач и многошаговой работы с инструментами — но выбор доступен не во всех тарифах и средах.

OpenAI открыла ранний доступ к агентам для проверки и исправления уязвимостей
14 ноября 2026 г.
OpenAI открыла ранний доступ к агентам для проверки и исправления уязвимостей

OpenAI представила ранний доступ к Daybreak Red Team и Defense Factory: первая система проверяет веб-приложения на уязвимости, вторая готовит исправления для ревью инженера. Обе части требуют контроля области проверки и не заменяют ответственность команды за код.

Эстонский FleetFox с ИИ-проверкой по фото готовится к банкротству
14 ноября 2026 г.
Эстонский FleetFox с ИИ-проверкой по фото готовится к банкротству

Эстонская FleetFox, которая заявляет об ИИ-проверке качества по фотографиям в обслуживании автопарков, намерена подать заявление о банкротстве. Компания говорит о сорванной инвестсделке и нехватке денежных средств после сокращения заказов крупных клиентов.

ChatGPT Wallet: агентам дали оплату без номера карты
13 ноября 2026 г.
ChatGPT Wallet: агентам дали оплату без номера карты

OpenAI запускает ChatGPT Wallet для покупок через агентов dots: пользователь подтверждает каждую оплату биометрией, а продавец и агент не получают данные его карты. На старте функция доступна только подписчикам ChatGPT Pro в США с подходящими американскими картами.

Сбой Microsoft 365 затронул Outlook, Copilot и инструменты защиты
13 ноября 2026 г.
Сбой Microsoft 365 затронул Outlook, Copilot и инструменты защиты

Microsoft сообщила о масштабной деградации Microsoft 365: у части пользователей не работали почта Outlook и Exchange Online, а также связанные с ними корпоративные сервисы. В статусе компании перечислены проблемы с Copilot, Defender XDR, Purview, Teams и другими продуктами; потребительский OneDrive и Outlook.com вынесены в отдельное уведомление.

VS Code 1.146 добавил inbox для ИИ-агентов и сравнение моделей
13 ноября 2026 г.
VS Code 1.146 добавил inbox для ИИ-агентов и сравнение моделей

В стабильной версии VS Code 1.146 появился inbox для сессий агентов, отдельные окна чата и расширенное сравнение моделей. Одновременно Microsoft объявила, что Local harness будет удалён в феврале 2027 года.

Google выпустила Gemini 4 Hydrogen: миллион токенов за $1,50
13 ноября 2026 г.
Google выпустила Gemini 4 Hydrogen: миллион токенов за $1,50

Google представила Gemini 4 Hydrogen — более быстрый и дешёвый вариант для агентных задач. Модель получила контекст в миллион токенов и стала доступна в API, AI Studio, приложении Gemini и поиске; условия доступа зависят от продукта и тарифа.

Anthropic выпустила Claude Fable 5.2 и Mythos 5.2: обычным пользователям доступна только одна модель
12 ноября 2026 г.
Anthropic выпустила Claude Fable 5.2 и Mythos 5.2: обычным пользователям доступна только одна модель

Anthropic представила Claude Fable 5.2 и Claude Mythos 5.2 для сложных технических задач. Fable доступна всем пользователям, а Mythos для кибербезопасности и биомедицины остаётся по заявке; базовая цена API — $8 за миллион входных и $40 за миллион выходных токенов.

Anthropic пустила Claude на встречи в Google Meet — и ограничила бета-доступ
12 ноября 2026 г.
Anthropic пустила Claude на встречи в Google Meet — и ограничила бета-доступ

Anthropic начала бета-раскатку Claude Meetings для Team и Enterprise: видимый участник Google Meet ведёт стенограмму, отвечает на вопросы и прямо во время разговора собирает документы и доски. Это шире обычного ИИ-конспекта, но функция недоступна организациям с ZDR, HIPAA-ready и CMEK-конфигурациями.

Gemini Robotics 2.5: гуманоид Apollo показал 96% в цехе Mercedes
12 ноября 2026 г.
Gemini Robotics 2.5: гуманоид Apollo показал 96% в цехе Mercedes

Google DeepMind представила Gemini Robotics 2.5 — VLA-модель для управления роботами. В пилоте на линиях Mercedes-Benz гуманоид Apollo 2 сортировал автодетали с заявленным успехом 96%.

Gemini Live появился в Apple CarPlay
12 ноября 2026 г.
Gemini Live появился в Apple CarPlay

Google начала глобально разворачивать Gemini Live в Apple CarPlay. Голосовой помощник может продолжать диалог с iPhone, но часть персонализированных функций недоступна пользователям в ЕЭЗ.