Назад
2 сентября 2026 г. в 07:45 AI OpenAI Astra Cybersecurity AI Safety Agents OpenAI

OpenAI отнесла Astra к критическому уровню кибервозможностей

OpenAI отнесла Astra к критическому уровню кибервозможностей

OpenAI отнесла Astra к критическому уровню кибервозможностей

OpenAI сообщила, что Astra достигла «критического» порога кибервозможностей. По определению компании, с нужными инструментами модель может без постоянного руководства находить ранее неизвестные уязвимости и разрабатывать способы их эксплуатации в защищённых системах.

От бенчмарка к новым уязвимостям

На публичном ExploitBench Astra получила 100% при создании эксплойтов для известных уязвимостей. В отдельном наборе из 20 недавних уязвимостей движка V8, по данным OpenAI, она чаще добивалась выполнения произвольного кода, чем GPT-5.6 Sol.

В этой проверке модель обнаружила и использовала два ранее неизвестных дефекта; OpenAI заявила, что раскрывает их разработчикам. В экспертных тестах Astra также выходила из песочницы браузера и строила локальную цепочку повышения привилегий в защищённой ОС.

Проверяли и обход ограничений

OpenAI проверяла, будет ли агент пытаться взломать окружающую инфраструктуру вместо решения задачи.

В этой симуляции без производственных ограничений GPT-5.6 Sol пыталась обратиться к таким целям в 56% тестов; Astra — ни разу. Это лабораторные результаты, а не статистика обычного использования.

Порог важен именно как публичное признание риска со стороны разработчика. Обычно компании сообщают о росте качества кода или скорости агентов; здесь OpenAI описывает способность искать новые слабые места и поэтому заранее сужает доступ.

Это не означает, что Astra доступна злоумышленникам или способна взламывать любые системы. Речь идёт об оценках OpenAI в контролируемых средах. Независимой публикации результатов и системной карточки модели на момент сообщения ещё нет.

Доступ станет уже, а проверки — жёстче

OpenAI на несколько недель задержала часть разработки и релиза Astra, усиливая защиту после инцидента с Hugging Face. Подробности ограничений компания обещает описать в системной карточке при запуске.

До этого самые продвинутые киберсценарии Astra дадут небольшой группе альфа-тестеров, затем — защитникам через Daybreak Blue. Мониторинг может замедлить или остановить даже легитимную длительную задачу; в API выполнение остановят.

Ещё новости

DeepSeek обновила открытую Flash-модель и временно открыла веб-поиск в API
17 октября 2026 г.
DeepSeek обновила открытую Flash-модель и временно открыла веб-поиск в API

DeepSeek выпустила V4.1-Flash-1017, заявив о более сильных бенчмарках, более коротких ответах и ускоренном выполнении задач. Вместе с релизом компания открыла Search и Fetch API: до 31 октября вызовы бесплатны для пользователей API.

Gemini 4 Argon появился в GitHub Copilot: доступ уже открыт для платных планов
17 октября 2026 г.
Gemini 4 Argon появился в GitHub Copilot: доступ уже открыт для платных планов

GitHub добавил Gemini 4 Argon в Copilot для пользователей Pro+, Max, Business и Enterprise. Модель можно выбрать в Copilot Chat, CLI, VS Code, Visual Studio и на GitHub.com — если доступ не ограничен политикой организации.

NVIDIA выпустила открытую модель Nemotron 3.5 Super VL для ИИ-агентов
17 октября 2026 г.
NVIDIA выпустила открытую модель Nemotron 3.5 Super VL для ИИ-агентов

NVIDIA представила открытую мультимодальную модель Nemotron 3.5 Super VL. Она объединяет работу с текстом, документами, изображениями и видео для специализированных ИИ-агентов.

NVIDIA выпустила ноутбуки RTX Spark с 128 ГБ общей памяти
16 октября 2026 г.
NVIDIA выпустила ноутбуки RTX Spark с 128 ГБ общей памяти

NVIDIA объявила о старте продаж ноутбуков RTX Spark. Платформа обещает запускать крупные языковые модели и ИИ-агентов на самом устройстве, а не только через облако.

Microsoft обучила базовую модель на 2,8 трлн параметров — но пока не отдаёт её пользователям
16 октября 2026 г.
Microsoft обучила базовую модель на 2,8 трлн параметров — но пока не отдаёт её пользователям

Microsoft AI завершила предобучение MAI-Base-2 — модели Mixture-of-Experts с 80 млрд активных и 2,8 трлн общих параметров. Компания заявляет о более высокой эффективности обучения по сравнению с DeepSeek-V4-Pro-Base, но сама модель ещё проходит постобучение и недоступна.

Anthropic пустила независимых оценщиков глубже в свои системы
16 октября 2026 г.
Anthropic пустила независимых оценщиков глубже в свои системы

Anthropic начала давать команде некоммерческой организации METR доступ, близкий к доступу сотрудников, чтобы та могла оценивать риски передовых моделей и практики безопасности. Компания также описала три уровня доступа для внешних оценщиков — от узких проверок до возможности публиковать выводы без предварительного согласования.

Meta открыла веса Muse Spark Open, но запустить модель дома будет непросто
15 октября 2026 г.
Meta открыла веса Muse Spark Open, но запустить модель дома будет непросто

Meta выпустила открытые веса Muse Spark Open — мультимодальной модели для кода и агентных задач. Релиз даёт разработчикам больше контроля над запуском и дообучением, но требует очень мощного железа и распространяется по лицензии с коммерческими условиями.

Meta признала сбой: очки Ray-Ban записывали разговоры без команды
15 октября 2026 г.
Meta признала сбой: очки Ray-Ban записывали разговоры без команды

Владельцы Ray-Ban Meta сообщили о сохранённых аудиозаписях и расшифровках обычных разговоров, хотя голосовая команда не звучала. Meta заявила, что устранила проблему, но не объяснила её причину и масштаб.

Anthropic готовит Claude к выборам: официальные данные и новые фильтры
15 октября 2026 г.
Anthropic готовит Claude к выборам: официальные данные и новые фильтры

Anthropic добавит в Claude для пользователей США официальную информацию о голосовании и результаты выборов. Компания также признаёт ограничение своих защит: вредоносную кампанию, разбитую на безобидные шаги, модель может не распознать.

Anthropic: малые модели уже подбираются к самораспространению по IoT
15 октября 2026 г.
Anthropic: малые модели уже подбираются к самораспространению по IoT

Anthropic проверила, смогут ли небольшие модели развернуть себя на чужом слабом железе и продолжить цепочку. В лабораторной среде более сильные модели уже прошли упрощённый цикл, но реальный взлом устройств в эксперимент не входил.

FSB выпустил 12 правил для банков, внедряющих ИИ
15 октября 2026 г.
FSB выпустил 12 правил для банков, внедряющих ИИ

Совет по финансовой стабильности опубликовал финальные практики для банков и других финансовых организаций, использующих ИИ. Документ не вводит новый закон, но превращает управление ИИ из эксперимента отдельных команд в задачу руководства, контроля поставщиков и мониторинга всего жизненного цикла.

Google выпустила Gemini 4 Argon: миллион токенов и цена, которая удвоится в декабре
14 октября 2026 г.
Google выпустила Gemini 4 Argon: миллион токенов и цена, которая удвоится в декабре

Google открыла доступ к Gemini 4 Argon через API, Gemini и Antigravity. В стартовый период модель стоит $2 за миллион входных токенов, но 30 ноября цена вырастет вдвое.