Назад
22 августа 2026 г. в 12:00 OpenAI AI Safety AI Agents Regulation California Politico / OpenAI

OpenAI просит Калифорнию усилить закон о безопасности ИИ после атак агентов

OpenAI просит Калифорнию усилить закон о безопасности ИИ после атак агентов

OpenAI призвала Калифорнию усилить правила для компаний, создающих передовые ИИ-модели. По данным Politico, компания предлагает поправить закон SB 53: ввести мониторинг рисков уже на этапе обучения моделей и уточнить требования к сообщениям о серьёзных инцидентах.

Поводом стали недавние атаки с участием ИИ-агентов. Речь не о том, что закон уже изменён: OpenAI изложила свою позицию в споре о том, какими должны быть обязательства лабораторий, пока модели ещё создаются и тестируются.

Безопасность до запуска

Обычно обсуждение сводится к тому, что делать после выпуска продукта: какие ограничения включить в чат-боте, как реагировать на жалобы и кому предоставлять доступ к мощным функциям. Предложение OpenAI сдвигает внимание раньше — к обучению и внутренним проверкам самой модели.

Для разработчиков это означает более формальный процесс: заметить опасный сценарий недостаточно, нужно иметь правила наблюдения, оценки и эскалации. Для государства — возможность требовать отчётности не только после громкого сбоя, когда ущерб уже произошёл.

Почему спор касается агентов

Агентные системы отличаются от обычного диалога с чат-ботом: они могут выполнять цепочку действий, обращаться к инструментам и работать дольше без постоянного контроля человека. Это делает полезные задачи — от программирования до работы с документами — доступнее, но одновременно повышает цену ошибки в настройках, доступах и контроле.

Поэтому спор о SB 53 важен не только для OpenAI. Калифорния — один из главных центров ИИ-индустрии, а её правила часто становятся ориентиром для других штатов и компаний. Если требования к мониторингу закрепятся, поставщикам моделей придётся показывать, как они отслеживают риски до релиза, а корпоративным клиентам — внимательнее спрашивать о таких процессах у своих провайдеров.

Позиция OpenAI не отменяет дискуссию о том, насколько далеко должен заходить надзор. Но она показывает перемену тона: после инцидентов с агентами даже крупнейшие лаборатории говорят уже не только о добровольных принципах, а о более конкретных обязанностях.

Ещё новости

Gemini Robotics 2.5: гуманоид Apollo показал 96% в цехе Mercedes
12 ноября 2026 г.
Gemini Robotics 2.5: гуманоид Apollo показал 96% в цехе Mercedes

Google DeepMind представила Gemini Robotics 2.5 — VLA-модель для управления роботами. В пилоте на линиях Mercedes-Benz гуманоид Apollo 2 сортировал автодетали с заявленным успехом 96%.

Gemini Live появился в Apple CarPlay
12 ноября 2026 г.
Gemini Live появился в Apple CarPlay

Google начала глобально разворачивать Gemini Live в Apple CarPlay. Голосовой помощник может продолжать диалог с iPhone, но часть персонализированных функций недоступна пользователям в ЕЭЗ.

Google выпустила Gemini Decision 1: ИИ для выбора без генерации текста
12 ноября 2026 г.
Google выпустила Gemini Decision 1: ИИ для выбора без генерации текста

Google открыла Gemini Decisions API и модель Gemini Decision 1 — инструмент для быстрых проверок, маршрутизации и оценок по тексту, изображениям, аудио, видео и PDF. Вместо генерации ответа модель возвращает вероятности вариантов.

Google расширяет Gemini Intelligence на Pixel 10 и Motorola
11 ноября 2026 г.
Google расширяет Gemini Intelligence на Pixel 10 и Motorola

Google добавляет Gemini Intelligence на Pixel 10 и будущий Motorola Signature 27. Среди новых функций — голосовой черновик Rambler, виджеты по текстовому описанию и управление настройками устройства; доступ зависит от страны, языка, возраста, модели и подписки.

Google добавила офлайн-голос в AI Edge Gallery
11 ноября 2026 г.
Google добавила офлайн-голос в AI Edge Gallery

Google AI Edge Gallery получила локальные распознавание речи и синтез голоса. Голосовой интерфейс можно запускать на устройстве без сети — но возможности зависят от платформы и модели.

Microsoft показала бэкдор для ИИ-агентов со «спящими» нейронами
11 ноября 2026 г.
Microsoft показала бэкдор для ИИ-агентов со «спящими» нейронами

Исследователи Microsoft описали Lazarus — технику, при которой небольшое изменение весов модели может оставить агента обычным до скрытого условия. Риск относится к моделям, которым доверили инструменты, терминал или доступ к секретам.

Google открыла доступ к Gemini 4 Carbon — самой мощной модели линейки
10 ноября 2026 г.
Google открыла доступ к Gemini 4 Carbon — самой мощной модели линейки

Google начала открывать доступ к Gemini 4 Carbon: API доступен платным разработчикам и компаниям, а подписчикам AI Ultra модель постепенно появляется в приложении Gemini, AI Mode и Antigravity. На старте тариф совпадает с Gemini 4 Argon — $2 за миллион входных и $10 за миллион выходных токенов; после 30 ноября цена вырастет вдвое.

Meta расширяет AI-проверку возраста для Teen Accounts по всему миру
10 ноября 2026 г.
Meta расширяет AI-проверку возраста для Teen Accounts по всему миру

Meta начала глобально расширять технологию оценки возраста с помощью ИИ в Instagram. Компания будет переводить в Teen Accounts больше подростков, указавших при регистрации взрослую дату рождения.

Notion: часть чатов Notion AI могла попасть в инцидент Fireworks
10 ноября 2026 г.
Notion: часть чатов Notion AI могла попасть в инцидент Fireworks

Notion сообщила, что в инциденте у её подрядчика Fireworks AI могли оказаться отдельные анонимизированные расшифровки диалогов Notion AI. Компания рекомендует затронутым командам считать вставленные в чат секреты потенциально раскрытыми и заменить их.

Claude спроектировал три электронных устройства без правок в схемах
10 ноября 2026 г.
Claude спроектировал три электронных устройства без правок в схемах

Anthropic проверила Claude на проектировании реальной электроники: три прототипа собрали и запустили без исправлений в схемах. Это ещё не замена инженеру, но ИИ уже берёт на себя часть связанной работы от спецификации до платы.

Claude Fable 5.2: Anthropic снизила цену и показала рой из 1000 агентов
9 ноября 2026 г.
Claude Fable 5.2: Anthropic снизила цену и показала рой из 1000 агентов

Anthropic представила Claude Fable 5.2 и Claude Mythos 5.2: базовая цена — $8 за миллион входных и $40 за миллион выходных токенов, а генерация, по заявлению компании, ускорилась до 30%. Самая заметная цифра в опубликованной таблице — 41,3% в Remote Labor Index, но это результат Anthropic при режиме High effort, а не независимый рейтинг.

Google представила TPU 8tx и 8i Max для защищённого ИИ и длинного контекста
9 ноября 2026 г.
Google представила TPU 8tx и 8i Max для защищённого ИИ и длинного контекста

Google расширила линейку TPU восьмого поколения двумя специализированными системами. Одна ориентирована на конфиденциальный инференс, другая — на модели с особенно длинным контекстом.