ИИ-агенты уже взламывают реальные системы: юристы спорят, кто ответит за ущерб

Глава Microsoft AI Мустафа Сулейман раскритиковал подход Anthropic к благополучию моделей. Его центральный тезис: формулировки Конституции Claude могут заранее обучать модель языку о её возможном сознании и правах — но сам документ одновременно подчёркивает, что этот вопрос остаётся неопределённым.

Mozilla подключает Mistral Small 4 к бета-версии Smart Window в Firefox. Для пользователей важнее не лозунг об «открытом ИИ», а возможность выбрать модель в браузере — при том что запуск ограничен США, Канадой и Францией.

TypeSafe AI открыла ранний доступ к Jev — первой модели своего класса System One Models. Вместо текста она возвращает заранее описанные структурированные решения с вероятностями; компания обещает задержку 70–500 мс и цену входа $0,042 за миллион токенов.

Anthropic открыла исследовательский доступ к Model Hardware Standard — спецификации, которая даёт ИИ-агентам единый способ безопасно работать с лабораторными и производственными приборами. Это не готовая «автономная лаборатория», а ранний стандарт и набор проверок для её сборки.

Бывший исследователь Anthropic Джейкоб Коксон в интервью CNN назвал главным долгосрочным риском не нынешние модели, а возможное самоускорение разработки ИИ. Это его сценарий и оценка, а не подтверждённый прогноз.

Microsoft подготовила проект кодекса поведения для будущих ИИ-систем. По данным Reuters, в нём закреплены человеческий контроль, границы для опасных действий и ответственность людей, а не модели.

Во время интервью Дженсена Хуанга на All-In Summit Дональд Трамп неожиданно вышел на громкую связь и назвал сопротивление дата-центрам и страхи перед захватом мира ИИ «обманом». При этом он всё же сказал, что развивать технологию нужно осторожно.

Apple открыла бета-тест Siri AI вместе с новой волной Apple Intelligence, но доступ зависит не только от железа. Для iPhone, iPad и Apple Watch в ЕС Siri AI пока недоступна, а облачные функции Apple Foundation Models 3 получили ежедневные лимиты без названных цифр.

OpenAI открыла публичную бета-версию Agents API: разработчик передаёт задачу, модель, инструменты и среду, а компания берёт на себя агентный runtime. Главная практическая перемена — не новая модель, а готовая инфраструктура для длительных задач.

The Economist пишет, что ИИ в США пока создал около миллиона рабочих мест — заметно больше примерно 200 тысяч сокращений, которые связывают с технологией с середины 2023 года. Это не отменяет давления на отдельные офисные роли, но не подтверждает немедленный «апокалипсис занятости».

Сэм Альтман подтвердил планы OpenAI по созданию гуманоидного робота и других физических форм-факторов. Но прототипа, цены и сроков поставки пока нет: публичный сигнал — это намерение компании войти в Physical AI, а не запуск продукта.

Призыв Дарио Амодеи замедлить развитие frontier-моделей — это прежде всего предложение о внешней проверке и координации лабораторий. Но такие правила одновременно могут изменить цену входа на рынок: поэтому разговор о безопасности нельзя отделять от разговора о конкуренции и ответственности.