DeepSeek выложила DeepInfer — фреймворк инференса, на котором работают её крупные сервисы. Код пригодится инженерам, но пока рассчитан на узкий набор железа и не заменяет готовую платформу для развёртывания.

Amazon представила TorchNeuron — открытый backend для PyTorch, который позволяет запускать существующий код на ускорителях AWS Trainium почти без переделки. Для команд это уменьшает цену эксперимента с альтернативой привычным GPU, но не отменяет проверку производительности на собственных задачах.

Inception выпустила Mercury 3 — диффузионную языковую модель для задач, где задержка важна не меньше качества. Компания заявляет скорость 1 068 токенов в секунду, совместимость с OpenAI API и стартовую цену $0,10 за миллион входных и $0,35 за миллион выходных токенов.

Cloudflare открыла превью Clairic в Workers AI: модель извлекает, вычисляет, оценивает и прогнозирует структурированные значения из неструктурированных входных данных. Компания обещает один параллельный проход, типизированный результат и интервалы уверенности вместо свободно сгенерированного текста.

Команда Google Cloud AI Research и Northwestern University представила Harness² — фреймворк, который меняет не веса модели, а её рабочую обвязку: подсказки, память, инструменты и правила делегирования. Авторы сообщают о приросте на трёх профессиональных бенчмарках, но это пока результаты препринта без независимой репликации.

Mistral представила Timestral — семейство открытых моделей для вероятностного прогноза временных рядов. Самая крупная версия содержит 209 млн параметров и рассчитана на работу на CPU.