Google представила TPU 8tx и 8i Max для защищённого ИИ и длинного контекста
Google добавила в восьмое поколение своих AI-ускорителей две новые системы: TPU 8tx для конфиденциального инференса и TPU 8i Max для задач с очень длинным контекстом. Вместо одного универсального чипа компания всё заметнее собирает набор специализированных конфигураций под разные этапы работы с ИИ.
В официальном анонсе Google говорит, что 8tx должен давать аппаратный уровень защиты для чувствительных данных во время инференса — то есть когда уже обученная модель отвечает на запросы. Это важнее всего там, где в контекст попадают корпоративные документы, финансовые данные или медицинская информация. Компания не раскрыла в публикации цену и сроки широкой доступности.
TPU 8i Max Google предназначает для «массовых» контекстных окон и максимальной вычислительной плотности на стойку. Практический смысл — не в том, что любой чат внезапно получит бесконечную память: длинный контекст дорог, а его полезность зависит от модели и задачи. Но для агентных сценариев, где системе нужно одновременно держать кодовую базу, документы и историю действий, ограничение по памяти часто становится узким местом.
Новинки дополняют представленные весной TPU 8t для масштабного обучения и TPU 8i для рассуждений в реальном времени. Google утверждает, что прежние 8t и 8i дают до 2,7 раза лучшую производительность обучения и на 80% лучшее соотношение цены и производительности инференса относительно прошлого поколения; это собственные сравнения компании, а не независимый бенчмарк.
График: Google.
На официальной схеме показаны четыре варианта одного поколения: для обучения, рассуждений в реальном времени, защищённого инференса и больших контекстных окон. Именно такое разделение, а не один заявленный показатель скорости, определяет, какой ускоритель имеет смысл для конкретного сервиса.
Для разработчиков это сигнал о другой конкуренции инфраструктур: облака продают уже не просто «вычисления для ИИ», а заранее размеченные компромиссы между безопасностью, стоимостью, скоростью и размером контекста. Проверять придётся не название TPU, а доступность в нужном регионе, совместимость со стеком и реальные условия тарифа.
