Google добавила в линейку TPU восьмого поколения две новые системы — TPU 8i Max и TPU 8tx. Важно сразу: это не новые чипы, а новые конфигурации систем. Google переиспользует уже существующий кремний, меняя упаковку, хосты, память и сеть вокруг него. Обе новинки выходят вместе с TPU 8t и TPU 8i, анонсированными в апреле.
TPU 8i Max: два чипа TPU 8i в одном корпусе
TPU 8i Max — сдвоенный пакет, собранный из двух низколатентных чипов TPU 8i. По заявлению Google, это удваивает вычислительную мощность, объём SRAM и пропускную способность HBM по сравнению с одиночным TPU 8i. Каждый чип TPU 8i рассчитан на 10,1 PFLOPS в FP4, несёт 288 ГБ HBM и 8 601 ГБ/с пропускной способности памяти, а также 384 МБ SRAM на кристалле. Арифметически пакет даёт около 20,2 PFLOPS FP4, 768 МБ SRAM и 17,2 ТБ/с — но абсолютных цифр Google не публиковала, как и ёмкость HBM для TPU 8i Max. Это расчётные величины, а не официальные спецификации.
Главная идея — борьба со «стеной памяти». Система умещается в существующий стоечный форм-фактор, но содержит вдвое больше кремния. Google позиционирует TPU 8i Max для агентов, работающих с целыми кодовыми базами или многочасовым видео — то есть там, где решающим становится размер контекста, а не пиковая производительность на коротких задачах.
TPU 8tx: конфиденциальный инференс на кремнии TPU 8t
TPU 8tx адресован регулируемым предприятиям и госструктурам. Система сохраняет данные и веса модели защищёнными даже во время активного использования — обычно же данные приходится расшифровывать в памяти в процессе обработки. Технически это тот же кремний, что у TPU 8t, но в паре с хостами на 5-м поколении AMD EPYC, плюс сеть Boardfly от TPU 8i. Google заявляет до двукратного снижения задержки по сравнению с TPU 8t при почти нулевой потере производительности из-за защиты.
Практический смысл в том, что дообучение, дистилляцию и обучение с подкреплением можно вести в одной системе, не перекладывая чувствительные данные между отдельными кластерами. Для организаций, которым запрещено выносить данные за периметр, это снимает целый класс организационных ограничений.
Что изменилось в программном стеке TPU
Помимо железа Google обновила софт вокруг TPU:
- TorchTPU — открыт в прошлом месяце, нативно запускает модели PyTorch и Hugging Face; у vLLM и SGLang появились бэкенды для TPU.
- Набор агентских инструментов TPU (превью) — подключается к Claude Code, Cursor и Antigravity для онбординга и тюнинга ядер.
- TPU Sync — открытая библиотека на C++, раскладывающая KV-кэш по уровням: HBM, DRAM хоста и дисковое хранилище.
- Agent Compute Engine — приостанавливает простаивающие агентские сессии и выносит рабочую память за пределы чипа; превью обещано в ближайшие месяцы.
- Cloud Pathways и динамическое слайсинг в GKE — оба перешли в статус GA. Динамический слайсинг сокращает время запуска задачи до 5 раз и ускоряет восстановление после сбоев до 4,5 раза.
Цифры по TPU Sync впечатляют: на модели Qwen3 235B медианная задержка передачи KV-кэша упала с нескольких секунд примерно до 230 мс, TTFT снизился в среднем на 60% для 235B и на 90% для 480B при низкой конкурентности. Оговорка существенная: тесты шли на Ironwood (TPU v7x), а не на новых системах.
Чего Google не сказала
Самое важное для планирования — пробелы в данных. Для обеих систем не опубликованы абсолютные спецификации, бенчмарки, цены и регионы доступности. В сравнительной таблице донора сроки появления обеих систем указаны как 2027 год со ссылкой на Bloomberg через Quartz. Для сравнения: NVIDIA Rubin GPU намечен на серийное производство во втором полугодии 2026-го, Microsoft Maia 200 анонсирована в январе 2026-го, AWS Trainium3 — в декабре 2025-го. То есть Google анонсирует конфигурации на год-два вперёд относительно конкурентов, у которых уже есть более конкретные сроки.
Отдельно стоит держать в голове разницу между заявленными и расчётными величинами. Цифры TPU 8i Max вроде 20,2 PFLOPS и 17,2 ТБ/с получены удвоением опубликованных значений одиночного TPU 8i и не подтверждены вендором. Значения TPU 8t (12,6 PFLOPS FP4, 216 ГБ HBM, 6,5 ТБ/с, 128 МБ SRAM) взяты из технического разбора Google.
Что это значит для тех, кто считает бюджет на инференс
Анонс интересен прежде всего направлением, а не готовыми к закупке системами. TPU 8i Max показывает, куда движется ставка Google: не гнаться за пиковыми флопсами, а наращивать память и пропускную способность под длинный контекст и агентские сценарии. TPU 8tx закрывает отдельную нишу — конфиденциальный инференс для тех, кому регуляторика запрещает расшифровывать данные в процессе обработки. Смежная тема — перевод федерированного обучения в TEE, где Google решает похожую задачу приватности другими средствами.
Для российского бизнеса практической привязки здесь нет: Google Cloud TPU в стране недоступны, а сроки 2027 года делают любые планы умозрительными. Полезнее другое — программная часть. TorchTPU и TPU Sync открыты, и подход с многоуровневым KV-кэшем (HBM → DRAM → диск) воспроизводим на любом железе. Если вы упираетесь в память при обслуживании длинных контекстов, идею стоит изучить независимо от вендора. Похожие инженерные приёмы разбираются в материале про агентский фреймворк Harness², где улучшение агента достигается без переобучения модели.
Частые вопросы
Это новые чипы или новые системы?
Новые системы. Google переиспользует кремний восьмого поколения и меняет упаковку, хосты, память и сеть. TPU 8i Max собран из двух TPU 8i, TPU 8tx использует кремний TPU 8t.
Насколько быстрее TPU 8i Max обычного TPU 8i?
По заявлению Google, вдвое выше вычислительная мощность, объём SRAM и пропускная способность HBM. Абсолютные значения вендор не публиковал — цифры около 20,2 PFLOPS и 17,2 ТБ/с получены удвоением спецификаций одиночного чипа.
Что даёт TPU 8tx по сравнению с TPU 8t?
Конфиденциальный инференс: данные и веса модели остаются защищёнными во время активного использования. Плюс хосты на 5-м поколении AMD EPYC, сеть Boardfly и заявленное до двукратного снижения задержки.
Можно ли уже заказать эти системы?
Нет. Цены и регионы доступности не объявлены, а сроки появления обеих систем в таблице донора указаны как 2027 год со ссылкой на Bloomberg через Quartz.
На каком железе измеряли ускорение TPU Sync?
На Ironwood (TPU v7x), а не на TPU 8i Max или TPU 8tx. Переносить эти цифры на новые системы нельзя.
Что такое динамический слайсинг в GKE?
Функция, которая сокращает время запуска задачи до 5 раз и ускоряет восстановление после сбоев до 4,5 раза. Вместе с Cloud Pathways она перешла в статус GA.
Нужно ли переписывать модели под TPU?
С TorchTPU — нет: он нативно запускает модели PyTorch и Hugging Face, а у vLLM и SGLang есть бэкенды для TPU. Библиотека открыта в прошлом месяце.
Подходит ли TPU 8i Max для обычного инференса небольших моделей?
Google позиционирует его для длинного контекста — целых кодовых баз и многочасового видео. Для коротких задач удвоение кремния в том же форм-факторе даст меньше выгоды, чем для агентских сценариев.
Источник: marktechpost.com