Google показала ускорители TPU для защиты данных и обработки больших объёмов информации за раз

Google представила две новые системы на собственных ИИ-чипах TPU восьмого поколения. TPU 8tx защищает данные даже в тот момент, когда модель их обрабатывает. TPU 8i Max рассчитана на агентов, которым нужно разом охватить целую кодовую базу или многочасовое видео.

Почему это важно: Google впервые показывает четыре системы TPU за один год. Новые она всё чаще собирает по запросам сторонних клиентов, а не только для своих моделей Gemini: компании из строго регулируемых отраслей просят особое шифрование, другие — ускорители, способные разом охватить огромный объём информации. У TPU уже почти 100 клиентов, от передовых ИИ-лабораторий и трейдинговых компаний до розничных сетей и университетов.

Предыстория: в апреле на конференции Google Cloud Next компания показала две специализированные версии этого поколения. TPU 8t нужна для обучения больших моделей и, по данным Google, обучает их до 2,7 раза быстрее прошлого поколения. TPU 8i отвечает за работу готовых моделей в реальном времени, и при их запуске соотношение производительности и цены у неё, по тем же данным, на 80% лучше.

Детали: TPU 8tx сделана для компаний из регулируемых отраслей и государственных органов, которые запускают модели и агентов рядом со своими самыми чувствительными данными. Обычно данные шифруют на диске и при передаче по сети, но для вычислений их приходится расшифровывать в памяти. В TPU 8tx защита встроена в само железо, поэтому данные и веса модели остаются изолированными и во время работы. Система собрана на том же кристалле, что и TPU 8t, и работает в паре с серверными процессорами AMD EPYC пятого поколения.

От TPU 8i система взяла быструю сеть между чипами. По данным Google, задержка у неё до двух раз ниже, чем у TPU 8t, а защита почти не замедляет работу. На одной машине можно и запускать модель, и дообучать её на закрытых данных, сжимать большую модель в маленькую или тренировать агентов методом проб и ошибок, не перегоняя данные между отдельными кластерами.

Как это работает: TPU 8i Max решает другую задачу. Когда десятки агентов вместе разбирают кодовую базу или часы видео, вычисления упираются не в мощность чипа, а в то, как быстро к нему подвозят данные. Поэтому Google поставила два чипа TPU 8i в один корпус. Вместе они дают вдвое больше вычислительной мощности и встроенной в чипы быстрой памяти, чем одна TPU 8i, а с высокопропускной памятью¹ система обменивается данными тоже вдвое быстрее. В стойку прежнего размера помещается вдвое больше чипов, а значит, больше вычислений на единицу площади дата-центра и на ватт.

Между строк: новых чипов среди новинок нет, Google по-новому собрала уже существующие. Разработка кристалла занимает годы, а упаковку, память, сеть и защиту вокруг готового чипа можно поменять быстро. Именно такой подход, объясняет компания, позволяет выпускать специализированные суперкомпьютеры за месяцы, а не за годы.

Если шире: Google хочет, чтобы с TPU было так же просто работать, как с универсальным железом. Раньше под них брали особые фреймворки и вручную оптимизировали код. Вместе с чипами компания показала и программы:

• В прошлом месяце Google открыла код TorchTPU: программы на PyTorch² и модели с Hugging Face идут на TPU без переписывания.
• Набор открытых агентов (пока в предварительной версии) встраивается в Claude Code, Cursor и Google Antigravity³: по запросу обычными словами он переносит проект на TPU и ищет, где тот тормозит.
• Agent Compute Engine ставит сессию агента на паузу, пока тот ждёт ответа базы данных, внешней программы или человека, и чипы не простаивают за деньги клиента.
• Cloud Pathways, программная среда Google DeepMind, на которой работает Gemini, стала доступна всем клиентам Google Cloud: в ней большим парком TPU управляют как одной машиной.

Но: когда TPU 8tx и TPU 8i Max появятся у клиентов Google Cloud и сколько будут стоить, компания не сообщила.

Сами TPU Google всё чаще проектирует с помощью ИИ. Кроме системы AlphaChip⁴ из Google DeepMind, раскладку элементов чипа компания поручает Gemini, и, по её словам, это занимает часы вместо недель.