Google Cloud в ноябре откроет всем клиентам серверы на NVIDIA Vera Rubin

Облачные серверы A5X на новом железе NVIDIA станут доступны всем клиентам Google Cloud в ноябре; первым их получил стартап создателя AlphaGo Дэвида Сильвера.

Google Cloud в ноябре откроет всем клиентам серверы A5X на стойках NVIDIA Vera Rubin NVL72. Первой их уже получила лондонская лаборатория Ineffable Intelligence Дэвида Сильвера, создателя AlphaGo¹.

Почему это важно: Vera Rubin — новое поколение ИИ-железа NVIDIA. В Google Cloud его сможет арендовать любой клиент, а не только первые партнёры. Всего Google планирует довести этот парк до 960 000 ускорителей Rubin на нескольких площадках.

Предыстория: Google и NVIDIA представили A5X 22 апреля на конференции Google Cloud Next. Тогда компании обещали кластеры до 80 000 ускорителей на одной площадке. А ещё — что ответы моделей обойдутся в пересчёте на токен до 10 раз дешевле, чем на прошлом поколении.

Детали: Ineffable делает «суперучеников» — системы, которые учатся на собственном опыте, а не на данных, собранных людьми. Это обучение с подкреплением: агент пробует, оценивает результат и обновляется, и этот цикл повторяется непрерывно. «Мы строим суперучеников, которые постоянно совершенствуются на собственном опыте. Для этого нужны и большие вычислительные мощности, и тесная связь между получением опыта и обучением на нём, чтобы каждое улучшение агента быстро меняло его следующий опыт», — сказал Сильвер.

Между строк: NVIDIA и Google сами вложились в Ineffable. В апреле лаборатория привлекла 1,1 млрд долларов при оценке 5,1 млрд, и обе компании были среди инвесторов.

Расклад: Google Cloud — не первое облако с Vera Rubin. CoreWeave² объявила о доступности этих стоек 30 сентября, и первым клиентом, запустившим на них рабочие задачи, стала Cognition³.

Но: Цену A5X компании не назвали. Неизвестно и то, когда Google рассчитывает дойти до 960 000 ускорителей.

Что дальше: Компании назвали два следующих шага:

После ноябрьского запуска A5X появятся и в Европе, но дату Google Cloud не назвала.
Google и NVIDIA изучают для Vera Rubin систему распределения питания DSX MaxLPS: в сентябре облако Lambda с ней уместило 19 серверов в мощность, рассчитанную на 16.

Заодно Google Cloud расширяет защищённые вычисления NVIDIA Confidential Computing: модели и данные клиента остаются защищёнными, даже когда работают на чужом железе. Общий доступ к защищённым вычислениям открыт на машинах G4 с видеокартами RTX PRO 6000 Blackwell. А на серверах A4X Max со стойками GB300 NVL72 Google обещает предложить такую защиту одной из первых среди облаков.