Google Cloud откроет всем серверы A5X на Vera Rubin

В ноябре серверы A5X в Google Cloud перейдут в общий доступ. Сейчас на них работают только первые партнёры, например лаборатория Ineffable Intelligence Дэвида Сильвера, а после запуска арендовать их сможет любой клиент облака в рамках выделенной ему квоты. Внутри A5X стоят стойки NVIDIA Vera Rubin NVL72: в каждой 72 ускорителя связаны так, что работают как одна большая машина. Такие стойки нужны для обучения крупных моделей и для их работы под большой нагрузкой.

Месяц запуска назвали сами Google и NVIDIA, точный день пока неизвестен. Главное, что стоит выяснить в день запуска: цену, в каких регионах появятся серверы и когда дойдёт очередь до Европы. Ещё один вопрос — сколько ускорителей Google на самом деле сможет выдать клиентам. Vera Rubin уже предлагает CoreWeave, так что Google Cloud здесь не первое облако.