NVIDIA: стойка Vera Rubin NVL72 выполняет для агентов до 30 раз больше работы на мегаватт

Новые серверные стойки NVIDIA Vera Rubin NVL72 на агентных задачах выдают до 30 раз больше токенов на мегаватт, чем нынешние GB300 NVL72. Цифры получены на тесте SemiAnalysis AgentX. Этот тест не гоняет отдельные запросы, а воспроизводит записанные сессии реальных агентов-программистов: с растущим контекстом, вызовами инструментов и запуском вспомогательных агентов.

NVIDIA объясняет, почему для неё важен именно такой замер. По данным OpenRouter, агентные задачи расходуют в 15 раз больше токенов, чем обычный запрос в чате. Агент делает много шагов, и всё накопленное становится входом для следующего шага. В чате вход и выход обычно укладываются в 1–8 тысяч токенов, а в агентной сессии контекст дорастает до сотен тысяч.

Лучший результат получен на модели DeepSeek V4 Pro. На ней же GB300 NVL72 обходит предыдущее поколение Hopper до 15 раз. По подсчётам NVIDIA, миллион токенов на Vera Rubin стоит до 45 раз дешевле, чем на GB300. Компания подчёркивает, что результаты ранние: в них ещё не учтена работа процессора Vera, который будет обрабатывать вызовы инструментов. Кроме того, программное обеспечение для обеих платформ продолжат оптимизировать.

Выигрыш NVIDIA объясняет тем, что железо и программы проектировали вместе. Обработку контекста и генерацию ответа можно разнести по разным GPU. Части моделей со смесью экспертов распределяются по 72 ускорителям стойки, а кэш уже обработанного контекста не приходится пересчитывать. Веса сжимаются до 4 бит. Отдельная технология DSX MaxLPS управляет питанием так, что в том же энергобюджете помещается до 40% больше GPU.

Логика у NVIDIA простая: дата-центры упираются в доступное электричество. Поэтому выручку определяет число токенов на мегаватт, а прибыль — цена миллиона токенов. Vera Rubin, по словам компании, уже в массовом производстве. Стоит помнить, что все сравнения NVIDIA делает между собственными поколениями и с максимальными значениями «до».