NVIDIA дообучила Nemotron распределять дефицитные детали между заводами
На внутреннем тесте дообученная модель на 30 млрд параметров приняла верное решение в 86,7% случаев. Более крупная Nemotron 3 Ultra — в 55,5%.
NVIDIA дообучила свою открытую модель Nemotron 3.5 Lightning подсказывать, сколько дефицитных компонентов отправить на каждый сборочный завод подрядчиков. Об этом компания рассказала в блоге для разработчиков. Систему строили вместе с Palantir на её платформе Palantir Foundry1.
Задача упирается в то, что подрядчик начинает сборку, только когда получил все детали. Пришедшие раньше лежат и ждут опоздавших. Один вычислительный лоток стойки Grace Blackwell NVL72 требует двух процессоров Grace, четырёх GPU Blackwell и 32 модулей памяти HBM3e, а таких лотков в стойке 18. Какой компонент в дефиците, меняется от недели к неделе, поэтому распределение пересчитывают вручную каждую неделю.
Расчётную часть решает оптимизатор NVIDIA cuOpt. Он ищет распределение, при котором детали меньше всего лежат на площадках в ожидании. Заодно cuOpt показывает, что сдерживает результат: например, производственные мощности на Тайване, а не поставки памяти. Но проверка на прошлых решениях показала, что плановики стабильно распределяли детали лучше оптимизатора. Они учитывали то, чего он не видел: переписку с партнёрами, прогноз непогоды в ключевом регионе, геополитические события и записи созвонов с поставщиками.
Поэтому решения плановиков стали записывать вместе с обоснованием, ожидаемым и фактическим результатом. На этих записях и обучили модель. Сначала из данных убрали персональные сведения, затем добавили синтетические примеры сбоев и нехватки мощностей. Обучение адаптеров LoRA2 на двух видеокартах B200 заняло несколько минут. Модель выдаёт рекомендацию с обоснованием и рисками, окончательное решение принимает плановик.
На внутреннем тесте дообученная модель приняла верное решение в 86,7% случаев. У Nemotron 3 Ultra, которая более чем в десять раз крупнее, этот показатель составил 55,5%, у исходной Lightning — 17,5%. Плановики гораздо чаще урезают поставки, чем увеличивают. Поэтому авторы отдельно посчитали точность, где редкие решения весят столько же, сколько частые: 58,6% против 42% у Ultra.
Прогнозировать будущие производственные риски модель так и не научилась, признают авторы. Принятые, исправленные и отклонённые рекомендации записываются обратно в базу для следующего дообучения. Позже компания планирует дообучать модель с подкреплением на этих данных.
Nemotron 3.5 Lightning NVIDIA выпустила в августе. Это модель на 30 млрд параметров, из которых на каждый токен работают около 3 млрд.