NVIDIA научила малую модель Nemotron распределять дефицитные детали как опытные плановики
NVIDIA дообучила Nemotron 3.5 Lightning на архиве решений своих плановиков цепочки поставок. На внутреннем тесте модель выбрала верное решение о распределении в 86,7% случаев, а более крупная Nemotron 3 Ultra — в 55,5%.
NVIDIA научила компактную открытую модель Nemotron 3.5 Lightning распределять дефицитные компоненты между заводами-сборщиками. Училась модель на решениях собственных плановиков компании. На внутреннем тесте она выбрала верное решение в 86,7% случаев. У крупной Nemotron 3 Ultra вышло 55,5%, у исходной Lightning до дообучения — 17,5%.
Задача непростая. В одном вычислительном модуле стойки Grace Blackwell NVL72 два процессора, четыре видеокарты и 32 блока памяти, а таких модулей в стойке 18. Сборщик не начнёт работу, пока не приедут все детали, и то, что пришло раньше, лежит без дела. Каждую неделю NVIDIA решает, сколько дефицитных деталей отправить на каждую площадку, чтобы эти простои были минимальными.
Количественную часть задачи решает открытая библиотека оптимизации NVIDIA cuOpt. Она работает на видеокартах и показывает, что именно тормозит выпуск на этой неделе: например, мощности на Тайване, а не поставки памяти. Данные для неё собраны в платформе Palantir Foundry. Но NVIDIA и Palantir проверили прошлые решения задним числом, и люди стабильно оказывались точнее математики. Они учитывали то, чего не видит алгоритм: переписку с партнёрами, прогноз непогоды, геополитику, итоги созвонов с поставщиками.
Поэтому система стала записывать каждое решение плановика вместе с объяснением, ожидаемым и фактическим результатом. Из этих данных убрали персональную информацию, дополнили их синтетическими примерами редких ситуаций и дообучили модель на 30 млрд параметров методом LoRA. На двух ускорителях B200 обучение заняло минуты. Теперь модель выдаёт рекомендацию с обоснованием и рисками, а окончательное решение принимает человек.
Сами авторы признают, что модель в целом не умнее крупной Ultra: выигрыш сосредоточен в одной узкой задаче. Прогнозировать будущие производственные риски ей по-прежнему трудно. По метрикам, которые не дают выиграть за счёт частых решений вроде «урезать поставку», отрыв скромнее: 58,6% против 42,0%. Позже принятые и отклонённые рекомендации пойдут на обучение с подкреплением, но в рабочей среде модель сама себя не переобучает.