nemotron-3-nano-30b-a3b

Что это за модель

Nemotron 3 Nano — младшая модель линейки Nemotron 3. NVIDIA представила её в декабре 2025 года вместе с анонсом более крупных Super и Ultra. Устроена она необычно: это гибрид слоёв Mamba-2 и трансформера. Mamba-2 — архитектура, которая дёшево обрабатывает длинные тексты, а слоёв внимания, как у классических трансформеров, в модели немного. Вместо обычных блоков в ней стоит смесь экспертов (mixture of experts): из 128 подсетей на каждый токен включаются только шесть. Поэтому из примерно 31,6 млрд параметров в работе одновременно около 3,5 млрд.

Главное отличие от предыдущей Nemotron Nano 2 — именно смесь экспертов. По словам NVIDIA, из-за неё новая модель отвечает до четырёх раз быстрее при том же качестве рассуждений. С открытыми моделями того же класса компания сравнивает её так: на задачах с входом в 8 тыс. и ответом в 16 тыс. токенов она выдаёт в 3,3 раза больше текста в секунду, чем Qwen3-30B-A3B, и в 2,2 раза больше, чем GPT-OSS-20B. По точности на популярных бенчмарках, по замерам лаборатории, она им не уступает или обходит. Позже у NVIDIA вышли и более новые модели того же размера, например Nemotron 3.5 Lightning 30B A3B.

Модель берут для систем, где много агентов работают параллельно и важны скорость и цена: многошаговые вызовы инструментов, программирование, математика, генерация с поиском по документам. Рассуждения можно включать и выключать. С ними модель строит цепочку рассуждений для сложных задач, без них отвечает коротко и быстро. Есть и лимит на рассуждения: он ограничивает число токенов на размышления, чтобы стоимость ответа была предсказуемой. Архитектура рассчитана на контекст до миллиона токенов, но в стандартной настройке на Hugging Face стоит 256 тыс., чтобы модель поместилась в память видеокарты.

Веса выложены под лицензией NVIDIA Nemotron Open Model License, она разрешает коммерческое использование. Вместе с моделью NVIDIA открыла большую часть данных для обучения и дообучения. Официально поддерживаются английский, испанский, французский, немецкий, итальянский и японский, а основным языком компания называет английский. Если выключить рассуждения, на трудных задачах точность падает. В данных для обучения есть перекосы, например мужчины упоминаются чаще женщин, поэтому NVIDIA советует проверять модель на предвзятость, прежде чем использовать её в своих задачах.

Источники: Анонс Nemotron 3 Nano в блоге NVIDIA на Hugging Face, Карточка модели на Hugging Face