ИИтак
Поиск

← Назад

модель · NVIDIA · вышла 4 июня

Nemotron 3 Ultra 550B A55B

Флагманская открытая модель NVIDIA для агентов, сложных рассуждений и анализа очень длинных документов

О модели

Nemotron 3 Ultra — самая крупная модель в линейке Nemotron 3 от NVIDIA. Всего в ней 550 млрд параметров, но на каждый токен работает около 55 млрд. Так устроена смесь экспертов (mixture of experts): модель состоит из множества узких блоков и для каждого фрагмента текста включает лишь часть из них. Архитектура гибридная. Большинство слоёв построено на Mamba-2, которая обрабатывает длинный текст дешевле классического механизма внимания, а слоёв внимания оставлено немного. Модель обучали сразу в сжатом 4-битном формате NVFP4. Встроенные блоки предсказания нескольких токенов позволяют ей использовать спекулятивное декодирование, то есть угадывать сразу несколько следующих слов и этим ускорять ответ.

По сравнению с Nemotron 3 Super это следующая ступень по размеру и точности. После основного обучения модель дообучали на примерах, с подкреплением и методом дистилляции сразу от нескольких моделей-учителей. NVIDIA делает упор на скорость. По замерам компании, в одинаковых условиях Ultra выдаёт текст в 5,9 раза быстрее GLM-5.1, в 4,8 раза быстрее Kimi-K2.6 и в 1,6 раза быстрее Qwen-3.5-397B. По точности, как заявляет NVIDIA, она держится наравне с этими открытыми моделями и обходит их на текстах длиной в миллион токенов.

Модель предназначена для многошаговых агентов, анализа длинных документов, генерации с поиском по базе знаний, программирования и математики. В карточке приведены результаты: 70,7% на SWE-Bench Verified, 86,8% на MMLU-Pro, 89,0% на LiveCodeBench v6 и 94,7% на RULER при контексте в миллион токенов. Рассуждения можно настроить: включить полностью, выключить ради быстрых прямых ответов, выбрать средний режим или задать жёсткий лимит токенов на размышления. Официально поддержаны десять языков, среди них английский, французский, немецкий, японский и китайский. Русского в этом списке нет.

Веса распространяются по лицензии OpenMDW 1.1, она разрешает коммерческое использование. Запустить модель у себя сложно. Для полной версии нужен сервер с восемью ускорителями B200 или несколько узлов с H100, а суммарно около 1,5 ТБ видеопамяти. Основное обучение модели шло на данных до сентября 2025 года, поэтому о более поздних событиях она может не знать.

источники:Страница модели в разделе исследований NVIDIA ↗Карточка модели на Hugging Face ↗

Новости о модели

все упоминания · 36

  1. NVIDIA выпустила открытую модель для расшифровки речи на 40 языках

    Открытая модель NVIDIA Nemotron 3.5 Transcribe расшифровывает часовые записи, различает до восьми говорящих, переводит речь и отвечает на вопросы о записи.

  2. NVIDIA выпустила модели, которые ищут ИИ-агентам данные в таблицах и сканах

    Модели NVIDIA Nemotron 3.5 ищут ответы и в тексте, и на картинках страниц, а ещё одна модель набора, Nemotron 3.5 Parse, переводит сканы и PDF в размеченный текст.

  3. NVIDIA выпустила открытую модель для поиска по документам с графиками

    Модель Nemotron на 8 млрд параметров заново ранжирует найденные документы, в том числе страницы с графиками, и, по замерам NVIDIA, обходит аналог Alibaba.

  4. NVIDIA выложила малую модель, которая ускоряет ответы Nemotron 3.5 Bolt

    Помощник на 1,1 млрд параметров угадывает сразу семь следующих слов или их частей, а Nemotron 3.5 Bolt только проверяет догадки и поэтому отвечает быстрее.

  5. NVIDIA выложила сжатую модель Nemotron 3.5 Bolt для ИИ-агентов на ноутбуке

    Модель NVIDIA на 74 млрд параметров сжата до 24 ГБ для ИИ-агентов на ноутбуке и, по замерам компании, обходит открытую модель Alibaba Qwen3.6-35B-A3B в 10 тестах из 13.

  6. NVIDIA выпустила открытую модель Nemotron 3.5 Super VL для ИИ-агентов

    Открытая Nemotron 3.5 Super VL читает документы, графики и видео, сама запускает поиск, код и другие программы, а компании могут дообучить её на своих данных.

Данные: models.dev (MIT).