NVIDIA выпустила модели, которые ищут ИИ-агентам данные в таблицах и сканах

NVIDIA выпустила набор открытых моделей Nemotron 3.5, которые помогают ИИ-агентам искать ответы в документах — не только в тексте, но и в таблицах, графиках и схемах.

Почему это важно: в корпоративных документах ответ часто стоит в таблице, на графике или в скане, где текст сохранён только картинкой. Прошлое поколение, Nemotron 3 Embed, искало только по тексту, а изображения страниц у NVIDIA обрабатывала отдельная модель. Nemotron 3.5 Embed умеет и то и другое.

Предыстория: модель Nemotron 3.5 Rerank 8B, которая заново упорядочивает найденные документы, NVIDIA выложила ещё 15 октября. Теперь к ней добавились модели для поиска и для разбора документов, а с ними — подробные замеры.

Повод: в набор вошли пять моделей, веса которых разрешено использовать и в коммерческих продуктах. Embed 1B выходит в двух вариантах, поэтому моделей пять, а названий четыре:

• Nemotron 3.5 Embed 8B, построенная на Ministral 3 от Mistral, превращает текст и изображения страниц в векторы¹, по которым ищут.
• Nemotron 3.5 Embed 1B обучена повторять результаты версии 8B и выходит в двух вариантах: обычном и сжатом до формата NVFP4².
• Nemotron 3.5 Rerank 8B перечитывает каждый найденный документ вместе с запросом и ставит самые полезные наверх.
• Nemotron 3.5 Parse на 631 млн параметров переводит сканы и PDF в текст, сохраняя порядок чтения, таблицы и графики.

Детали: NVIDIA проверила модели на агенте, который сам ищет, читает найденное и уточняет запрос. Языковая модель и задачи не менялись, менялся только поиск. Когда к Embed 8B добавили Rerank 8B, агент стал тратить на один запрос примерно на 14% меньше токенов, чем с одной Embed 8B. С Embed 1B экономия составила 13%, и в обоих случаях нужные документы агент находил точнее.

В цифрах: результаты моделей в отраслевых рейтингах на 20 октября, по данным NVIDIA:

• В рейтинге ViDoRe v3.1³ Embed 8B набрала 61,17 балла из 100 за качество первой десятки результатов — первое место среди моделей, которые сводят документ к одному вектору.
• Прежняя модель NVIDIA для поиска по изображениям документов, Llama Nemotron Embed VL 1B, набирала там 52,23 балла, а компактная Embed 1B удержала 95,4% результата Embed 8B.
• Rerank 8B возглавила новый рейтинг реранкеров ViDoRe v3.1 с 60,49 балла против 59,17 у Qwen3-VL-Reranker-8B от Alibaba.
• Parse заняла первое место на ParseBench⁴ среди моделей меньше 1 млрд параметров и разбирает 10,5 страницы в секунду на одном ускорителе H100.

Как это работает: языковую часть моделей Embed при обучении не меняли, поэтому векторы обычного текста должны остаться такими же, как у Nemotron 3 Embed. Компании, которые уже построили поиск на прошлом поколении, смогут оставить уже посчитанные векторы своих текстов, а не считать их заново.

Расклад: веса лежат на Hugging Face вместе с рецептами дообучения под свои документы. Модели предлагают облачные сервисы Baseten, DeepInfra и FriendliAI, а векторная база данных Turbopuffer уже встроила Embed в свой сервис. Карточка Embed 8B перечисляет серверные ускорители NVIDIA: A100 и H100 с 80 ГБ памяти и GB200.

Но: все результаты — замеры самой NVIDIA или тесты партнёров в её пересказе: Vectorize, Perplexity и Turbopuffer тоже поставили Nemotron 3.5 выше других моделей. Экономию токенов компания показала на одном агенте с одной языковой моделью.