NVIDIA объяснила, как дообучила Nemotron до уровня олимпиадного золота

Дообученные версии открытой модели NVIDIA Nemotron 3 набрали баллы на золотую медаль на Международной математической олимпиаде¹ (IMO) и Международной олимпиаде по информатике² (IOI) 2026 года.

Почему это важно: Олимпиады проверяют разное — код, который проходит скрытые тесты, и строгие доказательства словами, — а NVIDIA дошла до золота в обеих, дообучив одну и ту же модель общего назначения.

Повод: Сами результаты NVIDIA объявила в сентябре, а теперь свела оба проекта в один отчёт. По словам компании, рецепт у них общий: взять готовую Nemotron, дообучить её на отобранных задачах и добавить цикл, в котором модель предлагает, проверяет и улучшает ответы.

В цифрах:

• На IOI в Ташкенте в августе модель Nemotron-3-Ultra-CC набрала 535,4 балла из 600.
• Для золота хватало 361,12 балла, а лучший участник-человек набрал 498,27.
• На IMO в Шанхае в июле система на основе Nemotron 3 Ultra получила 30 баллов из 42 — на один больше порога золота.
• Полный балл официальные проверяющие олимпиады поставили ей за четыре задачи из шести.

Детали: Для IMO NVIDIA сделала две версии Nemotron 3 Ultra: одну учили на примерах по 15 818 задачам на доказательство, другую — с подкреплением на 9 597 задачах. Примеры учили модель не только писать доказательства, но и находить в них пробелы, отвечать на критику и решать, полное ли доказательство.

Как это работает: На каждую задачу обе версии и обычная Nemotron 3 Ultra писали доказательства, оценивали и критиковали их, а самые удачные дорабатывали. Система работала только с текстом — без программ для формальной проверки доказательств, сторонних инструментов и интернета.

Интрига: В программировании почти весь прирост от дообучения дало обучение на примерах, а не подкрепление, — и большой модели Nemotron-3-Ultra-CC на 550 млрд параметров для IOI хватило одного обучения на примерах. Вклад каждого шага видно по малой Nemotron-3-Nano-CC на задачах IOI 2025:

• До дообучения модель набирала 130 баллов, после обучения на примерах — уже 280.
• Обучение с подкреплением³ добавило немного — до 291 балла.
• Цикл GenCorrect, в котором модель пишет, проверяет и правит решения, поднял результат до 468 при пороге золота 438,3.

Но: Результат на IOI неофициальный. Модель решала задачи прямо во время олимпиады, с теми же ограничениями по времени, интернету и числу отправок, что и школьники, но организаторы IOI за прогоном не следили, а в рейтинг он не попал.

Если шире: На той же IMO системы Huawei и Xiaohongshu, как писали в июле СМИ, решили все шесть задач и при официальной проверке получили 42 балла из 42.

Обе версии для IMO, их обучающие данные и новый тест Nemotron-IMO-Bench из 200 задач олимпиадного уровня NVIDIA выложила на Hugging Face, там же лежит Nemotron-3-Ultra-CC. Код, которым решали задачи обеих олимпиад, и отправленные на IMO доказательства — в репозитории NeMo-Skills.