Компания
Главный производитель ускорителей для обучения и работы моделей. Выпускает и собственные открытые модели Nemotron.
blogs.nvidia.com ↗developer.nvidia.com ↗Hugging Face ↗
12 новостей за 60 дней
Модели со смесью экспертов быстрее выдают текст, но памяти требуют столько же, сколько плотные модели того же размера. Lightning в 4–5 раз быстрее Qwen3.8-27B и в 14 раз дешевле, но в общих тестах набирает меньше половины её баллов.
С новыми оптимизациями в библиотеке Transformer Engine обучение DeepSeek-V3 на GB300 ускорилось с 103 до 1 068 терафлопс на GPU. На 1 024 GPU система сохраняет 97% эффективности масштабирования.
Готовый контейнер NIM 2.0.12 с моделью Nemotron 3 Ultra на сервере с четырьмя B200 выдаёт до 2,5 раза больше токенов в секунду, чем открытый сервер без этих настроек. Каждый пользователь при этом получает 50 токенов в секунду.
NVIDIA дообучила Nemotron 3.5 Lightning на архиве решений своих плановиков цепочки поставок. На внутреннем тесте модель выбрала верное решение о распределении в 86,7% случаев, а более крупная Nemotron 3 Ultra — в 55,5%.
Агент-защитник на открытых моделях Nemotron писал правила обнаружения атак реже, чем закрытая передовая система, но чаще попадал. Три его правила прошли все проверки и поймали все восемь новых атак, у конкурента таких не нашлось.
NVIDIA и Anthropic подключили инструменты BioNeMo к Claude Science. Теперь агент сам разворачивает модели сворачивания белков OpenFold3 и Boltz-2 и сравнивает их прогнозы. В примере NVIDIA точность прогноза контакта двух белков держится на выравнивании последовательностей.
Alibaba выложила веса Qwen3.8-Flash-Next: 125 млрд параметров, из них на каждый токен работают 6 млрд, контекст — до 1 млн токенов. На стойке GB300 NVL72 модель выдаёт больше 200 токенов в секунду на пользователя.
NVIDIA выпустила 4-битную версию Nemotron 3.5 Lightning: вместо 66 ГБ она весит 22 ГБ и работает до четырёх раз быстрее. Точность компания удержала за счёт дистилляции от полной модели. Рецепт открыт.
Qwen3.8-2.4T-A95B — крупнейшая модель Alibaba с открытыми весами: 2,4 трлн параметров и контекст до миллиона токенов. На стойке GB300 NVL72 она уже в день выхода выдаёт больше 350 токенов в секунду на пользователя.
Nemotron 3.5 Lightning — открытая модель на 30 млрд параметров, из которых на каждый токен работают 3 млрд. Она берёт на себя рутинные шаги ИИ-агентов, а планирование оставляет крупным моделям.
NVIDIA рассказала, как запускать Muse Glimmer на своём железе. Модель помещается в память одной видеокарты, а на Blackwell Ultra выдаёт больше 20 тысяч токенов в секунду.
В агенте ACE-RTL модель NVIDIA Nemotron 3 Ultra решила в среднем 97,1% задач бенчмарка CVDP по проектированию микросхем. Это больше, чем у GLM 5.2 и Kimi K2.6, а токенов на один шаг модель тратит заметно меньше обеих.