NVIDIA в 3,5 раза ускорила работу модели для картинок FLUX 3 Image Klein
С настройками NVIDIA полная версия FLUX 3 Image Klein рисует картинку 2048×2048 на ускорителе B200 за 6,5 секунды вместо 22, но часть приёмов меняет результат.
компания · 10 новостей за 60 дней
NVIDIA
Главный производитель ускорителей для обучения и работы моделей. Выпускает и собственные открытые модели Nemotron.
Сегодня 7 ноября, суббота
15 октября четверг
Модель Meta* Muse Spark Open выдаёт пользователю до 600 токенов в секунду на стойке NVIDIA
Meta подготовила для ускорителей NVIDIA версию весов своей модели Muse Spark Open, которая занимает меньше памяти; по замерам NVIDIA, на стойке GB300 модель выдаёт пользователю до 600 токенов в секунду.
NVIDIA выпустила открытую модель Nemotron 3.5 Super VL для ИИ-агентов
Открытая Nemotron 3.5 Super VL читает документы, графики и видео, сама запускает поиск, код и другие программы, а компании могут дообучить её на своих данных.
14 октября среда
NVIDIA открыла код системы Run:ai, которая делит видеокарты между задачами
Облака и компании могут бесплатно ставить у себя и встраивать в свои сервисы Run:ai — платформу NVIDIA, которая делит видеокарты кластера между командами и задачами.
12 октября понедельник
NVIDIA и Принстон ускорили гибридные ИИ-модели на загруженных серверах
Приём ReplaySSM реже переписывает сжатую память, которую модели вроде Qwen3.5 и Nemotron 3 в большинстве слоёв хранят вместо всей истории текста: при 256 одновременных запросах генерация ускоряется в 1,2–1,47 раза.
1 октября четверг
NVIDIA почти вдвое снизила ошибки распознавания двух саудовских диалектов
Примерно за 4,5 часа обучения на двух видеокартах открытая модель NVIDIA стала почти вдвое реже ошибаться в двух саудовских диалектах, не разучившись распознавать английскую речь.
15 сентября вторник
NVIDIA объяснила, когда выбирать смесь экспертов, а когда плотную модель
На примере Nemotron 3.5 Lightning NVIDIA показала: смесь экспертов даёт скорость, но экономит только вычисления. Видеопамяти ей нужно столько же, сколько плотной модели того же размера.
14 сентября понедельник
NVIDIA в 10 раз ускорила обучение DeepSeek-V3 на библиотеке JAX
На ускорителях GB300 скорость выросла со 103 до 1 068 терафлопс на видеокарту. Модель обучали так, что эксперты не отбрасывают ни одного токена. Весь набор доработок вошёл в готовый контейнер MaxText.
10 сентября четверг
NVIDIA: NIM обслуживает до 2,5 раза больше пользователей Nemotron 3 Ultra
Замер провели на сервере с четырьмя GPU B200 при скорости 50 токенов в секунду на каждого пользователя. Оптимизированный стек выдал 1 997 токенов в секунду на всю систему.
NVIDIA дообучила Nemotron распределять дефицитные детали между заводами
На внутреннем тесте дообученная модель на 30 млрд параметров приняла верное решение в 86,7% случаев. Более крупная Nemotron 3 Ultra — в 55,5%.
* Meta Platforms Inc., которой принадлежат Facebook и Instagram, признана в России экстремистской организацией, её деятельность запрещена.