Nunchux научила MiniMax-H3 делать 5 секунд видео за 1,3 секунды

Nunchux¹ запустила открытую видеомодель MiniMax-H3 на восьми ускорителях AMD Instinct MI355X²: пятисекундный ролик со звуком получается за 1,33 секунды, 15-секундный — за 5,39 секунды.

Свои замеры Nunchux выложила 23 сентября. На следующий день их перепостила в соцсети X MiniMax, разработчик модели, с подписью «больше способов работать с MiniMax-H3».

Почему это важно: если видео считается быстрее, чем проигрывается, его можно генерировать на ходу, пока зритель смотрит. Nunchux добилась этого на ускорителях AMD — главного соперника NVIDIA на рынке чипов для ИИ.

В цифрах: замеры Nunchux на одном сервере с MI355X:

• На восьми ускорителях ролики длиной от 5 до 15 секунд готовы за 1,33–5,39 секунды.
• Это в 21,8–26,7 раза быстрее, чем у открытого движка SGLang³ на том же сервере.
• На четырёх ускорителях 15-секундный ролик готов за 10,52 секунды, то есть тоже быстрее, чем идёт.

Детали: в демо модель сначала делает первый отрезок ролика и, пока зритель его смотрит, считает следующий. Запрос можно поменять прямо во время просмотра: следующий отрезок пойдёт по новому описанию, и сюжет свернёт в другую сторону.

Как это работает: Nunchux дорабатывает саму модель и движок для её запуска вместе, подстраивая их под конкретное железо. MI355X компания выбрала из-за 288 ГБ быстрой памяти HBM3E и встроенной поддержки MXFP6 — формата, где каждое число занимает 6 бит. В этом формате ускоритель выдаёт до 10,1 петафлопса — примерно вдвое больше, чем в 8-битном. Собственная реализация этих вычислений у Nunchux, по её тестам, примерно в 13 раз быстрее стандартной из библиотек AMD.

Предыстория: 18 сентября Nunchux вместе с исследователями из MIT, CMU, Беркли, Стэнфорда и NVIDIA показала VC-Attention — способ считать механизм внимания в 8 битах без переобучения модели. На H3 он ускорил этот этап в 1,5–1,6 раза и вошёл в нынешний набор ускорений Nunchux.

Расклад: H3 ускоряют и другие:

• В середине сентября MiniMax сообщала, что связка SGLang и ускоренной версии VDN-H3 на восьми NVIDIA B200 делает 14,4 секунды видео за 9 секунд.
• В начале сентября Fal разогнала H3 в 35 раз по сравнению с официальным API и запустила бесконечную трансляцию, сюжет которой выбирают зрители.

Но: за точку отсчёта взят неускоренный запуск: SGLang считает модель в полной точности BF16, за 50 шагов и с полным вниманием. Какие настройки у самой Nunchux, компания не раскрывает. Качество она называет сопоставимым и в подтверждение показывает три пары роликов, сделанных по одинаковым запросам.

Что дальше: Nunchux обещает «очень скоро» открыть бесплатный доступ к MiniMax-H3 на своей платформе и уже собирает лист ожидания. Дату она не называет.