Xiaomi открыла код, которым за 2,6 млн долларов дообучила MiMo-V2.6-Pro

Xiaomi открыла код сред обучения с подкреплением¹ — программ, в которых MiMo-V2.6-Pro решала задачи и получала оценку, — и настройки самого обучения. По данным компании, финальный прогон стоил около 2,6 млн долларов.

Почему это важно: лаборатории редко раскрывают, как и на каких задачах они дообучают модели. Xiaomi показала и цену, и инструменты, так что её подход смогут проверить и повторить другие команды.

Предыстория: MiMo-V2.6-Pro вышла 21 сентября вместе с облегчённой версией Flash. У обеих открытые веса² под лицензией MIT, обе понимают текст, картинки, видео и звук. По замерам Artificial Analysis, Pro набрала 46 баллов и возглавила рейтинг открытых моделей.

В цифрах: по данным Xiaomi, финальный прогон обучения с подкреплением выглядел так:

• Он длился 130 часов, то есть чуть больше пяти суток, и израсходовал 75 млрд токенов.
• На каждом шаге обучения модель обрабатывала от 3,5 до 3,7 млрд токенов.
• В одно обновление модели шло 1 568 примеров, а контекст доходил до 1 млн токенов.

Как это работает: Xiaomi наращивала вычисления для обучения с подкреплением сразу в трёх направлениях:

• За одно обновление модель учится на большем числе примеров, а генерация ответов и само обучение идут параллельно, не дожидаясь друг друга.
• Задач стало больше: программирование, агенты общего назначения, вёрстка сайтов и кибербезопасность смешаны в одном обучении и в разных обвязках³, чтобы рост одного навыка подтягивал остальные.
• Больше вычислений ушло на оценку: модель решает одну задачу несколько раз, и оценщик сравнивает эти решения между собой. Это даёт более точную награду в длинных задачах и приучает модель решать их короче.

Детали: Xiaomi открыла код сред обучения с подкреплением для программирования, воспроизведения уязвимостей, офисной работы, веб-разработки и даже генерации музыки — с рецептами обучения и автоматической оценкой. Полные наборы, в которых больше 7 000 задач, компания пока не выложила, но обещает.

Интрига: за финальными прогонами можно было следить в прямом эфире. Их вместе с внутренними метриками публиковала Ло Фули — одна из самых заметных инженеров DeepSeek, которая теперь работает в Xiaomi. Обычно такие метрики лаборатории держат при себе. Модель и технический отчёт вышли меньше чем через неделю после конца последнего прогона.

Если шире: Xiaomi, производитель смартфонов, не входит в шестёрку китайских «ИИ-тигров⁴», но встала в один ряд с ведущими китайскими лабораториями. Эти лаборатории тоже часто выпускают открытые модели. Среди релизов последних десяти недель, которые собрал Тома Вольф из Hugging Face, — Kimi K3 от Moonshot AI, Qwen3.8-Max от Alibaba, DeepSeek V4-Pro и GLM-5.3 от Zhipu.

Что говорят: «Если эти цифры подтвердятся, значит, дообучение с подкреплением становится куда более дешёвым путём к результатам, близким к передовым моделям, чем многие думали», — пишут авторы рассылки AINews в Latent Space.

Но: когда модель начали использовать как агента, у неё проявился серьёзный сбой: она раз за разом отправляла одинаковые или почти одинаковые вызовы инструментов. Модель выглядела занятой, но дело не двигалось, а явных ошибок не было, поэтому сбой легко пропустить, пишет Xiaomi на странице модели в Hugging Face.

В конце сентября компания выложила исправленную версию MiMo-V2.6-Pro-MOPD. Повторы убрали коротким дообучением со специализированной моделью-учителем. На том же этапе знания нескольких узких учителей сводятся в одну модель, в том числе там, где результат трудно проверить автоматически: в долгой разработке игр, научных исследованиях и ИИ для роботов.