Xiaomi выпустила малую модель для агентов, дообученную на данных MiMo-V2.6
Xiaomi открыла по лицензии MIT модель Qwen3.5-9B, дообученную на данных своих моделей MiMo-V2.6. Это заготовка для тех, кто исследует обучение агентов.
21 сентября Xiaomi выложила на Hugging Face модель MiMo-V2.6-Distill-Qwen-9B. Это открытая Qwen3.5-9B от Alibaba, которую команда MiMo дообучила на данных, сгенерированных моделями MiMo-V2.6.
Почему это важно: Xiaomi выпускает её не как готовый продукт, а как отправную точку для открытых исследований. Разработчики предлагают дальше учить на ней агентов методом обучения с подкреплением1.
Детали: Модель небольшая и рассчитана на агентную работу:
- В ней 9 млрд параметров, она принимает текст и картинки, а отвечает текстом.
- Распространяется по лицензии MIT, как и более крупные модели семейства MiMo-V2.6.
- Умеет рассуждать перед ответом, но этот режим нужно явно включать в запросе.
- Для запуска разработчики советуют свежую сборку SGLang2 с поддержкой Qwen3.5.
Как это работает: Модели MiMo-V2.6 сгенерировали обучающие примеры, а Qwen3.5-9B училась на них отвечать так же, как они, — отсюда Distill в названии. В наборе 77,4 млрд токенов, но ошибку считали только на 27,2 млрд, остальное модель читала как контекст задачи.
Токены поделены между четырьмя направлениями:
- На программирование пришлось 29,9% набора.
- Агентные задачи общего назначения заняли 28,5%.
- Визуальное программирование, где модель работает с изображениями, заняло 27,4%.
- На кибербезопасность отвели 14,2%.
В цифрах: По техническому отчёту Xiaomi, после дообучения модель обходит исходную Qwen3.5-9B в агентных тестах:
- В SWE-bench Pro, где нужно исправлять ошибки в настоящих репозиториях, она набрала 44,6 балла против 32.
- В Terminal-Bench3 2.1 с задачами в командной строке результат вырос с 27 до 37,1.
- В Toolathlon-Verified, тесте на работу с внешними программами и сервисами, он вырос с 25,9 до 35,2.
Но: На SWE-bench Verified4 прирост составил чуть больше балла: 61,1 против 60. Самые крупные скачки Xiaomi показывает на своих внутренних наборах: в её тесте по кибербезопасности результат вырос с 5,7 до 31,3.
Подробнее: В тот же день Xiaomi открыла MiMo-V2.6-Flash на 309 млрд параметров и выпустила MiMo-V2.6-Pro-RL на 1 трлн.