модель · MiniMax · вышла 1 июня
MiniMax-M3
Флагманская открытая модель MiniMax для программирования и агентов, понимает картинки и видео и работает с очень длинными текстами
О модели
MiniMax-M3 — флагманская модель шанхайской лаборатории MiniMax с открытыми весами. Она построена по схеме смеси экспертов (mixture of experts): всего в ней около 428 млрд параметров, но на каждый токен работают только около 23 млрд. Главная новинка — собственный механизм внимания MSA (MiniMax Sparse Attention). Это разреженное внимание: модель смотрит не на весь текст сразу, а на отобранные части, поэтому длинный контекст обходится дешевле.
По данным лаборатории, на контексте в миллион токенов M3 тратит на каждый токен примерно в 20 раз меньше вычислений, чем прошлое поколение. Чтение запроса ускорилось в 9 раз, генерация ответа — в 15 раз. В отличие от предыдущих моделей линейки M2, которые работали только с текстом, M3 с самого начала обучения видела вперемешку текст, картинки и видео. Поэтому она понимает изображения и ролики без отдельного модуля.
Модель берут прежде всего для программирования и агентных задач, где она сама выполняет длинную цепочку действий. По замерам MiniMax, она набирает 59% в SWE-Bench Pro, 80,5% в SWE-bench Verified и 66% в Terminal-Bench 2.1. Компания заявляет, что по программированию M3 приближается к ведущим закрытым моделям. В примерах из анонса она сутки оптимизировала вычислительные ядра для видеокарт и воспроизводила научные статьи по тексту и рисункам. Режим рассуждений можно включить всегда, отдать на выбор модели или выключить ради быстрого ответа.
Веса выложены под собственной лицензией MiniMax Community License. Если продукт на основе модели приносит больше 20 млн долларов выручки в год, нужно отдельное письменное разрешение MiniMax. Для остальных достаточно один раз уведомить компанию. Запускать модель у себя непросто: при таком размере ей нужен сервер с несколькими мощными видеокартами.
источники:Анонс MiniMax M3 в блоге лаборатории ↗Карточка модели на Hugging Face ↗
Рейтинг Epoch AIСводная оценка общих возможностей модели: статистическая модель выводит её из результатов на многих бенчмарках с учётом их сложностиПодробнее на английском ↗
весь рейтинг62место из 268индекс 147вероятный разброс 143–150
- DTBenchВопросы с выбором ответа по теории принятия решений в задачах вроде парадокса Ньюкома, где твой выбор говорит о выборе похожих на тебяСлучайный выбор даёт около 40%, так что это нижняя планка, а не ноль.Подробнее на английском ↗64,9%
- LMCAНасколько оценки моделью доводов в философии, теории решений и безопасности ИИ совпадают с оценками экспертовБалл — корреляция с оценками экспертов, умноженная на 100; практический потолок около 85, а не 100.Подробнее на английском ↗39,6%
- Mystery Game Puzzles100 позиций из головоломочного варианта известной игры, название которой скрыто: нужно найти единственный лучший ходПодробнее на английском ↗0,0%
- OSWorld 2.0Долгие задачи на настоящем компьютере в десктопных и веб-приложениях; у человека уходит около 1,6 часа на задачуЗадача оценивается по многим взвешенным контрольным точкам, поэтому засчитывается и частичное выполнение.Подробнее на английском ↗4,6%
- Surface Evolver Bench16 задач: описать для физической программы Surface Evolver форму жидкости под действием поверхностного натяжения, гравитации и ограниченийЗасчитывается частичное выполнение: отдельные баллы за корректный файл, успешный прогон симуляции и совпадение объёма, площади и энергии с эталоном.Подробнее на английском ↗55,0%
- FrontierCodeМодель исправляет проблему в открытом проекте, а правку оценивают по тому, приняли бы её сопровождающие проектаБалл выставляют по критериям сопровождающих и усредняют по пяти запускам; если нарушен хотя бы один обязательный критерий, за задачу ставят ноль.Подробнее на английском ↗14,7%
- ProofBench100 закрытых задач по математике уровня старших курсов и аспирантуры: модель пишет доказательство на Lean 4, его проверяет программаПодробнее на английском ↗18,0%
- APEX-Agents480 многошаговых рабочих задач из инвестбанкинга, консалтинга и корпоративного права: агент работает с файлами, почтой, таблицамиЗадача засчитывается, только если выполнены все пункты экспертного списка критериев; проверяет их другая модель.Подробнее на английском ↗37,7%
- Chess Puzzles100 новых шахматных задач, позиция дана текстом: нужно найти единственный лучший ход по оценке движка StockfishПодробнее на английском ↗9,5%
- OTIS Mock AIME 2024-202545 олимпиадных задач по математике из пробных экзаменов AIME школы OTIS; ответ — целое число от 0 до 999Подробнее на английском ↗71,1%
- SimpleBenchВопросы с подвохом на здравый смысл: пространство, время, поведение людей. 213 вопросов, у каждого шесть вариантов ответаЛюди в проверке авторов набрали около 84%, а балл модели — средняя точность по пяти прогонам.Подробнее на английском ↗35,0%
- GPQA diamond198 вопросов с выбором ответа по физике, химии и биологии уровня аспирантуры — такие, что ответ не найти поискомСлучайный выбор даёт 25%, а специалисты с учёной степенью в своей области набирают около 70%.Подробнее на английском ↗87,9%
Новости о модели
все упоминания · 4MiniMax выпустила модель M3.1 Flash для программирования и агентов
Быстрая модель MiniMax для кода и агентов больше недели была самой популярной на площадках для разработчиков под анонимным именем Space Bunny. 23 октября компания обещает открыть её веса.
Движок vLLM для запуска моделей получил поддержку стоек NVIDIA Vera Rubin
По первым замерам, на стойках NVIDIA Vera Rubin модель MiniMax M3 обрабатывает за секунду более чем в 7,8 раза больше токенов, чем на системах прошлого поколения GB200.
MiniMax выпустила быструю модель M3.1 Flash Preview для программирования
Облегчённая модель MiniMax для повседневного программирования сначала появилась в агенте MiniMax Code, а затем вошла в подписку на модели компании: подписчики получают её без дополнительной настройки.
Данные: models.dev (MIT) и Epoch AI (CC BY 4.0).