Muse Glimmer

Что это за модель

Muse Glimmer — открытая модель Meta Superintelligence Labs на 30 млрд параметров. Её делали для агентов, которые постоянно работают прямо на компьютере пользователя, без облака. Это плотная модель: при каждом ответе работают все её параметры, а не часть, как в схеме «смесь экспертов». Картинки она понимает через отдельный кодировщик изображений. С ним модель читает скриншоты, графики и документы вперемешку с текстом.

Модель получена дистилляцией из Muse Spark. Так называют обучение, при котором малая модель учится повторять ответы большой. Обучение шло в три этапа. Сначала модель учили на выводе учителя, потом на длинных текстах с большой долей агентных задач. На последнем этапе её дообучали на примерах и с подкреплением. От соседних Muse Spark она отличается прежде всего размером и открытыми весами: Spark работает в облаке Meta, а Glimmer скачивается и запускается на своём железе. Лицензия Apache 2.0 разрешает и коммерческое использование. Meta называет её самой свободной лицензией, под которой компания выпускала открытые модели.

Её берут для локальных агентов: разбирать почту и расписание, наводить порядок в файлах, писать код, выполнять многошаговые задачи с инструментами. По словам Meta, модель точно вызывает инструменты в длинной цепочке шагов и не сбивается посередине. Если вызов не удался, она сама разбирает ошибку и пробует снова. Ещё один сценарий — модель-судья, которая оценивает ответы других моделей. Компания сравнивает её с Gemma 4 31B и Qwen3.6-27B и заявляет сильные результаты для своего размера на τ-Bench, MCP-Atlas, SWE-Bench и DeepSearch QA.

В полной точности модели нужно около 55 ГБ памяти. Чтобы уместить её в видеокарту с 24–32 ГБ, веса сжимают примерно до 4 бит (квантизация). Так языковая часть занимает меньше 20 ГБ, и остаётся место для кэша, кодировщика изображений и маленькой вспомогательной модели для спекулятивного декодирования: она предлагает несколько токенов наперёд, а основная модель проверяет их разом. Meta заявляет, что на агентных задачах сжатие почти не снижает качество. Но компания советует проверить сжатую версию на своих задачах, прежде чем пускать её в работу.

Источники: Анонс Muse Glimmer в блоге Meta, Как запускать Muse Glimmer: блог для разработчиков