Meta* выпустила отчёт о Muse Glimmer — открытой модели для агентов на ПК

Meta опубликовала технический отчёт о Muse Glimmer. Эта открытая модель на 30 млрд параметров вышла в августе: с ней ИИ-агент работает прямо на Mac или на ПК с одной обычной видеокартой.

Почему это важно: даже Muse — личный ИИ-агент Meta в WhatsApp и отдельном приложении, запущенный в сентябре, — работает в облаке. Glimmer рассчитана на агентов, которым не нужны ни облако, ни интернет, а отчёт объясняет, как Meta уместила такую модель в одну видеокарту.

Повод: анонсируя отчёт в соцсети X, Meta пишет, что модель со сжатыми до 4 бит весами работает достаточно быстро, чтобы ею пользоваться. По её словам, Glimmer опережает открытые модели того же размера в работе с инструментами и многошаговом планировании. Соперников называет аннотация отчёта: Gemma4-31B от Google и Qwen3.6-27B от Alibaba.

Предыстория: Meta выпустила Muse Glimmer 10 августа под лицензией Apache 2.0¹, веса лежат на Hugging Face. Модель получена дистилляцией знаний² из большой Muse Spark.

Детали: модель принимает текст и картинки, отвечает текстом и обучена на данных более чем на ста языках. Языковая часть занимает 28 млрд параметров, ещё 2 млрд приходится на кодировщик изображений.

Как это устроено: по августовскому описанию Meta, Glimmer обучали в три этапа.

• Сначала модель учили повторять ответы Muse Spark на тех же видах данных, на которых обучали большую модель.
• Затем её обучали на длинных текстах с задачами для агентов и подробными рассуждениями.
• В конце модель дообучали на примерах и обучением с подкреплением — на задачах по программированию, рассуждениям и работе в роли агента. Её ответы сверяли с ответами Muse Spark.

В цифрах:

• В полной точности модели нужно больше 55 ГБ памяти, а после квантизации³ примерно до 4 бит — меньше 20 ГБ.
• Вместе с кодировщиком изображений, памятью для контекста и вспомогательной моделью Glimmer укладывается в 24–32 ГБ памяти видеокарты.
• Вспомогательная модель DFlash сразу предлагает кусок ответа, а основная его проверяет. На видеокарте RTX 5090 ответы так приходят в 3,1 раза быстрее.

Но: на компьютерах Apple ускорение меньше: в 1,8 раза на M5 Max и в 1,5 раза на M4 Max. Сравнение с соперниками свела сама Meta: часть тестов она прогнала у себя, часть результатов взяла у Artificial Analysis и у разработчиков соперничающих моделей.

Расклад: Glimmer — не единственная открытая модель Muse. 15 октября Meta выложила Muse Spark Open на 816 млрд параметров. По словам компании, для запуска этой модели хватает двух настольных Mac Studio.