Qwen3.5 122B-A10B

Qwen3.5-122B-A10B — старшая модель средней серии линейки Qwen3.5. Qwen выпустила её вместе с Qwen3.5-35B-A3B, Qwen3.5-27B и облачной Qwen3.5-Flash, а над всеми ними стоит флагман Qwen3.5-397B-A17B. Модель устроена как смесь экспертов (mixture of experts): всего в ней 122 млрд параметров, но на каждый токен из 256 экспертов включаются восемь выбранных и один общий, то есть работает около 10 млрд параметров. Поэтому, по словам лаборатории, ответ обходится примерно как у модели на 10 млрд параметров, а не как у плотной модели её размера.

Главное отличие от Qwen3 — устройство внимания. В 48 слоях модели три из каждых четырёх используют Gated DeltaNet — облегчённый механизм, которому длинные тексты обходятся дешевле, а каждый четвёртый слой работает на обычном внимании. Текст, картинки и видео модель учили понимать вместе с самого начала обучения, а раньше для изображений у Qwen была отдельная линейка Qwen3-VL. По заявлению лаборатории, Qwen3.5 обходит модели Qwen3-VL в рассуждениях, программировании, агентных задачах и понимании картинок, а число языков и диалектов выросло до 201.

Модель берут для программирования, сложных рассуждений, агентов — программ, которые сами выполняют многошаговые задачи с инструментами, — и для разбора документов, картинок и видео. По замерам Qwen, она набирает 86,7 в MMLU-Pro, 86,6 в GPQA Diamond, 72,0 в SWE-bench Verified, 83,9 в MMMU и 86,2 в MathVision. В своих таблицах лаборатория сравнивает её с GPT-5 mini, GPT-OSS-120B и прошлой Qwen3-235B-A22B. Компания заявляет, что 122B-A10B и 27B сокращают разрыв между средними и передовыми моделями, особенно в сложных агентных сценариях.

Веса выложены под лицензией Apache 2.0: модель можно разворачивать без Qwen, дообучать и встраивать в свои продукты, в том числе платные. На домашнем компьютере её не запустить: в примерах из документации её делят между восемью видеокартами через vLLM или SGLang. Режим рассуждений включён по умолчанию, его можно отключить параметром запроса. Если текст не помещается в обычное окно, включают растяжение контекста YaRN — с ним модель принимает около миллиона токенов. С тех пор Qwen выпустила Qwen3.6 и более новые линейки, но в открытом доступе из Qwen3.6 появились только модели поменьше — 35B-A3B и 27B.

источники:Карточка модели на Hugging Face ↗