Qwen3.6 35B-A3B

Qwen3.6 35B-A3B — первая модель линейки Qwen3.6 с открытыми весами. Её выпустила команда Qwen из Alibaba. Модель устроена как смесь экспертов (mixture of experts): внутри 256 специализированных блоков, и на каждый токен включаются девять из них — восемь выбирает маршрутизатор, один общий работает всегда. Поэтому из 35 млрд параметров в каждом шаге участвуют около 3 млрд, и модель отвечает быстрее и дешевле плотной модели того же размера. Внимание в ней тоже двух видов: на трёх слоях из четырёх стоит экономный линейный механизм Gated DeltaNet, на каждом четвёртом — обычное.

Лаборатория говорит, что в этой версии делала упор на надёжность и пользу в реальной работе, прежде всего на агентное программирование. Так называют режим, когда модель сама читает код, запускает команды и правит файлы. По замерам Qwen, на SWE-bench Verified (исправление настоящих ошибок из репозиториев на GitHub) она набирает 73,4 против 70,0 у предшественницы Qwen3.5-35B-A3B, а на Terminal-Bench 2.0 (работа в командной строке) — 51,5 против 40,5. На Terminal-Bench она обходит и плотные Qwen3.5-27B и Gemma4-31B, у которых в работе все параметры сразу, но на SWE-bench Verified Qwen3.5-27B немного впереди. Ещё одно новшество — сохранение рассуждений: модель может держать в контексте свои размышления из прошлых сообщений и не начинать их заново. По словам лаборатории, это экономит вычисления, когда работа идёт шаг за шагом.

Её берут как основу для помощников по коду и агентов, которым важны скорость и низкая цена. Модель понимает картинки и видео, поэтому может разобрать скриншот интерфейса, схему или документ. На тесте MMMU (задачи по изображениям из разных наук) лаборатория приводит 81,7 балла. Веса выложены под лицензией Apache 2.0: модель можно разворачивать без Alibaba, дообучать и встраивать в свои продукты, в том числе коммерческие. Qwen выложила и сжатую версию в формате FP8, которой нужно меньше памяти.

По умолчанию модель рассуждает перед каждым ответом, и на простых запросах на это уходит лишнее время. Режим рассуждений отключают параметром запроса, а переключать его командой прямо в тексте, как у Qwen3, нельзя. Контекст можно растянуть почти до миллиона токенов способом YaRN, но лаборатория предупреждает, что тогда модель может хуже справляться с короткими текстами. В документации запуск с полным контекстом показан на сервере с восемью видеокартами. В рейтинге Epoch она стоит в середине списка, далеко от флагманов, а в линейке Qwen уже вышли версии 3.7 и 3.8.

источники:Карточка модели на Hugging Face ↗