Mistral Small 4

Mistral Small 4 — следующая модель в линейке Small. Она построена как смесь экспертов: внутри 128 подсетей-«экспертов», и на каждый токен работают только четыре из них. Всего в модели 119 млрд параметров, а на каждом шаге задействовано около 6 млрд. Поэтому она отвечает быстрее и обходится дешевле, чем плотная модель того же размера. Веса выложены под лицензией Apache 2.0, которая разрешает и коммерческое использование.

Главное отличие от прошлых версий в том, что Mistral соединила в одной модели три свои отдельные линейки. Раньше рассуждения делала Magistral, картинки понимала Pixtral, а агентным программированием занималась Devstral. Глубину рассуждений задаёт параметр reasoning_effort. При значении «none» модель отвечает быстро, как чат-модель Small 3.2. При значении «high» она рассуждает по шагам, как Magistral. По словам компании, по сравнению с Small 3 задержка ответа ниже на 40%, а запросов в секунду обрабатывается втрое больше.

Модель рассчитана на обычный чат, программирование, агентные задачи и сложные рассуждения. По замерам Mistral, в режиме рассуждений она не уступает GPT-OSS 120B или обходит её на трёх бенчмарках, но пишет заметно короче. На тесте AA LCR, который проверяет рассуждения по длинным текстам, она набирает 0,72 при ответах примерно в 1,6 тыс. знаков. Моделям Qwen для сопоставимого результата нужно 5,8–6,1 тыс. знаков. На LiveCodeBench, тесте по программированию, она обходит GPT-OSS 120B, а текста выдаёт на 20% меньше. Короткие ответы означают меньше платных токенов и меньше ожидания.

Название Small не значит, что модель поместится на домашний компьютер. Mistral называет минимальной конфигурацией четыре серверные NVIDIA HGX H100, две HGX H200 или одну DGX B200. Поэтому запускать её у себя имеет смысл компаниям с собственными серверами. Остальным проще подключаться через API.

источники:Анонс Mistral Small 4 в блоге Mistral ↗