Mistral Large 2.1

Что это за модель

Mistral Large 2.1 — это обновление большой языковой модели Mistral, в документации она называется Mistral Large 24.11. Модель плотная: при каждом ответе работают все её 123 миллиарда параметров, а не часть, как в архитектуре «смесь экспертов». Mistral выпустила её в ноябре 2024 года вместе с мультимодальной Pixtral Large и тогда называла своей главной моделью для сложных рассуждений и программирования.

От предыдущей версии Mistral Large 24.07 она отличается в трёх местах. Лучше понимает длинные документы. Точнее следует системному запросу, то есть заранее заданным правилам поведения. Аккуратнее вызывает функции — внешние инструменты, которые разработчик ей подключает. Компания называет это заметным шагом вперёд по сравнению с июльской версией.

Mistral предлагала её для генерации с поиском (когда модель отвечает с опорой на найденные документы) и для агентных процессов, где модель сама выполняет шаги задачи. Среди корпоративных сценариев компания называет работу с базами знаний, разбор документов, автоматизацию задач и поддержку клиентов. По карточке модели, она владеет десятками языков, включая английский, французский, немецкий, испанский, китайский, японский и корейский, пишет код на 80 с лишним языках программирования и умеет отдавать ответ в формате JSON.

Сегодня это старая модель. В рейтинге Epoch она стоит около середины, при этом дороже трёх четвертей каталога, а более новые модели Mistral её обошли. Веса открыты, но по лицензии Mistral Research License их можно бесплатно использовать и менять только в некоммерческих целях. Для работы в продукте нужна отдельная коммерческая лицензия. Запустить её у себя тоже непросто: по карточке модели, нужно больше 300 ГБ видеопамяти.

Источники: Анонс Pixtral Large и Mistral Large 24.11, Карточка модели на Hugging Face