Модель · Qwen
Qwen2.5 32B Instruct
Устаревшая открытая модель Qwen среднего размера для чатов, текстов и программирования, запускается на своём сервере
вышла 1 сентября 2024
Рейтинг Epoch AIСводная оценка общих возможностей модели: статистическая модель выводит её из результатов на многих бенчмарках с учётом их сложностиШкала условная (Claude 3.5 Sonnet = 130, GPT-5 = 150); интервал — 90-процентный диапазон оценки, и модели с перекрывающимися интервалами надёжно не различаются.Подробнее на английском ↗
160 место из 266
индекс 129, вероятный разброс 123–130 · весь рейтинг →
| Бенчмарк | РезультатОбычно — доля заданий теста, которые модель решила. У некоторых тестов свой счёт; как он устроен, сказано в пояснении к названию теста | УсилиеНасколько долго модель рассуждала перед ответом, когда её проверяли: низкое, среднее, высокое, очень высокое, максимальное. Чем выше усилие, тем обычно выше результат — и тем дольше и дороже ответ. Показан лучший результат и усилие, на котором он получен |
|---|---|---|
| Chess Puzzles100 новых шахматных задач, позиция дана текстом: нужно найти единственный лучший ход по оценке движка StockfishПодробнее на английском ↗ | 0,0% | |
| OTIS Mock AIME 2024-202545 олимпиадных задач по математике из пробных экзаменов AIME школы OTIS; ответ — целое число от 0 до 999Подробнее на английском ↗ | 7,3% | |
| GPQA diamond198 вопросов с выбором ответа по физике, химии и биологии уровня аспирантуры — такие, что ответ не найти поискомСлучайный выбор даёт 25%, а специалисты с учёной степенью в своей области набирают около 70%.Подробнее на английском ↗ | 28,1% | |
| MATH level 5Самые трудные задачи (5-й уровень) из набора MATH — задачи американских школьных олимпиад AMC 10, AMC 12 и AIMEТест близок к насыщению: у сильных моделей результаты почти одинаковые и высокие, разница в несколько пунктов мало что значит.Подробнее на английском ↗ | 56,1% |
Характеристики
- Вышла
- 1 сентября 2024
- КонтекстСколько текста модель учитывает за один запрос: вопрос, приложенные документы и её собственный ответ вместе. Токен — кусок слова; слово обычно занимает один–три токена
- 131 тыс. токенов
- Длина ответаСколько токенов модель может выдать за один ответ, вместе со скрытыми рассуждениями, если они есть
- до 8,2 тыс. токенов
- Цена входаСколько стоит миллион токенов, отправленных модели: вопрос, документы, вся история переписки
- $0,70 за миллион токенов
- Цена ответаСколько стоит миллион токенов, написанных моделью, — включая скрытые рассуждения
- $2,80 за миллион токенов
- Понимает
- текст
- Отвечает
- текст
- РассужденияПеред ответом модель рассуждает про себя: медленнее и дороже, зато точнее на трудных задачах
- нет
- Вызов инструментовМодель сама просит программу выполнить действие — поиск, запуск кода, запрос к сервису — и продолжает с результатом. На этом держатся агенты
- да
- ВесаОткрытые — файлы модели можно скачать и запустить на своих серверах. Закрытые — доступ только через сервис лаборатории
- открытые
- Знания до
- апрель 2024
- Идентификатор в API
- qwen2-5-32b-instruct
Что это за модель
Qwen2.5 32B Instruct — модель из линейки Qwen2.5, которую Alibaba выпустила осенью 2024 года. В линейке семь размеров, от 0,5 до 72 млрд параметров. Эта модель занимает место между 14B и 72B. У неё 32,5 млрд параметров и 64 слоя. Это плотная модель: при ответе работают все параметры сразу, в отличие от «смеси экспертов». Версия Instruct дообучена вести диалог и выполнять команды. Линейку обучали на наборе до 18 трлн токенов.
По сравнению с Qwen2 лаборатория выделяет рост в программировании и математике. Модель лучше следует инструкциям, пишет длинные тексты, разбирает таблицы и надёжнее выдаёт ответ в формате JSON. Она понимает больше 29 языков, среди них русский. По замерам Qwen, она обходит модели похожего или большего размера, например Phi-3.5-MoE-Instruct и Gemma2-27B-IT.
Её выбирают, когда нужна открытая модель, которую можно запустить на своём сервере через Transformers, vLLM или SGLang и дообучить под свои задачи. Размер 32B считают компромиссом: модель заметно сильнее малых версий и при этом требует меньше видеопамяти, чем 72B. Веса выложены под лицензией Apache 2.0, которая разрешает и коммерческое использование.
Сама лаборатория признаёт, что в некоторых задачах модель уступает GPT-4o и Claude 3.5 Sonnet. Чтобы работать с длинными текстами, нужно отдельно включить приём YaRN, растягивающий контекстное окно. Сейчас модель считается устаревшей: у Qwen вышли десятки более новых моделей, включая линейки Qwen3.6–Qwen3.8, а в рейтинге Epoch она стоит во второй половине списка.
Источники: Анонс линейки Qwen2.5, Карточка модели на Hugging Face
Того же уровня по индексу Epoch
-
Mistral Large 2.1
Mistral161-е место в Epochконтекст 131 тыс.$2 / $6открытые весадороже в 2,1 раза
-
Qwen2.5 72B Instruct
Qwen155-е место в Epochконтекст 131 тыс.$1,40 / $5,60открытые весадороже в 2 раза
-
GPT-4o mini
OpenAI170-е место в Epochконтекст 128 тыс.$0,15 / $0,60дешевле в 4,7 раза
Другие модели семейства
-
-
-
-
-
-
-
-
Новости о модели
- 01
- 02
- 03
Данные: models.dev (MIT) и Epoch AI (CC BY 4.0).