Модель · Qwen
Qwen2.5 14B Instruct
Устаревшая открытая модель Qwen среднего размера для чатов, работы с текстом и вызова инструментов, её сменили Qwen3 и новее
вышла 1 сентября 2024
Характеристики
- Вышла
- 1 сентября 2024
- КонтекстСколько текста модель учитывает за один запрос: вопрос, приложенные документы и её собственный ответ вместе. Токен — кусок слова; слово обычно занимает один–три токена
- 131 тыс. токенов
- Длина ответаСколько токенов модель может выдать за один ответ, вместе со скрытыми рассуждениями, если они есть
- до 8,2 тыс. токенов
- Цена входаСколько стоит миллион токенов, отправленных модели: вопрос, документы, вся история переписки
- $0,35 за миллион токенов
- Цена ответаСколько стоит миллион токенов, написанных моделью, — включая скрытые рассуждения
- $1,40 за миллион токенов
- Понимает
- текст
- Отвечает
- текст
- РассужденияПеред ответом модель рассуждает про себя: медленнее и дороже, зато точнее на трудных задачах
- нет
- Вызов инструментовМодель сама просит программу выполнить действие — поиск, запуск кода, запрос к сервису — и продолжает с результатом. На этом держатся агенты
- да
- ВесаОткрытые — файлы модели можно скачать и запустить на своих серверах. Закрытые — доступ только через сервис лаборатории
- открытые
- Знания до
- апрель 2024
- Идентификатор в API
- qwen2-5-14b-instruct
Что это за модель
Qwen2.5 14B Instruct — средняя по размеру модель из линейки Qwen2.5, которую команда Qwen из Alibaba выпустила осенью 2024 года. В линейке семь размеров, от 0,5 до 72 млрд параметров. У этой модели 14,7 млрд параметров и 48 слоёв. Это обычный трансформер с группированным вниманием (grouped query attention): несколько голов запроса делят одни ключи и значения, поэтому модель расходует меньше памяти. Версия Instruct дообучена вести диалог и выполнять указания.
Всю линейку Qwen2.5 обучили на наборе данных до 18 трлн токенов. По словам лаборатории, по сравнению с Qwen2 модели больше знают, лучше пишут код и решают математические задачи. Ещё они точнее выполняют указания, пишут длинные тексты, разбирают таблицы и надёжнее отдают ответ в формате JSON. Qwen заявляет, что модель на 14 млрд обходит модели того же размера и крупнее, в том числе Phi-3.5-MoE-Instruct и Gemma2-27B-IT.
Модель берут, когда нужна открытая многоязычная модель для чата, работы с текстом и вызова внешних инструментов, которую можно запустить на своём сервере. Она поддерживает больше 29 языков, среди них китайский, английский, европейские языки, японский, корейский и арабский. Вызов инструментов работает в популярных средах запуска: vLLM, Ollama и Hugging Face Transformers.
Веса выложены под лицензией Apache 2.0, она разрешает коммерческое использование. Изначально модель читает до 32 тыс. токенов. Чтобы подавать тексты длиннее, в настройках включают метод растяжения контекста YaRN. В карточке модели предупреждают, что с ним ответы на короткие тексты могут стать хуже, поэтому включать его советуют только для длинных документов. Сегодня у Qwen есть десятки более новых моделей, включая линейки Qwen3 и позднее.
Источники: Анонс линейки Qwen2.5, Карточка модели на Hugging Face
Другие модели семейства
-
Qwen3.8 Flash
Qwenконтекст 1 млн$0,15 / $0,47рассуждения
-
-
-
-
-
-
-
Новости о модели
- 01
- 02
- 03
Данные: models.dev (MIT).