Модель · Inception
Mercury Edit 2
Недорогая узкая модель Inception для редактора кода: дописывает строки и предсказывает следующую правку
вышла 30 марта
Характеристики
- Вышла
- 30 марта
- КонтекстСколько текста модель учитывает за один запрос: вопрос, приложенные документы и её собственный ответ вместе. Токен — кусок слова; слово обычно занимает один–три токена
- 32 тыс. токенов
- Длина ответаСколько токенов модель может выдать за один ответ, вместе со скрытыми рассуждениями, если они есть
- до 8,2 тыс. токенов
- Цена входаСколько стоит миллион токенов, отправленных модели: вопрос, документы, вся история переписки
- $0,25 за миллион токенов
- Вход из кэшаЦена входа для повторяющегося начала запроса, которое лаборатория уже сохранила у себя. В длинной переписке и у агентов это большая часть входа — и в разы дешевле
- $0,025 за миллион токенов
- Цена ответаСколько стоит миллион токенов, написанных моделью, — включая скрытые рассуждения
- $0,75 за миллион токенов
- Понимает
- текст
- Отвечает
- текст
- РассужденияПеред ответом модель рассуждает про себя: медленнее и дороже, зато точнее на трудных задачах
- нет
- Вызов инструментовМодель сама просит программу выполнить действие — поиск, запуск кода, запрос к сервису — и продолжает с результатом. На этом держатся агенты
- нет
- ВесаОткрытые — файлы модели можно скачать и запустить на своих серверах. Закрытые — доступ только через сервис лаборатории
- закрытые
- Идентификатор в API
- mercury-edit-2
Что это за модель
Mercury Edit 2 — специализированная модель Inception для подсказок в редакторе кода. Как и другие модели линейки Mercury, она диффузионная: не выписывает ответ по одному токену слева направо, а получает сразу несколько токенов параллельно. Поэтому подсказка приходит быстро. Для такой задачи это важно: подсказка нужна раньше, чем программист сам напишет следующую строку.
Главная задача модели — предсказать следующую правку (next edit). Обычное автодополнение продолжает текст с места, где стоит курсор. Mercury Edit 2 смотрит на последние правки и на код вокруг и предлагает следующее логичное изменение в любом месте файла: например, переименовать переменную ещё в нескольких местах или довести до конца начатый рефакторинг. Программист принимает подсказку клавишей Tab. Дописывать код в середину файла (fill-in-the-middle) модель тоже умеет.
Новая версия заменила прежнюю модель Inception для предсказания правок. Разработчики собрали наборы примеров правок на разных языках программирования. Первая версия после такого обучения предлагала правки слишком часто и слишком длинные. Поэтому модель доучили методом KTO — это обучение с подкреплением на оценках людей: какие подсказки пользователи принимали, а какие отклоняли. По замерам компании, подсказки новой версии принимают на 48% чаще, а показывает она их на 27% избирательнее, то есть меньше отвлекает. Модель уже встроена в редактор Zed и плагин ProxyAI, её можно вызвать через API Inception.
Для общения или сложных задач по программированию модель не подходит, для этого у Inception есть Mercury 2. По документации, модели нужно передавать три вещи: недавно просмотренные фрагменты кода, текущий файл с отмеченной областью правки и историю изменений. Область правки советуют держать в 10–15 строк, максимум около 25: от её размера прямо зависит задержка. Если передать устаревшие фрагменты, модель может предложить откатить свежие изменения.
Источники: Анонс Mercury Edit 2, Документация: Next Edit
Другие модели семейства
-
Mercury 2.5
Inceptionконтекст 260 тыс.$0,04 / $0,15рассуждения
Новости о модели
- 01
- 02
- 03
- 04
- 05
- 06
Данные: models.dev (MIT).