Embed 5 Fast

Embed 5 Fast — модель эмбеддингов. Она не пишет текст, а превращает документ или запрос в вектор — набор чисел, по которому программа находит близкие по смыслу фрагменты. На таких векторах строят смысловой поиск и генерацию с поиском, когда чат-бот перед ответом находит нужные документы. В линейке Embed 5 две модели: Pro рассчитана на наивысшее качество поиска, Fast — её облегчённая и более быстрая версия.

По замерам Cohere, Fast обрабатывает в среднем 377 документов в секунду против 160 у Pro — в 2,4 раза больше. В качестве она уступает немного: на тесте ViDoRe V3, который проверяет поиск по корпоративным документам, Fast набрала 84,5 балла, Pro — 85,8. По данным компании, это выше, чем у Voyage 4 Large (83,7) и Gemini Embedding 2 (83,2). Обе модели работают в общем векторном пространстве: базу можно проиндексировать с помощью Pro, а запросы пользователей обрабатывать Fast, ничего не пересчитывая. Cohere советует именно такую схему; потеря качества при этом, по её замерам, меньше 3%.

Fast берут там, где важна скорость: для поиска, в котором человек ждёт ответа сразу, для агентов, которые обращаются к поиску много раз за одну задачу, и для большого потока запросов. Модель понимает больше ста языков и может превратить в один вектор страницу PDF, где текст смешан с картинками. Компания заявляет, что по сравнению с Embed 4 новая линейка заметно лучше ищет по документам с графикой, финансовой отчётности, распознанным PDF, коду и текстам на разных языках. Длину вектора можно выбрать от 256 до 2048 чисел: короткие векторы занимают меньше места в базе.

Веса модели закрыты. Она доступна через API Cohere, в Microsoft Foundry и Amazon SageMaker, а также в Model Vault — выделенном развёртывании для одного клиента. Там, где точность важнее скорости, например при разовой индексации архива, Cohere рекомендует Pro.

источники:Анонс Embed 5 в блоге Cohere ↗Запись о выходе Embed 5 в журнале изменений Cohere ↗Документация: модели Embed ↗