Embed 5 Pro

Embed 5 Pro — модель эмбеддингов. Она не пишет текст, а превращает документ или запрос в набор чисел — вектор, по которому поисковая система находит близкие по смыслу материалы. Это старшая из двух моделей линейки Embed 5, которую Cohere делает для поиска по документам компаний. Модель принимает текст, картинки и страницы, где текст и изображение идут вместе, например скан PDF с таблицами и графиками, и сводит их в один вектор. Она работает более чем со 100 языками.

По замерам Cohere, на ViDoRe V3, тесте поиска по документам со сложной вёрсткой, Embed 5 Pro набрала 85,8 балла против 77,0 у Embed 4. У Voyage 4 Large в том же сравнении 83,7, у Gemini Embedding 2 — 83,2, у OpenAI text-embedding-3-large — 75,5. Компания заявляет о приросте на финансовой отчётности, распознанных PDF, коде и многоязычном поиске; на русском языке, по её данным, прибавка составила 9 пунктов. Соседняя Embed 5 Fast обрабатывает документы в 2,4 раза быстрее (377 против 160 в секунду) и немного уступает в качестве: 84,5 балла на ViDoRe V3.

Pro берут там, где точность важнее скорости: для заблаговременной индексации архива и для поиска, в котором ошибка дорого стоит. Pro и Fast выдают векторы в одном пространстве, поэтому Cohere советует индексировать документы моделью Pro, а запросы пользователей обрабатывать моделью Fast. По замерам компании, такая связка теряет 1,6% качества. Векторы устроены по принципу матрёшки: их можно укоротить с 2048 до 256 чисел и хранить в сжатом виде, чтобы база занимала меньше места.

Сжатие до двоичного формата стоит части точности, признаёт компания. Сравнивать векторы Pro и Fast можно только при одинаковой длине. Картинки принимаются размером до 5 МБ, слишком большие модель уменьшает перед обработкой. Embed 5 Pro доступна через API Cohere, в Microsoft Foundry и Amazon SageMaker, а также в выделенной установке Model Vault для одного клиента.

источники:Анонс Embed 5 в блоге Cohere ↗Запись об Embed 5 в журнале изменений Cohere ↗Документация по моделям Embed ↗