ИИтак
Поиск

← Назад

модель · Cohere · вышла 21 октября

Rerank 5 Fast

Быстрая и дешёвая модель Cohere, которая сортирует найденные документы по пользе для запроса: для массового поиска и агентов

О модели

Rerank 5 Fast — реранкер, то есть модель для повторной сортировки. Она получает запрос и список документов, которые уже нашёл обычный поиск, и выставляет каждому документу балл: насколько он отвечает на запрос. Такие модели ставят сразу после поиска, чтобы до языковой модели или до человека дошли самые подходящие результаты. Линейка Rerank 5 вышла в двух версиях: Pro сделана ради качества, Fast — ради скорости и большого потока запросов. Обе понимают больше 100 языков и умеют работать с полуструктурированными данными: JSON, таблицами, записями в формате YAML.

По замерам Cohere, Fast отвечает почти втрое быстрее Pro: на одной видеокарте NVIDIA A100 она обрабатывает около 187 документов по тысяче токенов в секунду. Компания заявляет, что по качеству Fast обходит лёгкие реранкеры конкурентов, Voyage AI Rerank 3 Lite и Qwen3-Reranker-0.6B, а также намного более крупную Qwen3-Reranker-8B и прошлую старшую модель самой Cohere, Rerank 4 Pro. Pro при этом остаётся точнее. Её советуют для сложных запросов, где нужно рассуждать, и для длинных документов из узких областей.

Cohere рассчитывает Fast на поиск с большим числом запросов и на агентов — программы, которые сами выполняют многошаговые задачи и за одну задачу ищут информацию много раз. В Rerank 5 появилась функция Context Focus. Если её включить, модель в том же вызове возвращает ещё и самые полезные отрывки внутри каждого документа. Языковой модели можно отдать только эти отрывки вместо целых текстов или подсветить их пользователю. В тесте компании агент с этой функцией тратил примерно на треть меньше токенов и отвечал точнее. Кроме того, баллы модели откалиброваны: они значат одно и то же для разных запросов и областей, поэтому достаточно задать один порог, выше которого результаты идут дальше.

В документации Cohere названы ограничения. Модель принимает только текст. Указания, которые меняют сам принцип оценки релевантности, она не поддерживает. Context Focus лучше всего работает с прицельными вопросами, а не с широкими просьбами вроде пересказа документа. Модель закрытая: её используют через API Cohere, Microsoft Foundry или Amazon SageMaker, а корпоративные клиенты могут разместить её на своих серверах или в изолированном облаке.

источники:Анонс Rerank 5 в блоге Cohere ↗Rerank 5 в журнале изменений Cohere ↗Документация Cohere по Rerank ↗

Новости о модели

все упоминания · 5

  1. Cohere выпустила Rerank 5 — модели, которые отбирают для ИИ нужные отрывки

    Модели Cohere Rerank 5 передают языковой модели только нужные куски найденных документов. В тесте Cohere агент с ними тратил на треть меньше токенов и отвечал точнее.

  2. NVIDIA выпустила модели, которые ищут ИИ-агентам данные в таблицах и сканах

    Модели NVIDIA Nemotron 3.5 ищут ответы и в тексте, и на картинках страниц, а ещё одна модель набора, Nemotron 3.5 Parse, переводит сканы и PDF в размеченный текст.

  3. NVIDIA выпустила открытую модель для поиска по документам с графиками

    Модель Nemotron на 8 млрд параметров заново ранжирует найденные документы, в том числе страницы с графиками, и, по замерам NVIDIA, обходит аналог Alibaba.

Данные: models.dev (MIT).