voyage-4-large
Самая крупная и точная модель векторных представлений (эмбеддингов) из семейства Voyage 4 компании Voyage AI, которая принадлежит MongoDB. Она превращает тексты, в том числе многоязычные, в векторы для смыслового поиска и генерации с дополненной выборкой. Построена на архитектуре смеси экспертов. Все модели семейства работают в общем векторном пространстве, поэтому их векторы можно сравнивать между собой.
проверено по: blog.voyageai.com ↗
См. также
- Voyage AIАмериканская компания, которая разрабатывает модели для поиска: модели векторных представлений (эмбеддинги) и реранкеры. Их используют в поисковых системах и в генерации с дополненной выборкой (RAG), в том числе для специализированных текстов — юридических, финансовых, а также для программного кода. С 2025 года принадлежит MongoDB.
- MongoDBАмериканская компания, которая разрабатывает одноимённую документоориентированную систему управления базами данных класса NoSQL: данные в ней хранятся в виде документов, похожих на JSON, а не в таблицах. Компания также предлагает облачный сервис MongoDB Atlas: в нём эта база данных работает в облаке, а обслуживает её сама компания.
- MTEBОткрытый бенчмарк для моделей текстовых эмбеддингов, то есть моделей, превращающих текст в векторы (Massive Text Embedding Benchmark). Модели проверяют на множестве наборов данных и языков в задачах поиска, классификации, кластеризации, переранжирования и оценки смысловой близости. У бенчмарка есть публичный рейтинг, по которому часто выбирают модель эмбеддингов.
- Векторное представлениеВекторное представление (эмбеддинг, embedding) — набор чисел, которым модель описывает объект: слово, текст, изображение или страницу. Числа подобраны так, что близкие по смыслу объекты оказываются рядом в этом пространстве, поэтому на эмбеддингах строят смысловой поиск, рекомендации и кластеризацию.
- Смесь экспертовАрхитектура нейросети, в которой часть слоёв разбита на много подсетей-«экспертов» (mixture of experts, MoE). Специальный маршрутизатор для каждого токена включает лишь несколько из них. Так у модели может быть очень много параметров, а вычислений на токен будет меньше, чем у «плотной» модели того же размера. Минус в том, что все эксперты всё равно приходится держать в памяти.
В новостях
Cohere выпустила Embed 5 — модели для поиска по документам компаний
Модель компании Voyage AI, принадлежащей MongoDB: превращает тексты в векторные представления для смыслового поиска.