Яндекс рассказал, что выложенная им модель лежит в основе ответов Поиска

Alice AI Search Pretrain, которую Яндекс 10 сентября выложил на Hugging Face, — это базовая версия модели, отвечающей на запросы прямо под поисковой строкой, сообщила компания. Дообученная версия, Alice AI Search, работает в Поиске с июля.

Ответы Alice AI Search видят больше 49 млн человек в месяц, и Яндекс называет её своим самым массовым генеративным продуктом. Чтобы ответы получались короткими и понятными, модель дообучили на реальных примерах того, как люди пользуются поиском.

У модели 35 млрд параметров, но на каждый токен — фрагмент текста — она задействует лишь около 600 млн, меньше 2%. Для этого она устроена как смесь экспертов: работает только та часть сети, которая лучше разбирается в теме запроса. А по схеме энкодер-декодер одна часть модели изучает документы и отбирает из них нужное, а другая пишет ответ.

Качество ответов на русском компания проверила слепым тестированием: оценщики сравнивали ответы, не зная, какая модель их дала. По данным Яндекса, новая модель отвечает лучше компактных Qwen 3.5 2B и 4B и T5 Gemma 2 4B-4B Base. С Qwen 3.5 35B-A3B она сопоставима, хотя той нужно заметно больше вычислений.

Модель распространяется под лицензией Apache 2.0¹. По словам Яндекса, компания первой выложила в открытый доступ базовую версию модели, которая генерирует ИИ-ответы в поиске.