Яндекс открыл базовую модель, на которой работают быстрые ИИ-ответы в Поиске

Яндекс выложил в открытый доступ языковую модель Alice AI Search Pretrain. Компания обучила её с нуля, а её дообученная версия пишет короткие ИИ-ответы под поисковой строкой. По словам Яндекса, это первый случай, когда в открытый доступ выложили базовую версию модели, которая генерирует такие ответы в поиске. Модель лежит на Hugging Face под лицензией Apache 2.0, так что её можно изучать и использовать в своих проектах.

Базовая версия — это модель после первого этапа обучения. Она уже много знает о мире, но ещё не настроена под конкретную задачу. В модели 35 млрд параметров, но на каждый фрагмент текста она задействует лишь около 600 млн, то есть меньше 2%. Поэтому она быстро отвечает, выдерживает большой поток запросов и обходится скромными вычислительными мощностями.

Такую экономию даёт устройство модели, в котором соединены два подхода. Схема «энкодер-декодер» делит работу пополам: одна часть модели читает документы и отбирает нужное, другая пишет ответ. Смесь экспертов включает только ту часть сети, которая лучше разбирается в теме запроса. Яндекс отмечает, что раньше такую связку применяли в основном в научных исследованиях.

Компания сравнила ответы модели на русском языке в слепом тестировании. Alice AI Search Pretrain оказалась лучше Qwen 3.5 2B и 4B, а также T5 Gemma 2 4B-4B Base. Её ответы Яндекс считает сопоставимыми с Qwen 3.5 35B-A3B, которой нужно заметно больше ресурсов.

Дообученная версия, Alice AI Search, работает в Поиске с июля. Её учили на реальных примерах того, как люди пользуются поиском. Быстрыми ответами пользуются более 49 млн человек в месяц. Яндекс называет их своим самым массовым генеративным продуктом.

Открыли, впрочем, только основу. Дообученную версию, которая отвечает в Поиске, компания не выкладывала.