Яндекс научил Алису AI самой выбирать модель под сложность запроса

Алиса AI сама решает, какой модели отдать запрос: на повседневные вопросы отвечают быстрые модели, а сложные задачи уходят в режим «Эксперт», сообщил Яндекс. Разбираться в настройках пользователю больше не нужно, хотя включить «Эксперта» вручную по-прежнему можно.

Выбор делает собственная система маршрутизации запросов (роутинг) Яндекса. Она оценивает запрос, прикидывает, сколько вычислительных ресурсов понадобится на ответ, и подбирает модель, которая справится лучше.

«Эксперт» включается, когда нужно учесть много условий, изучить сразу несколько документов, провести расчёты или составить пошаговый план. По словам компании, лучше всего режим работает с вопросами о покупках, финансах, праве, медицине и путешествиях.

Яндекс приводит два примера. Первый: спланировать поездку на двоих в другой город на три дня в пределах бюджета, выбрать самые дешёвые даты и посчитать итог вместе с билетами и арендой жилья. Второй: выяснить, какие налоговые вычеты положены за лечение и курсы для ребёнка и какие документы для этого собрать.

В «Эксперте» можно следить за ходом рассуждений модели: какие шаги она делает и к какой информации обращается. Можно загрузить несколько файлов и попросить проанализировать их вместе. Сейчас режим доступен всем без ограничений, позже самое активное использование будет доступно только по подписке Алиса Плюс. Когда это произойдёт, компания не уточнила.

Кроме самих моделей, ответ готовит агентная обвязка (харнес). Это слой, который помогает модели планировать действия, сохранять контекст, искать информацию, работать с файлами и обращаться к сервисам. Подробности о роутинге и харнесе и о том, как компания проверяет их влияние на качество ответов, Яндекс опубликовал на Хабре.

Ранее, 8 сентября, Яндекс выпустил Алису AI для бизнеса: эта версия выполняет цепочки действий и подключается к Почте, Диску, Трекеру, Битрикс24 и 1С.