Google Research в 12–20 раз ускорила разбор сложных поисковых запросов

Google Research предложила метод, который превращает широкий запрос вроде «снаряжение для кемпинга» в набор разных подзапросов: палатка, спальник, горелка, фонарик. Долгих рассуждений языковой модели в момент поиска при этом не нужно, говорится в блоге компании. Метод называется Retrieve-for-Train, статью о нём приняли на конференцию ICML 2026¹. Авторы — студент-исследователь Пэнчэн Цзян и старший инженер Джудит Юэ Ли.

«Мы показали, что обучение с подкреплением может быть очень эффективным, если применять его как разовый „преобразователь целей“, а не как движок, работающий в момент запроса», — пишут авторы.

Разбивка запроса на подзапросы нужна, чтобы выдача охватывала разные интересы пользователя, а не состояла из десяти почти одинаковых палаток. По словам авторов, обычные языковые модели справляются с этим плохо. На запрос о богемном фестивальном стиле они выдают почти синонимы вроде «богемная фестивальная мода» и «богемная фестивальная одежда». Модный эксперт вместо этого предложил бы куртки с бахромой, вязаные платья и замшевые сапоги.

Вторая проблема — скорость. Чтобы спланировать разбивку, модели генерируют сотни промежуточных токенов рассуждений. Для чат-бота это допустимо, но поисковая строка должна отвечать меньше чем за секунду.

Retrieve-for-Train переносит всю тяжёлую работу на этап обучения. Сначала открытые модели Gemma3-4B и Qwen3-4B методом обучения с подкреплением² учатся выдавать по 10 подзапросов. Оценку получает весь набор целиком, а не каждый подзапрос отдельно. Затем обученная модель сама, без разметки людьми, создаёт примеры пар «запрос — набор результатов». На этих примерах учится компактная диффузионная модель³ на 53,9 млн параметров. Она за один проход переводит запрос сразу в набор целевых результатов, минуя текстовые рассуждения.

Награда складывается из трёх частей: подзапрос должен соответствовать реальному объекту в базе, набор должен быть разнообразным, а смысл не должен уходить от исходного запроса. Разнообразие измеряется метрикой Vendi Score. Без неё модель начинала обманывать систему наград: генерировала бессмыслицу вроде «line ending line ending», которая математически попадала в нужные точки базы. Если к награде добавляли только требование держаться исходного запроса, модель просто пересказывала его разными словами.

Метод проверили на двух наборах данных. Первый — наряды, которые собирали пользователи: по текстовому запросу подбирались изображения. Второй — закрытый набор музыкальных плейлистов, составленных экспертами. В обоих случаях Retrieve-for-Train обошёл обычный поиск по одному запросу, разбивку запроса моделью без дообучения и метод Best-of-N⁴.

Диффузионная модель оказалась в 12–20 раз быстрее подходов, которые генерируют текст токен за токеном. На больших пакетах запросов задержка у них растёт почти до 50 секунд, а у Retrieve-for-Train держится в пределах от долей секунды до нескольких секунд. Применяет ли Google метод в своём Поиске, авторы не сообщают.