IBM свела четыре модели прогноза временных рядов в один ансамбль

IBM Research выложила на Hugging Face открытую сборку Granite Timeseries Ensemble. Она запускает сразу четыре модели Granite для прогноза временных рядов¹ и сводит их ответы в один прогноз.

Почему это важно: Готовые модели прогнозируют без обучения на данных пользователя, но одну из них всё равно надо выбрать. Модель, которая хорошо справляется с ровными показаниями промышленных датчиков, может теряться на шумном спросе в рознице. Ансамбль снимает этот выбор, а по точности основного прогноза не уступает лучшей из своих моделей.

Детали: На выходе — основной прогноз и диапазон, куда реальное значение по замыслу попадает в восьми случаях из десяти. Модели внутри устроены по-разному: тренды, сезонность и мелкие колебания каждая ловит по-своему, поэтому ошибаются они в разных местах.

• PatchTST-FM-r1 на 300 млн параметров — трансформер, который читает ряд отрезками.
• PatchTST-FM-r2 на 385 млн параметров — её преемница, вышедшая в сентябре.
• FlowState-r1.1 на 9 млн параметров — модель другого типа, рассчитанная на данные с любой частотой замеров.
• TTM-r3 на 1,4 млн параметров — сверхмалая модель семейства Tiny Time Mixers для быстрых прогнозов.

Как это работает: Сборка не склеивает модели в одну: она хранит только настройки ансамбля, а сами четыре модели скачивает при первом запуске. Их прогнозы она сводит одним из двух способов:

• Основной смешивает прогнозы всех моделей на равных, так что под новый ряд ничего подбирать не нужно.
• Альтернативный, IQR-ансамбль, пользователь выбирает сам: он больше доверяет моделям с узким разбросом прогноза, хотя, как признаёт IBM, узкий разброс не гарантирует точности.

Общая картина: Приём знаком по прогнозу погоды: американское метеоагентство NOAA для сезонных прогнозов сводит в один ансамбль модели разных центров. Давно замечено и другое: простое среднее с равными весами часто даёт прогноз не хуже, чем смесь с весами, подобранными по прошлым данным. IBM переносит эту идею с одиночных значений на прогнозы с диапазоном.

В цифрах: IBM проверила оба способа на 97 задачах рейтинга GIFT-Eval², без дообучения моделей. Ошибка там считается в долях от простейшего прогноза «как в прошлом сезоне», меньше — лучше.

• Ошибка основного прогноза у главного ансамбля — 0,683, у лучшей одиночной модели PatchTST-FM-r2 — 0,685.
• Если оценивать прогноз целиком, со всем разбросом возможных значений, впереди всё же PatchTST-FM-r2: 0,467 против 0,470 у IQR-ансамбля и 0,471 у основного.
• По среднему месту в рейтинге ансамбль на 20 октября третий среди систем, которые IBM отобрала для сравнения: с кодом для проверки, без дообучения и со свободной лицензией.

Но: Выигрыш над лучшей одиночной моделью мизерный, и сама IBM называет главным плюсом не точность, а надёжность: хороший результат без угадывания, какая модель подойдёт к данным. Четыре модели вместо одной требуют больше времени и памяти. Если показателей несколько и их измеряют вместе — скажем, температуру и давление, — ансамбль прогнозирует каждый отдельно и не учитывает связи между ними.

Сама сборка вышла под лицензией Apache 2.0³, четыре модели по умолчанию тоже распространяются свободно. В ансамбль можно добавлять совместимые модели других разработчиков. Расширенные наборы с другими моделями IBM Research идут с ограничениями — например, только для некоммерческого использования.