ИИтак

← Назад

Hugging Face пустила запросы к языковым моделям через OpenRouter

Сервис Hugging Face для вызова языковых моделей перешёл на маршрутизатор OpenRouter: при сбое одного провайдера запрос сам уходит к другому.

Доля открытых моделей в OpenRouter Изображение: Hugging Face

Hugging Face перевела Inference Providers — свой сервис для вызова моделей по API — на маршрутизатор OpenRouter1. Теперь OpenRouter сам решает, какой компании отправить запрос к языковой модели. Глава Hugging Face Клеман Деланг назвал это первой частью партнёрства двух компаний.

раньше Inference Providers отправлял запрос одному провайдеру инференса2, а при сбое просто возвращал его ошибку. Теперь в том же вызове запрос повторяют у другой компании. Если провайдер начинает тормозить, запросы переводят к другим, пока он не придёт в норму.

что остаётся прежним и что меняется:

  • Ключ доступа к Hugging Face и уже написанные программы работают как раньше.
  • Платят по цене провайдера, своей наценки Hugging Face не добавляет.
  • Через OpenRouter идут 160 моделей от 38 лабораторий: все, что продаёт OpenRouter и у чего есть страница на Hugging Face, например DeepSeek V4.1 Flash, Kimi K3.1 Pro и GLM 5.3.
  • Картинки, видео и звук по-прежнему создаются напрямую через Hugging Face, без OpenRouter.

собственный ключ API от конкретного провайдера для языковых моделей больше не подключить — он остался только для картинок и видео. Кроме того, с октября маршрутизатор OpenRouter смотрит не только на цену, но и на задержку и риск повторной попытки. В недельном опыте OpenRouter на 24 млн запросов ответ в типичном случае начинал приходить на 17% быстрее. Зато тысяча запросов обходилась на 6% дороже, поэтому тем, кому важнее цена, оставили отдельный режим «самый дешёвый».

«Слишком многие относятся к ИИ как к гонке с нулевой суммой. Открытый код побеждает, делая наоборот: сотрудничество вместо конкуренции», — написал Деланг в соцсети X. Роли он разделил так: Hugging Face отвечает за хранение и совместную работу, OpenRouter — за запуск моделей. Кроме маршрутизации, уже работают трассировки — записи каждого запроса, пока в тестовом режиме. OpenRouter складывает их файлами в хранилище пользователя на Hugging Face: что получила модель, что ответила, сколько ушло токенов3 и денег. По словам Деланга, такие записи работы агентов можно разбирать, учить на них модели получше или выложить для всех. Третья обещанная им часть — доступ прямо из OpenRouter к весам открытых моделей — в анонсах компаний пока не расписана. Веса — это файлы с обученными параметрами модели, которые нужны, чтобы запустить её самостоятельно.

открытые модели уже дают OpenRouter большую часть работы. По её данным, которые приводит Hugging Face, их доля в объёме текста, проходящего через сервис, выросла с 26,8% в октябре 2025 года до 71,7% к концу сентября 2026-го.

следующими шагами Hugging Face называет привязку учётной записи OpenRouter к Hugging Face и перевод на маршрутизатор OpenRouter других задач, кроме чата. Сроков компания не назвала.

У обеих компаний в этом году нашлись покупатели. 19 августа Stripe договорилась купить OpenRouter, а 3 сентября NVIDIA объявила о покупке Hugging Face за 12,93 млрд долларов. Сделку с NVIDIA рассчитывают закрыть в первой половине 2027 года, если её одобрят регуляторы.

← Все новости