Nebius Token Factory
Управляемая платформа Nebius для инференса открытых и собственных моделей клиента: компания размещает модели и сама масштабирует их, а разработчики обращаются к ним через API, совместимый с API OpenAI. Помимо запуска моделей, на платформе можно дообучать их, в том числе методом LoRA. Это новая версия сервиса Nebius AI Studio; по назначению похожа на Amazon Bedrock и Azure OpenAI, но рассчитана на модели с открытыми весами.
проверено по: nebius.com ↗
См. также
- NebiusНидерландская компания со штаб-квартирой в Амстердаме, которая предоставляет облачную инфраструктуру для ИИ: арендуемые мощности GPU и сервисы для обучения, дообучения и запуска моделей. Появилась в 2024 году из бывшей Yandex N.V. после продажи её российских активов; акции торгуются на бирже Nasdaq.
- Together AIАмериканская компания, основанная в 2022 году. Она предоставляет облачную платформу для запуска, дообучения и обучения генеративных моделей, прежде всего открытых. Разработчики получают через неё доступ к моделям по API и к кластерам GPU; компания также занимается оптимизацией вычислений на GPU.
- Fireworks AIАмериканская компания Fireworks AI и её облачная платформа для инференса и дообучения открытых моделей (DeepSeek, Llama, Qwen и других). Разработчики получают доступ к моделям через API без собственной инфраструктуры GPU, а компании могут дообучать модели на своих данных, в том числе с подкреплением, и размещать их у того же провайдера.
- BasetenАмериканская инфраструктурная платформа для запуска моделей ИИ в продакшене: развёртывание и масштабирование инференса, выделенные развёртывания и дообучение моделей. Рассчитана на компании, которые встраивают собственные или открытые модели в свои продукты.
- Провайдер инференсаКомпания, которая запускает модели ИИ на своих серверах и даёт доступ к ним по API: клиент отправляет запрос и получает ответ, не разворачивая модель сам (inference provider). На Hugging Face так называют партнёров, через которых модели с Hub можно вызывать с единым токеном и клиентскими библиотеками, выбирая исполнителя запроса.
В новостях
Nebius купила стартап Inferize, который ускоряет запуск ИИ-моделей
Сервис облачной компании Nebius, через который клиенты обращаются к открытым моделям по API, а запуск и масштабирование моделей берёт на себя Nebius.