DeepInfra
DeepInfra — облачная платформа, предоставляющая разработчикам доступ к моделям искусственного интеллекта через программный интерфейс. Позволяет встраивать генерацию текста, изображений, обработку речи и другие функции ИИ в приложения без самостоятельного обслуживания вычислительной инфраструктуры, с оплатой по объёму использования.
проверено по: docs.deepinfra.com ↗
См. также
- Провайдер инференсаКомпания, которая запускает модели ИИ на своих серверах и даёт доступ к ним по API: клиент отправляет запрос и получает ответ, не разворачивая модель сам (inference provider). На Hugging Face так называют партнёров, через которых модели с Hub можно вызывать с единым токеном и клиентскими библиотеками, выбирая исполнителя запроса.
- Fireworks AIАмериканская компания Fireworks AI и её облачная платформа для инференса и дообучения открытых моделей (DeepSeek, Llama, Qwen и других). Разработчики получают доступ к моделям через API без собственной инфраструктуры GPU, а компании могут дообучать модели на своих данных, в том числе с подкреплением, и размещать их у того же провайдера.
- Together AIАмериканская компания, основанная в 2022 году. Она предоставляет облачную платформу для запуска, дообучения и обучения генеративных моделей, прежде всего открытых. Разработчики получают через неё доступ к моделям по API и к кластерам GPU; компания также занимается оптимизацией вычислений на GPU.
- BasetenАмериканская инфраструктурная платформа для запуска моделей ИИ в продакшене: развёртывание и масштабирование инференса, выделенные развёртывания и дообучение моделей. Рассчитана на компании, которые встраивают собственные или открытые модели в свои продукты.
- Nebius Token FactoryУправляемая платформа Nebius для инференса открытых и собственных моделей клиента: компания размещает модели и сама масштабирует их, а разработчики обращаются к ним через API, совместимый с API OpenAI. Помимо запуска моделей, на платформе можно дообучать их, в том числе методом LoRA. Это новая версия сервиса Nebius AI Studio; по назначению похожа на Amazon Bedrock и Azure OpenAI, но рассчитана на модели с открытыми весами.
В новостях
NVIDIA заявила, что её процессор Vera быстрее чипов Intel и AMD в работе ИИ-агентов
Американский облачный сервис: даёт доступ к открытым моделям через API и берёт плату за объём работы.