ИИтак

← Назад

словарь

Eigen AI

Американский стартап, основанный выпускниками лаборатории HAN Lab Массачусетского технологического института. Компания ускоряет работу открытых языковых моделей на видеокартах: применяет квантизацию после обучения, оптимизирует KV-кэш, пишет собственные ядра CUDA и использует спекулятивное декодирование. Её купила Nebius, и разработки стартапа встраиваются в платформу Nebius Token Factory.

В новостях

  1. Nebius купила стартап Inferize, который ускоряет запуск ИИ-моделей

    Американский стартап, который разрабатывал способы ускорить работу языковых моделей на видеокартах; вошёл в состав Nebius.