Eigen AI
Американский стартап, основанный выпускниками лаборатории HAN Lab Массачусетского технологического института. Компания ускоряет работу открытых языковых моделей на видеокартах: применяет квантизацию после обучения, оптимизирует KV-кэш, пишет собственные ядра CUDA и использует спекулятивное декодирование. Её купила Nebius, и разработки стартапа встраиваются в платформу Nebius Token Factory.
проверено по: techzine.eu ↗
В новостях
Nebius купила стартап Inferize, который ускоряет запуск ИИ-моделей
Американский стартап, который разрабатывал способы ускорить работу языковых моделей на видеокартах; вошёл в состав Nebius.