FlashMLA

Открытая библиотека DeepSeek с оптимизированными вычислительными ядрами механизма внимания для инференса её моделей. Изначально создана для многоголового латентного внимания (Multi-head Latent Attention, MLA), которое сжимает KV-кэш, а позже получила ядра для разреженного внимания DeepSeek. Работает на GPU NVIDIA и ускорителях Huawei Ascend.