Словарь
Transformer Engine
Открытая библиотека NVIDIA с оптимизированными вычислительными ядрами для моделей-трансформеров на её видеокартах, включая поддержку вычислений в пониженной точности (FP8). Подключается к популярным фреймворкам, таким как PyTorch и JAX, чтобы ускорить обучение и вывод без переписывания модели.