ИИтак

← Назад

Словарь

MXFP4

MXFP4 — 4-битный формат представления чисел из стандарта микромасштабирования (Microscaling, MX) консорциума Open Compute Project: блок из нескольких десятков элементов делит один общий масштабный коэффициент, а каждый элемент хранится как 4-битное число с плавающей точкой. Применяется для сжатия весов и вычислений моделей ради экономии памяти и ускорения, ценой снижения точности по сравнению с 8- и 16-битными форматами.

← Весь словарь