Словарь
NVFP4
Четырёхбитный формат чисел с плавающей точкой от NVIDIA, который появился вместе с архитектурой видеокарт Blackwell и аппаратно поддерживается только ими. Для каждого небольшого блока значений хранится свой масштабный множитель, поэтому потери точности меньше, чем при обычном четырёхбитном сжатии. По сравнению с FP8 и BF16 модель занимает меньше памяти и работает быстрее, но её качество после перевода в этот формат нужно проверять.