ИИтак

← Назад

словарь

Число двойной точности

64-битный формат представления чисел с плавающей запятой по стандарту IEEE 754, также обозначаемый FP64. Обеспечивает больше значащих цифр и более широкий диапазон значений, чем одинарная точность; применяется в научных и инженерных расчётах, требующих высокой численной точности.

См. также

В новостях

  1. NVIDIA анонсировала ускоритель Rubin HPC для научных симуляций

    Формат чисел с плавающей запятой длиной 64 бита (FP64). Он медленнее компактных форматов, принятых в ИИ, но точнее, поэтому на нём держатся классические научные и инженерные расчёты.