Число двойной точности
64-битный формат представления чисел с плавающей запятой по стандарту IEEE 754, также обозначаемый FP64. Обеспечивает больше значащих цифр и более широкий диапазон значений, чем одинарная точность; применяется в научных и инженерных расчётах, требующих высокой численной точности.
проверено по: docs.nvidia.com ↗
См. также
- LinpackТест производительности компьютеров, в котором машина решает большую плотную систему линейных уравнений методом LU-разложения. Результат выражается в операциях с плавающей запятой в секунду. Название пошло от одноимённой библиотеки линейной алгебры на Фортране. Параллельная версия теста HPL (High-Performance Linpack) лежит в основе рейтинга суперкомпьютеров TOP500.
- ПетафлопсЕдиница производительности компьютера: 10¹⁵, то есть квадриллион операций с плавающей запятой в секунду. Это тысяча терафлопс или тысячная доля экзафлопса. В петафлопсах обычно измеряют мощность суперкомпьютеров и крупных кластеров для обучения нейросетей.
В новостях
NVIDIA анонсировала ускоритель Rubin HPC для научных симуляций
Формат чисел с плавающей запятой длиной 64 бита (FP64). Он медленнее компактных форматов, принятых в ИИ, но точнее, поэтому на нём держатся классические научные и инженерные расчёты.