Словарь
Groq 3 LPU
Специализированный чип NVIDIA для инференса языковых моделей, следующее поколение процессора LPU (language processing unit) компании Groq. Данные хранятся в быстрой встроенной памяти SRAM, поэтому чип генерирует токены с низкой и предсказуемой задержкой. Это отдельный чип; из множества таких чипов собирается стойка Groq 3 LPX, которая дополняет платформу Vera Rubin.