NVIDIA и Принстон ускорили гибридные ИИ-модели на загруженных серверах
Приём ReplaySSM реже переписывает сжатую память, которую модели вроде Qwen3.5 и Nemotron 3 в большинстве слоёв хранят вместо всей истории текста: при 256 одновременных запросах генерация ускоряется в 1,2–1,47 раза.