Источник · Аналитика
Исследовательская фирма Дилана Пателя о полупроводниках и вычислительной инфраструктуре. Разбирает устройство и экономику дата-центров, ускорителей и облаков для ИИ.
3 новости за 60 дней
Агент дописывает сотни или тысячи токенов к контексту длиной в сотни тысяч. Под такие запросы может понадобиться отдельная группа серверов, считают аналитики.
Engram — часть DeepSeek V4.1-Flash, таблица из готовых векторов для частых сочетаний токенов, около 189 ГиБ. После её переноса в оперативную память копии модели на B300 хватило двух ускорителей вместо четырёх. Выгрузка на SSD оказалась невыгодной.
Медали в третьей версии ClusterMAX получили лишь 19 из 77 провайдеров. Ещё 15 авторы отправили в новый уровень ниже бронзы — для тех, кто делает только необходимый минимум.