Суперузел
Вычислительная система из сотен и тысяч ИИ-ускорителей, связанных высокоскоростной внутренней сетью так, что они работают как один большой компьютер (supernode, SuperPoD). Название особенно распространено у китайских производителей: так, например, называются системы Huawei CloudMatrix 384 и Atlas 950. В отличие от обычного кластера, где узлы связаны более медленной сетью, суперузел рассчитан на обучение и запуск самых крупных моделей.
проверено по: 3dnews.ru ↗
См. также
- Huawei AscendЛинейка ИИ-ускорителей компании Huawei на собственной архитектуре Da Vinci. В неё входят чипы для обучения и инференса нейросетей в центрах обработки данных, а также для периферийных устройств. Это основная китайская альтернатива ускорителям NVIDIA, поставки которых в Китай ограничены экспортным контролем США. Чипы объединяют в крупные кластеры, а программируют через собственный программный стек Huawei.
- Ascend 950PRИИ-ускоритель Huawei из семейства Ascend 950. Рассчитан на рекомендательные системы и на предзаполнение (prefill) — этап инференса, на котором модель обрабатывает входной запрос. Использует разработанную Huawei высокопропускную память, более дешёвую, чем стандартная HBM. Родственный чип Ascend 950DT предназначен для генерации ответа (декодирования) и обучения, у него больше памяти и выше её пропускная способность.
- NVL72Обозначение стоечных систем NVIDIA, в которых 72 графических ускорителя объединены через NVLink и коммутаторы NVSwitch в единую сеть и работают как один большой вычислитель. Используется в названиях систем нескольких поколений, например GB200 NVL72, GB300 NVL72 и Vera Rubin NVL72. Такие стойки предназначены для обучения и инференса крупных моделей в дата-центрах.
- GB200Вычислительный модуль NVIDIA (Grace Blackwell Superchip), объединяющий процессор Grace на архитектуре Arm с графическими ускорителями Blackwell через быструю шину NVLink-C2C. На его основе строят серверные стойки для обучения и работы больших ИИ-моделей, в том числе GB200 NVL72.
В новостях
DeepSeek помогает Huawei проектировать ИИ-чипы, пишет The Information
Вычислительная система из десятков или сотен ускорителей. Их связывает быстрая сеть, и для модели они работают почти как один большой компьютер.
Alibaba показала ИИ-чип Zhenwu V900 и готовит модель до 10 трлн параметров
Вычислительная система из множества ИИ-ускорителей, связанных быстрой внутренней сетью так, что они работают как один большой компьютер. Нужна для обучения и запуска самых крупных моделей.