Ascend 950DT
ИИ-ускоритель Huawei семейства Ascend 950 для обучения нейросетей и этапа генерации выходных токенов при работе обученных моделей. Рассчитан на серверные вычислительные системы и использует разработанную Huawei память с высокой пропускной способностью HiZQ 2.0.
проверено по: huawei.com ↗
См. также
- Ascend 950PRИИ-ускоритель Huawei из семейства Ascend 950. Рассчитан на рекомендательные системы и на предзаполнение (prefill) — этап инференса, на котором модель обрабатывает входной запрос. Использует разработанную Huawei высокопропускную память, более дешёвую, чем стандартная HBM. Родственный чип Ascend 950DT предназначен для генерации ответа (декодирования) и обучения, у него больше памяти и выше её пропускная способность.
- Huawei AscendЛинейка ИИ-ускорителей компании Huawei на собственной архитектуре Da Vinci. В неё входят чипы для обучения и инференса нейросетей в центрах обработки данных, а также для периферийных устройств. Это основная китайская альтернатива ускорителям NVIDIA, поставки которых в Китай ограничены экспортным контролем США. Чипы объединяют в крупные кластеры, а программируют через собственный программный стек Huawei.
- Высокопропускная памятьВысокопропускная память (High Bandwidth Memory, HBM) — стандарт JEDEC, в котором кристаллы памяти собирают в вертикальные стопки и размещают в одном корпусе рядом с процессором или ускорителем. Даёт на порядок большую пропускную способность, чем обычная оперативная память, и потому применяется в ИИ-ускорителях и суперкомпьютерах.
В новостях
DeepSeek собирается обучать модель V5 на чипах Huawei, пишут китайские СМИ
Ускоритель Huawei из семейства Ascend 950 с собственной быстрой памятью; рассчитан и на запуск моделей, и на их обучение.