Trainium
Семейство специализированных чипов Amazon Web Services для обучения и запуска нейросетей. Доступно через облако AWS и служит альтернативой графическим ускорителям Nvidia.
проверено по: aws.amazon.com ↗
См. также
- TPUТензорный процессор (Tensor Processing Unit) — специализированный чип, который Google разрабатывает для обучения нейросетей и их инференса. В отличие от универсальных графических процессоров, он заточен под матричные вычисления в машинном обучении. Google использует TPU для собственных моделей и сдаёт их в аренду через Google Cloud.
- Annapurna LabsИзраильская компания-разработчик чипов, основанная в 2011 году и купленная Amazon; теперь это подразделение, проектирующее собственные микросхемы AWS. Среди них процессоры Graviton, карты Nitro и ИИ-ускорители Trainium и Inferentia.
- BlackwellАрхитектура графических процессоров Nvidia, пришедшая на смену Hopper и названная в честь математика Дэвида Блэкуэлла. На ней построены ускорители для ИИ в дата-центрах B200 и B300, а также системы GB200 и GB300, где GPU объединены с процессорами Grace. Это название поколения чипов, а не отдельного продукта.
- H100Графический ускоритель NVIDIA для дата-центров на архитектуре Hopper, преемник A100. Благодаря тензорным ядрам и Transformer Engine с поддержкой FP8 его широко используют для обучения и запуска крупных ИИ-моделей, а также для научных расчётов.
- CerebrasCerebras Systems — американская компания из Калифорнии, выпускающая процессоры и системы для ИИ. Её отличительная черта — чип Wafer Scale Engine размером с целую кремниевую пластину вместо обычного небольшого кристалла; такие системы применяют для обучения моделей и особенно для быстрого инференса, в том числе через облачный сервис компании.
В новостях
Чипы Amazon Trainium справились с обучением моделей в тесте SemiAnalysis
Семейство чипов Amazon для обучения и работы ИИ-моделей. Их сдают в аренду в облаке AWS как альтернативу видеокартам NVIDIA.
Hugging Face и AWS показали, какие модели работают на чипах Trainium
Trainium — ускорители Amazon для обучения и работы ИИ-моделей. Компания сдаёт их в аренду в своём облаке AWS как замену видеокартам NVIDIA.
Amazon выпустила TorchNeuron для запуска кода PyTorch на чипах Trainium
Собственный чип Amazon для обучения и работы нейросетей. Его сдают в аренду через облако AWS.
Amazon и Hugging Face упростили запуск моделей на чипах Trainium
Собственные ИИ-ускорители Amazon для обучения и запуска нейросетей. Их сдают в аренду в облаке AWS.
Amazon обсуждает покупку ИИ-стартапа Decart за 7 млрд долларов, пишет WSJ
Ускорители для обучения и работы ИИ-моделей, которые Amazon разрабатывает сама и сдаёт в аренду в облаке AWS как альтернативу видеокартам Nvidia.