TileLang
Открытый предметно-ориентированный язык и компилятор с синтаксисом в стиле Python. На нём пишут высокопроизводительные вычислительные ядра для GPU и других ускорителей, например для умножения матриц или FlashAttention. Разработчик описывает поток данных на уровне блоков (тайлов), а распределение работы по потокам, конвейеризацию и другие низкоуровневые оптимизации берёт на себя компилятор на основе TVM. Поэтому, в отличие от программирования на CUDA, вручную писать низкоуровневый код не нужно.
проверено по: github.com ↗
В новостях
На умножении матриц чип Huawei Ascend 950PR выдал до 99,7% своего предела
Язык и компилятор для написания вычислительных ядер под ускорители на питоноподобном синтаксисе. Разработчик задаёт разбиение данных на блоки и размещение в памяти, остальную согласованность берёт на себя компилятор.