JAX
Открытая библиотека Google для численных вычислений и машинного обучения на Python: она умеет автоматически дифференцировать код, компилировать его через XLA и распараллеливать на ускорителях (GPU и TPU). Используется как альтернатива PyTorch, особенно при обучении крупных моделей на больших кластерах.
проверено по: docs.jax.dev ↗
См. также
- PyTorchОткрытая библиотека (фреймворк) для создания, обучения и запуска нейросетей на Python с ускорением на графических процессорах. Её создала Meta, а с 2022 года проект развивается под управлением PyTorch Foundation в составе Linux Foundation. Один из самых распространённых инструментов машинного обучения в исследованиях и промышленности; среди альтернатив — TensorFlow и JAX.
- TPUТензорный процессор (Tensor Processing Unit) — специализированный чип, который Google разрабатывает для обучения нейросетей и их инференса. В отличие от универсальных графических процессоров, он заточен под матричные вычисления в машинном обучении. Google использует TPU для собственных моделей и сдаёт их в аренду через Google Cloud.
- MaxTextОткрытая библиотека и эталонная реализация обучения больших языковых моделей на JAX, развиваемая в рамках проекта Google AI Hypercomputer. Рассчитана на масштабное предобучение и дообучение на TPU и GPU и служит образцом производительного кода для исследователей и инженеров.
- Google DeepMindИсследовательская лаборатория ИИ, которую основали в Лондоне в 2010 году под названием DeepMind Technologies. В 2014 году её купила Google, а в 2023-м она объединилась с Google Brain и стала называться Google DeepMind. Создала AlphaGo и AlphaFold, разрабатывает модели Gemini.
В новостях
NVIDIA в 10 раз ускорила обучение DeepSeek-V3 на библиотеке JAX
Библиотека Google для численных вычислений и машинного обучения на Python. Компилирует код под видеокарты и TPU через компилятор XLA.